TRL documentation

MergeModelCallback

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MergeModelCallback

classe trl.experimental.merge_model_callback.MergeModelCallback

< >

( merge_config: MergeConfig | None = Nonemerge_at_every_checkpoint: bool = Falsepush_to_hub: bool = False )

Paramètres

  • merge_config (experimental.merge_model_callback.MergeConfig, facultatif) — Configuration utilisée pour le processus de fusion. Si aucune n’est fournie, la configuration par défaut MergeConfig est utilisée.
  • merge_at_every_checkpoint (bool, facultatif, valeur par défaut False) — Indique s'il faut fusionner le modèle à chaque point de contrôle.
  • push_to_hub (bool, facultatif, par défaut False) — Indique s'il faut pousser le modèle fusionné sur le Hub après la fusion.

Un TrainerCallback qui fusionne le modèle de politique (le modèle en cours d’entraînement) avec un autre modèle sur la base d’une configuration de fusion.

Exemple :

>>> from trl.experimental.merge_model_callback import MergeConfig, MergeModelCallback

>>> config = MergeConfig()
>>> merge_callback = MergeModelCallback(config)
>>> trainer = DPOTrainer(..., callbacks=[merge_callback])
Update on GitHub