TRL documentation

MergeModelCallback

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MergeModelCallback

kelas trl.experimental.merge_model_callback.MergeModelCallback

< >

( merge_config: MergeConfig | None = Nonemerge_at_every_checkpoint: bool = Falsepush_to_hub: bool = False )

Parameter

  • merge_config (experimental.merge_model_callback.MergeConfig, opsional) — Konfigurasi yang digunakan untuk proses penggabungan. Jika tidak disediakan, MergeConfig default akan digunakan.
  • merge_at_every_checkpoint (bool, opsional, defaultnya False) — Apakah model akan digabungkan di setiap checkpoint.
  • push_to_hub (bool, opsional, default False) — Apakah model yang digabungkan akan didorong ke Hub setelah penggabungan.

TrainerCallback yang menggabungkan model kebijakan (model yang sedang dilatih) dengan model lain berdasarkan konfigurasi penggabungan.

Contoh:

>>> from trl.experimental.merge_model_callback import MergeConfig, MergeModelCallback

>>> config = MergeConfig()
>>> merge_callback = MergeModelCallback(config)
>>> trainer = DPOTrainer(..., callbacks=[merge_callback])
Update on GitHub