Hugging Face 发布用于后训练的 TRL v1.0
hugging face 發布了 trl v1.0,這是一個包含超過 75 種方法的後訓練庫,涵蓋 ppo、dpo 和 grpo。該庫每月處理 300 萬次下載,並採用適應混亂的設計以應對快速變遷的 ai 範式。它在統一的包內區分了穩定和實驗性代碼。
Hugging Face 发布了 TRL v1.0,这是一个用于训练后大型语言模型的库。该库实现了 75 多种方法,涵盖了从 PPO 到 DPO 和 RLVR 风格的方法,如 GRPO。它通过避免诸如奖励模型等僵化的抽象来解决人工智能领域的不稳定性,这些抽象在不同算法中会发生变化。TRL 目前每月支持 300 万次下载,并被 Unsloth 和 Axolotl 等主要下游项目用作基础设施。