论文研究普通
Perplexity 与英伟达提出 JOLT 自蒸馏训练法
原始标题:Sharing new post-training research on self-distillation + RL (JOLT), done together with @NVIDIAAI.
内容摘要
Perplexity 与 NVIDIA AI 提出后训练方法 JOLT,让同一模型同时充当教师和学生,并训练教师从自身尝试的奖励中学习、惩罚偏离学生行为的漂移。在 MATH 基准上,JOLT 用少 6.5 倍的训练 token 达到与 GRPO 相当的准确率。JOLT+ 在此基础上为学生模型增加结果奖励,在数学、编程、终端任务和工具使用基准上明显优于 GRPO。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)
站内情报编号intel-bd7b7fe2f87c90fad5781b13