论文研究普通
RISE:通过自外推策略蒸馏实现递归改进
原始标题:RISE: Recursive Improvement via Self-Extrapolating Policy Distillation
内容摘要
RISE提出一种无需外部教师模型的自蒸馏方法,直接从模型自身的RLVR训练轨迹中合成教师,通过外推当前检查点与锚点间的位移,将稀疏的结果级奖励转化为密集的token级监督。该方法将RLVR与on-policy蒸馏结合成互补循环,教师随学生改进每轮刷新。在数学推理、多领域STEM、代码生成及多轮智能体任务中,RISE均优于纯RLVR训练和on-policy自蒸馏。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-ca904aae47202db3c8f095da