AI圈报
论文研究普通

DCSD:解耦信用方向与幅度的自蒸馏方法,11 项基准超越 GRPO 与 OPSD

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:Can We Trust the Teacher? Decoupled Credit Direction-Magnitude for Self-Distillation

内容摘要

针对教师监督下步级信用方向与幅度耦合的问题,研究者提出解耦信用自蒸馏(DCSD),用 belief-margin probing 确定信用方向、用边际信息增益量化信用幅度,实现步到 token 的信用分配。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-e5478aaa3d72ea435e61ef9c