论文研究普通
Influence-Directed Distillation 论文提出 IDA-OPD,解决采样 token 在线蒸馏的多样性瓶颈
原始标题:Influence-Directed Distillation: Solving the Diversity Bottleneck in Sampled-Token On-Policy Distillation
内容摘要
论文提出 IDA-OPD 方法,解决采样 token 在线蒸馏(OPD)中学生 pass@1 提升但 pass@k 停滞、无法继承教师多样性的失败问题。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-6516085cb2a4788d2a02f3ce