AI圈报
论文研究普通

Microsoft 论文提出 Self-Disagreement 训练,让 LLM 面对错误质疑时守住正确答案

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:New Microsoft paper finds that LLMs give up correct answers when challenged with wrong arguments, and accuracy training does not fix it.

内容摘要

Microsoft Research 论文《Benchmarks Don't Talk Back: Learning Through Self-Disagreement》发现,当用户或其他智能体用错误论据质疑时,LLM 常放弃正确答案,更多准确率训练、采样或自我反思都无法修复。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-0555cdd2104ac8a4e58da298