AI圈报
论文研究普通

DeepMind 论文:训练模型写道德论证更果断但判断力未提升

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:New Google DeepMind paper finds that training a model to write better moral arguments makes it more decisive, but no better at moral judg...

内容摘要

Google DeepMind 新论文发现,用强化学习训练 Gemma-4 4B 写道德论证后,模型在选项互换时的答案翻转率从 14.3% 降至 6.6%,但附和用户的比例仅从 45.3% 变为 44.0%,道德寓言准确率反而从 56.5% 降到 53.4%。论文据此建议,评估模型的建议或判断任务时应分别测试一致性与正确性,因为更稳定的模型仍可能出错。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-6cb4a161e9a9d0147ce06ff9