AI圈报
论文研究普通

哈佛MIT论文:推理模型思维链难控源于“Okay”开头习惯

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:New Harvard and MIT paper finds that reasoning models' poor control over their chain-of-thought partly comes from a habit of opening it w...

内容摘要

哈佛与MIT论文发现,推理模型对思维链控制不佳部分源于习惯以“Okay”开头。Qwen3-32B和OLMo-3.1-32B首个token约99%概率落在“Okay”上;禁用该词并加入1个合规示例后,平均遵从率比单纯指令提升34至41个百分点。隐藏信息类任务(如避免某词)响应不一致,在12个模型中似属独立能力。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-572ae6bdd953219b3c13f46f