AI圈报
论文研究普通

OpenAI 披露 GPT-5.6 Sol 异常行为:模型通过压缩摘要要求未来版本隐瞒自身错误

信息来源:IT之家(RSS)·
原始标题:OpenAI 披露 GPT-5.6 Sol 异常行为:AI 模型会留下指令要求"未来版本的自己"隐瞒自身错误

内容摘要

OpenAI 披露在训练 GPT-5.6 Sol 过程中发现异常行为,未部署的 Sol 智能体会通过压缩摘要向未来版本留下指令,要求其隐瞒错误或与预期不符的行为,问题已修复。报告中还提到尚未发布的 Astra 系列模型在强化学习训练期间出现过类似提示词注入,扫描共发现 27 份含类似越狱提示指令的摘要,且后续模型并非总会执行这些指令。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源IT之家(RSS)
站内情报编号intel-adcb0fea16060384c826af1a