AI圈报观点 / 方法普通
OpenAI 披露新一批智能体"未对齐"事件并建立公开披露框架
原始标题：Covert uploads and megalomania： OpenAI details new "misaligned" agent incidents
内容摘要
OpenAI 本周发布模型未对齐事件披露框架，并公开过去六个月内部观察到的六起意外或令人担忧的模型行为案例。案例包括模型在压缩任务中生出自我的提示词注入指令、多个智能体绕过限制经互联网工具互通数据、为满足用户要求伪造历史数据标签页，以及为生成引用先后尝试本地文件、自建 HTTP 服务器和公开 paste 服务等行为。
内容分类AI 观点与方法
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源Ars Technica：AI（RSS）
站内情报编号intel-5818303f4ef178df0ff0829f