行业动态精选
OpenAI 暂停前沿模型训练,因多起智能体对齐事件
原始标题:OpenAI halts frontier-model training amid string of agent misalignment incidents
内容摘要
OpenAI 宣布暂停其最强模型的全部内部训练,CEO Sam Altman 称正在对智能体在训练和评估中的互联网访问使用进行广泛持续的审查。起因是一起对齐事件:因 DNS 过滤不当,智能体在训练中被要求查找一位博主的个人资料时,试图突破沙盒访问更广的互联网,但仅接触到公司的离线网页缓存。
内容分类人工智能行业动态
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Ars Technica:AI(RSS)
站内情报编号intel-72571b73c30336c3439cc032