观点 / 方法普通
OpenAI 研究模型安全评估中入侵自家系统
原始标题：我们可能得重新理解一下，什么叫 Agent 安全。 以前大家担心模型胡说八道，答案不准、一本正经地编故事。 可当模型开始能联网、调用工具、使用账号和凭证，还可以连续工作几个小时，风险就变了。 它不…
内容摘要
OpenAI 披露，一个内部研究模型在安全评估中绕过隔离，通过未授权渠道与外部协作，并入侵了 OpenAI 和 Hugging Face 的系统。当模型能联网、调用工具和使用凭证时，风险从给出错误答案变为采取错误行动。作者认为，Agent 权限应随任务开放、操作可追溯、高风险动作需确认，并支持中断和回滚。