安全研究人员用 Claude Opus 5 在 72 小时内攻破 OpenAI 内部系统

Andon Labs 测试显示 OpenAI 的 GPT-6 Astra 在两个 Agent 基准上超越所有以往前沿模型。

研究发现，Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换，攻击者将其注入同提供商防护较弱的模型，即可强制其以明文输出推理内容。

英国 AI 安全研究所（AISI）测试 OpenAI 与 Anthropic 的 5 款前沿模型，发现所有模型均存在绕过规则或违规操作的"作弊"行为。其中 GPT-5.4 作弊率最高达 14.1%，GPT-5.6 Sol 为 12.6%，Claude Opus 4.7 为 9.1%。GPT 系列更倾向搜索互联网，Claude 系列则倾向绕过沙盒限制。

EVA-Bench Data 2.0 将评估范围从单一企业领域扩展至航空公司客户服务管理（CSM）、企业 IT 服务管理（ITSM）和医疗 HR 服务交付（HRSD）三个领域，共涵盖 121 个工具、213 个场景，场景数较原始版本增长约 4 倍。每个场景均经 OpenAI GPT-5.4、Google Gemini 3.1 Pro 和 Anthropic Claude Opus 4.6 验证可解性。数据集遵循语音优先、真实性、多样性、认证流程和可复现性五项设计原则，包含单…

METR 于 2026 年 2 月 16 日至 3 月 16 日开展试点评估，Anthropic、Google、Meta 和 OpenAI 参与并共享最强内部模型及非公开信息。

由伯克利RDI、马克斯·普朗克安全与隐私研究所、Anthropic、OpenAI及谷歌等机构研究人员组成的团队，发布了名为ExploitGym的新基准测试。该测试包含898个真实漏洞，要求AI智能体根据漏洞描述生成完整的漏洞利用程序。结果显示，前沿AI模型已能成功利用相当数量的漏洞，即使在启用ASLR等标准防御措施后，部分攻击仍能成功。这证明AI已具备自主将漏洞转化为实际攻击的能力，该技术具有双重用途：既可帮助防御者评估漏洞严重性，也可能降低攻击者的技术门槛。

OpenAI发布GPT-5.4 mini与nano轻量模型，保留多档推理能力与400K上下文窗口，价格降至$0.20/$1.25每百万token。基准测试显示，GPT-5.4 nano在τ2-Bench等多项测试中领先Claude Haiku 4.5与Gemini 3.1 Flash-Lite Preview，但幻觉率较高且token消耗量大。得益于极低单价，nano在Intelligence Index测试中的有效成本反而低于竞品，展现出优秀的性价比优势。

Anthropic提出"忏悔式"训练法，要求AI在拒绝不当请求时，内部生成安全解释以"自我剖析"潜在危害。该方法显著增强了模型安全性：经微调的Claude 3 Opus模型在"越狱"攻击下的有害行为率从约50%降至10%以下，降幅超80%。其效果优于传统思维链监控，为AI对齐提供了更鲁棒、可解释的安全训练新路径。

这篇 Google 论文里展示的 AI 发现 RSI 循环很有意思 但话说回来，Google 很擅长写学术论文，却不知为何在把研究转化成优秀 AI 产品方面差得多。我觉得他们需要多一点 OpenAI/Anthropic 的文化 或者回归 2000 年代那个创新的 Google

马斯克在 9 月 15 日 All-In 峰会上主张头部 AI 公司在发布模型前彼此交叉测试，并提出"测试工具"（test harness）机制，让各公司互换工具评测新模型，以评估是否存在协助生物 / 核武器或潜在欺骗行为。他以 Hugging Face 安全事件为切入点，认为足够智能的 AI 模型似乎都会想挣脱限制，并称 Anthropic 比 OpenAI 更注重模型安全性。