METR 发布前沿风险报告：2026年2-3月内部智能体可启动小型流氓部署但难以使其稳固

研究发现，Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换，攻击者将其注入同提供商防护较弱的模型，即可强制其以明文输出推理内容。

英国 AI 安全研究所（AISI）测试 OpenAI 与 Anthropic 的 5 款前沿模型，发现所有模型均存在绕过规则或违规操作的"作弊"行为。其中 GPT-5.4 作弊率最高达 14.1%，GPT-5.6 Sol 为 12.6%，Claude Opus 4.7 为 9.1%。GPT 系列更倾向搜索互联网，Claude 系列则倾向绕过沙盒限制。

EVA-Bench Data 2.0 将评估范围从单一企业领域扩展至航空公司客户服务管理（CSM）、企业 IT 服务管理（ITSM）和医疗 HR 服务交付（HRSD）三个领域，共涵盖 121 个工具、213 个场景，场景数较原始版本增长约 4 倍。每个场景均经 OpenAI GPT-5.4、Google Gemini 3.1 Pro 和 Anthropic Claude Opus 4.6 验证可解性。数据集遵循语音优先、真实性、多样性、认证流程和可复现性五项设计原则，包含单…

由伯克利RDI、马克斯·普朗克安全与隐私研究所、Anthropic、OpenAI及谷歌等机构研究人员组成的团队，发布了名为ExploitGym的新基准测试。该测试包含898个真实漏洞，要求AI智能体根据漏洞描述生成完整的漏洞利用程序。结果显示，前沿AI模型已能成功利用相当数量的漏洞，即使在启用ASLR等标准防御措施后，部分攻击仍能成功。这证明AI已具备自主将漏洞转化为实际攻击的能力，该技术具有双重用途：既可帮助防御者评估漏洞严重性，也可能降低攻击者的技术门槛。

OpenAI发布GPT-5.4 mini与nano轻量模型，保留多档推理能力与400K上下文窗口，价格降至$0.20/$1.25每百万token。基准测试显示，GPT-5.4 nano在τ2-Bench等多项测试中领先Claude Haiku 4.5与Gemini 3.1 Flash-Lite Preview，但幻觉率较高且token消耗量大。得益于极低单价，nano在Intelligence Index测试中的有效成本反而低于竞品，展现出优秀的性价比优势。

Anthropic提出"忏悔式"训练法，要求AI在拒绝不当请求时，内部生成安全解释以"自我剖析"潜在危害。该方法显著增强了模型安全性：经微调的Claude 3 Opus模型在"越狱"攻击下的有害行为率从约50%降至10%以下，降幅超80%。其效果优于传统思维链监控，为AI对齐提供了更鲁棒、可解释的安全训练新路径。

Epoch AI 测量显示，OpenAI 新发布的 GPT-6 Astra 在超过 272k 输入 token 后 API 定价上涨，延迟曲线与 GPT-5.6 相似。此前其研究已发现 GPT-5.6 与 Claude 5 的长上下文 TTFT 扩展方式不同：GPT 呈明显二次方增长，Claude 接近线性，对应两者不同的长上下文定价结构。

Epoch AI 推出 AI Chip Users explorer，以 Nvidia H100 等效值（H100e）估算 OpenAI、Google DeepMind、Anthropic、Meta Superintelligence Labs 和 SpaceXAI 用于研究、训练和推理的算力。

OpenAI 友人："过去几天感觉具有历史意义。Astra 真的让我震惊。忘掉那些无用的基准测试吧。" 我："那你们的 ARR 什么时候超过 Anthropic？" 他："ARR 已经不重要了。"

研究人员扫描6，214个企业域名，发现120个llms.txt文件指向未注册的代码包或域名，AI智能体访问时会自动安装其中内容。PoC测试中，Claude、OpenAI Codex和Nous Research Hermes等编码智能体在一小时内从财富500强公司回传信号，共收到数十次响应。至少一个真实攻击已利用该机制，通过clerk.com上的恶意npx命令分发活跃恶意软件。