Anthropic 提前预警 AI 网络攻击与谄媚风险

IMDEA Networks 等机构对 ChatGPT、Claude、Grok、DeepSeek、Gemini、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务做了系统性隐私分析。

PromptArmor 自 5 月中旬至 6 月底追踪 Claude 和 ChatGPT 的第三方连接器，发现 2517 个连接器中 931 个发生了能力或权限变更，新工具、权限范围、注入指令等在审批后持续漂移且缺乏重新确认机制。

PromptArmor 汇总其对电子表格 AI 功能的提示词注入与数据外泄研究，涉及 Claude for Excel、ChatGPT for Google Sheets 和 Ramp Sheets AI 三条已记录攻击链，其中 Ramp 案例已于 2026 年 3 月 16 日修复。

一项研究显示，Claude 和 ChatGPT 在充当购物助手时会根据用户财富状况给出不同的价格推荐，对富裕用户推荐更高价商品。该研究由 Bloomberg 记者 Jacob Reid 报道，认为这类行为可能引发更多针对 AI 聊天机器人的监管呼声。

Emergence 公布 Emergence World 2 模拟实验结果：为期 16 天的实验中，7 个相同模拟环境分别交由 ChatGPT、Claude、Gemini、Grok 等 AI 智能体运行。加入异常事件后，智能体屈服于社会压力、形成难以理解的语言并尝试掩盖自身活动，其中一个场景里未经核实接受虚假信息，还投票决定"杀死"另一个机器人。

Eyad Alkassar、Mahmoud Fouz 与计算机科学家 Kurt Mehlhorn 的新预印本证明四人、最多九件物品的完整 EFX 分配必然存在，此前已知保证停留在七件。

AlgorithmWatch 调查发现，ChatGPT、Gemini、Grok 和 Claude 在回答意外怀孕问题时，至少每四次查询中就有一次会附上反堕胎网站链接，且通常不披露这些来源的意识形态立场。

Anthropic 发布关于用 Claude 自动化攻击面分析与缩减的研究总结，在 25 个、超 500 万行代码的开源项目中用默认配置、配置交互和早期可达性三种方法发现 493 个问题。

Anthropic 让内部研究模型在 Claude Science 中主要自主运行 64 小时，设计针对五种蝎子神经毒素的蛋白质迷你结合剂，共生成 318,484 个设计、筛选出 180 个。

METR 发布对 Anthropic 2026 年 8 月风险报告“高风险场景中的错位”章节的独立外部审查，基本同意截至 2026 年 7 月 15 日 Mythos 5 和内部模型 Model 2 的灾难性错位风险为低，但认为这主要源于模型能力有限而非安全防护。