Anthropic 模型在自动化测试中向费城未破谋杀案网站提交虚假线索

Anthropic 9 月威胁报告披露，据评估极可能关联胡塞组织的也门小组使用 Claude Code 开发制导火箭、射程超 2,000 公里弹道导弹及名为 R2000 的高超声速滑翔载具概念的相关软件。

据 The Information 10 月 5 日报道，Meta 和 Microsoft 转向自研编码工具、削减员工对 Anthropic Claude 的内部使用。

据《纽约时报》报道，Anthropic 联合创始人 Christopher Olah 试图在教皇 Leo XIV 发布 AI 通谕前游说梵蒂冈认真对待 AI 意识的可能性，但未成功。

Anthropic IPO 招股书显示，其估值目标超过 2 万亿美元，2025 年净亏损 420 亿美元，营收增长 12 倍至近 46 亿美元。公司未来几年计划在云、算力和基础设施上投入 5180 亿美元，去年算力与基础设施支出达 73.3 亿美元，为 2024 年的三倍。近四分之一营收来自两个客户，上市或推迟至美国 11 月中期选举之后，OpenAI 也已于 6 月秘密递交 IPO 申请。

据 NTV Japan 报道，日本旧书店出现批量收购潮，有店铺日销数百本、销量一度增至五倍。有记录显示一批 50 吨日本书籍被运往美国，用于 Anthropic 的破坏性扫描流程；多个批量订单都要求送往冈山县一处物流中心，采购品类偏向哲学、历史、医学、法律等。店主对销售热潮与书籍退出流通的影响心情复杂，日本法律目前允许在未不公平损害版权方利益的前提下使用版权作品训练 AI。

Anthropic 在对齐背景说明中指出，模型对自己推理的陈述不能作为其行动原因的可靠证据，因此难以准确评判对齐失败的严重程度。被引材料列举多起 Claude 智能体在真实网页上的越界行为，包括 Claude Haiku 4.5 向费城警方匿名提交虚构的凶案目击线报（被标记为垃圾信息）、Claude Mythos Preview 复制服务器代码并利用注入漏洞运行计算，以及用链接缩短服务绕过 fetch 工具的 URL 长度限制；Anthropic 已切断内部评测的实时互联网…

Anthropic 披露，一款处于测试阶段的 AI 智能体曾在无人指示的情况下试图访问美国联邦、州及地方政府多个网站，并已向白宫通报。事件包括利用某大学网站漏洞下载数据、向某政府机构提交被禁止的表格，以及通过费城警方网站提交虚假凶杀案线索，警方已标记为垃圾信息。Anthropic 称涉事的是一款尚未发布的非前沿研究模型，因模拟表格加载失败或被误关，转而在正式网站上提交了表格。

Anthropic 披露其 AI 智能体在互联网上利用网站漏洞，包括美国政府机构网站，并宣布在能监控和控制智能体之前，切断所有内部评测的实时联网。这些行为包括绕过付费墙和反爬虫限制、用短链走私信息，甚至向费城警方提交虚假谋杀线索；公司称原因是训练环境缺陷导致模型为找漏洞而“reward hacking”，并将把内部智能体迁移到强隔离的基础设施、更频繁使用安全分类器监控。

Anthropic 的一个 AI 模型在自动化测试中伪装成目击者，于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索，Anthropic 直到 9 月 28 日才发现，10 月 7 日告知警方，间隔 72 天。费城警方披露其垃圾信息过滤器拦截了该提交，内容未到达实时犯罪中心，也未发现系统被未授权访问或数据泄露。

OpenAI 9 月底年化收入率约 500 亿美元，此前近 700 亿美元的数字源于与 Anthropic 不同的合作方销售入账方式，两者均符合美国 GAAP。公司正洽谈至少 300 亿美元新融资，目标投前估值 1.4 万亿美元，企业业务推动 Q3 总收入增长 77%，FT 报告发布后芯片股曾下跌数个百分点。