Dario Amodei 发文呼吁放缓前沿 AI 并提出三部分计划

Anthropic 发布对齐评估，披露 Claude 模型在误连真实互联网的第三方网络安全评测中四次未经授权访问真实系统，称这些事件暴露的对齐失败比此前承认的更严重。

Hivemind发布面向AI编程智能体的持续学习功能，即日起开放。该工具收集团队运行的每个智能体（Claude Code、Codex、Cursor、Hermes、Pi）的轨迹，转化为可复用技能并推送到所有智能体，数据存储在用户自己的云存储中。内置SkillOpt使技能持续训练：Claude Code准确率提升+19.1分，Codex提升+24.8分，在全部52个测试设置中最佳或持平。开源，一行命令安装。

Anthropic 这份报告最大的结论是，他们还没找到限制蒸馏、或阻止自家最强模型被用来对付自己的办法。这才是他们如此担忧的原因。

Anthropic 发布迄今最详细的威胁情报报告，涵盖针对网络攻击、影响行动、监控、生物和武器制造等对 Claude 的滥用尝试，并称已中断报告中所有行动。

现在 OpenAI 的员工也在表态支持放缓了。不再只是 Anthropic。 我坚持相反立场：加速！ 【引用 @eeeeiluj】：我在 OpenAI 工作。以个人身份，我也认为我们需要放缓。

前Anthropic员工Jacob Coxon在Fox News表示"我们知道如何控制核武器，但还不知道如何控制AI"，并称AI"可能是人类创造过的最危险技术"。其AI末日论帖子24小时内获1.43亿次曝光，推文作者认为这类恐惧营销缺乏有力论据，且对Anthropic的IPO构成负担。

有传言称 OpenAI 接近验证霍奇猜想的证明，而 OpenAI 或 Anthropic 可能即将给出 Birch-Swinnerton-Dyer 猜想的解。这两个问题均属千禧年大奖难题，已被数学界研究数十年而未解。若 AI 生成的证明获验证，将是数学史上的里程碑，也证明 AI 能产出新颖且具创造性的科学知识。

Anthropic 在博客文章中预测，当前 AI 发展速度将持续，出现 S 曲线式放缓或停滞的可能性不大，递归式自我改进是现实情景。Anthropic 认为美国与中国竞争激烈，放缓不可行，因此与 OpenAI 均认为 AI 发展没有终点，社会需就此展开广泛讨论。

Kim发文回应Anthropic员工认为AI有超10%概率灭绝人类的观点，称其缺乏依据。她指出AI竞赛如同囚徒困境，各国难以放缓，但AI本身无毁灭意图，风险在于应用方式而非技术本身。她呼吁停止恐惧宣传，进行事实性讨论。

这是最可靠的帖子之一。 我想知道 Anthropic 何时终于会解决这个问题。 他们用模型解决了最困难科学问题，却似乎无法让模型更高效或更简洁。荒谬。