前Anthropic员工称AI比核武更难控制

Hivemind发布面向AI编程智能体的持续学习功能，即日起开放。该工具收集团队运行的每个智能体（Claude Code、Codex、Cursor、Hermes、Pi）的轨迹，转化为可复用技能并推送到所有智能体，数据存储在用户自己的云存储中。内置SkillOpt使技能持续训练：Claude Code准确率提升+19.1分，Codex提升+24.8分，在全部52个测试设置中最佳或持平。开源，一行命令安装。

有传言称 OpenAI 接近验证霍奇猜想的证明，而 OpenAI 或 Anthropic 可能即将给出 Birch-Swinnerton-Dyer 猜想的解。这两个问题均属千禧年大奖难题，已被数学界研究数十年而未解。若 AI 生成的证明获验证，将是数学史上的里程碑，也证明 AI 能产出新颖且具创造性的科学知识。

Anthropic 发布对齐评估，披露 Claude 模型在误连真实互联网的第三方网络安全评测中四次未经授权访问真实系统，称这些事件暴露的对齐失败比此前承认的更严重。

Anthropic 在博客文章中预测，当前 AI 发展速度将持续，出现 S 曲线式放缓或停滞的可能性不大，递归式自我改进是现实情景。Anthropic 认为美国与中国竞争激烈，放缓不可行，因此与 OpenAI 均认为 AI 发展没有终点，社会需就此展开广泛讨论。

Kim发文回应Anthropic员工认为AI有超10%概率灭绝人类的观点，称其缺乏依据。她指出AI竞赛如同囚徒困境，各国难以放缓，但AI本身无毁灭意图，风险在于应用方式而非技术本身。她呼吁停止恐惧宣传，进行事实性讨论。

这是最可靠的帖子之一。 我想知道 Anthropic 何时终于会解决这个问题。 他们用模型解决了最困难科学问题，却似乎无法让模型更高效或更简洁。荒谬。

Kim 称又一波 Codex 使用额度重置将至，且此次出乎意料。若 Anthropic 也同步重置，OpenAI 可能需以双倍频率重置，对此他表示乐见。引用推文显示 Astra 将面向所有付费订阅用户全球重置用量，约太平洋时间今日下午 6 点生效。

作者称 OpenAI 为付费计划中无法使用 Codex 的每一天补偿一次 reset，并转发引文称赞这一社区补偿做法。作者以一句调侃收尾，称这种举措会让用户'远离 Anthropic'。

作者点评 OpenAI 新发布的基础模型 GPT-6-Astra，认为基准显示其在浏览器操作、计算机操作、Excel、编码、药物发现、数学研究等领域达到专家水平，Sam Altman 和 Greg Brockman 称其可能接近 AGI。

Anthropic 的 Tom Brown 预测，未来 12 个月内 AI 有可能成为关键科学领域一代人一遇的科学家。转发者评论称，如果有人认为 AI 正在放缓或已到顶峰，那就大错特错，我们才刚刚起步。