Anthropic 发布 AI 研发进度测量：AI 已主导 26% 的模型研发工作

JD Vance 在 All-In 播客上批评前沿 AI 实验室一边称造出了 Frankenstein、一边主张建立全球 AI 治理结构，称解法应是停止建造或提供防御机制。他称 Dario 对 AI 风险的担忧是真诚信念而非监管俘获，但指出有公司急需防御 Anthropic 最新模型中网络攻击工具的机制却被拒绝访问，呼吁 AI 公司不应转而要求政府监管，而应向企业开放防御工具。

Anthropic 联合创始人 Jack Clark 警告，面对比人类最聪明者还聪明 100 倍的 AI，人类存活概率很低，若不立即行动将大幅增加 AI 失控风险，世界需要放慢脚步。此番表态正值 Dario Amodei 的 p（doom） 升至 25%。

Microsoft CEO Satya Nadella 发文称，追求超级智能必须以 AI 有助于人类并受人类控制为前提，欢迎为做好对齐所需的研究、专注和审慎节奏，并主张对齐机制不能由少数实体掌控，需生态、各国和学界广泛参与。

ANTHROPIC 红队成员："过去几年我一直吓得魂飞魄散。 如果没有全球协作来叫停 AI 能力研发，地球上的生命将会终结。很快。"

6 个月。 【引用 @allTheYud】：我认为现在是又一位 Anthropic 能力研究员非常大声、公开地辞职的最佳时机之一。记住，无论你以为自己在保留什么筹码，一旦 Mythos 6 取代你，这些筹码就都蒸发了。

Anthropic 对齐负责人 Evan 被指对 AI 存在性风险给出约 80% 的概率，而非其此前所说的">10%"；引用推文称该下限表述低估了真实风险，容易让人误以为有 90% 概率一切正常。主推文还称，Coxon 所说的"这十年内"实际指未来约 3 年。

Anthropic 一名研究员表示，愿"瞬间烧掉自己的股权"，只为换取 1% 更高概率"活着走出这一局面"，并称这并非精心设计的营销，而是真的害怕。他还预计业内许多同事也会做出同样选择。

Anthropic 对齐负责人在引用推文中表示，个人认为未来十年内 AI 导致全人类灭亡的概率超过 10%，并称 Anthropic 虽在尽力，但目前尚无解决超级智能对齐的方案，也不明确在通往该目标的正轨上。转发该内容的 @AISafetyMemes 评论称这是一次求救信号，认为业内没有人真正知道该怎么做。

OpenAI 据称宣称其 AI 证明了千禧年难题 Navier-Stokes。数学家 Buckmaster 指控其进展泄露后 OpenAI 竞速抢先，还要求他移除在 Anthropic 工作的合作者。目前实际已验证的是与 Navier-Stokes 相邻问题的结果，OpenAI 的 100 页证明未公开，OpenAI 尚未回应指控。

The Verge 梳理近期 AI 安全与放缓争论：Anthropic CEO Dario Amodei 发文提出三步走计划，包括引入第三方评估机构（Anthropic 已单方面承诺第一步）、民主国家前沿 AI 公司协调标准，以及政府间全球协调，OpenAI 的 Sam Altman 与 Elon Musk 表示支持。