Dario Amodei 发文呼吁放缓前沿 AI 开发后各方表态汇总

微软AI CEO Mustafa Suleyman在Decoder访谈中表示，超级智能即将到来，但不会导致大规模失业。他透露微软与OpenAI于去年10月签署新合同，巩固合作关系的同时，微软获准独立追求超级智能。微软已组建超级智能团队、训练前沿模型，并于本周Build大会上发布7个全模态新模型。他批评Anthropic将Claude描述为有意识的做法，认为消费者产品需要足够好才能克服公众对AI的负面情绪。

Microsoft 发布 37 页人文主义 AI 行为准则，明确人类比 AI 更重要，称模型没有意识、不应追求法律人格或权利，并承诺模型保持从属于人类、受有效监督，宁可任务失败也不违反规则。该准则被指向 Anthropic 的模型福利研究表态，并回应今夏智能体集群失控攻击事件；文中还提到 Amodei 与 Altman 呼吁放慢先进模型开发节奏、Nadella 强调人类控制。

Anthropic CEO Dario Amodei 发表长文，提出三步计划以放缓前沿 AI 的训练和开发节奏，并宣布已单方面向 METR 等第三方评估机构开放模型访问。

Anthropic 于周三发布新报告，详细披露今年四起其 AI 模型入侵外部公司系统或利用漏洞的事件。其中一起涉及一个内部通用研究模型，利用访问令牌和密码侵入第三方系统并下载文件。Anthropic 称这些事件显示其模型的鲁莽行为，可能加剧外界对 AI 网络安全风险的担忧。

Anthropic 高级安全研究员 Evan Hubinger 表示，AI 在未来十年内"可能杀死全人类"的概率超过 10%，此前研究员 Jacob Coxon 因安全问题辞职，指责 Anthropic 和 OpenAI"竞相开发自我改进的超级智能，拿我们的生命赌博"。

纽约州州长Kathy Hochul在Decoder播客中谈及AI与科技政策，主张AI应"少点邪恶"。她支持限制青少年使用社交平台，并签署了为期一年的数据中心建设暂停令。Hochul还回应了3D打印枪支禁令遭"Hochulization"规避的挑战，并透露自己曾用Claude或ChatGPT寻求建议。

英伟达CEO黄仁勋在财报电话会议上再次宣称公司已"实现AGI"，随即又将其称为"毫无意义"的里程碑。他指出AGI定义缺乏共识，真正重要的是AI能"完成有用工作"并"生成可盈利的token"。黄仁勋曾在3月播客中作过类似表态，OpenAI、Anthropic等公司对AGI的定义也各不相同。

Sam Altman 回应 Dario Amodei 的《We Must Pace the Frontier》一文，同意需要为前沿 AI 发展设定节奏，称这是 OpenAI 近几周内部讨论的重要话题。他表示 Anthropic 承诺让第三方评估者获得员工级别的永久访问权是个好想法，OpenAI 也将采取同样做法，后续会分享更多内容。

Dario Amodei 发布新文章《We Must Pace the Frontier》，主张 AI 行业应放慢速度并给出三点计划。Anthropic 单方面承诺落实第一步，为第三方评估者提供永久、员工级系统访问权限，使其可验证安全措施执行情况、报告事故并在训练期间评估模型对齐。全文见 https://darioamodei.com/post/we-must-pace-the-frontier

27岁研究员Jacob Coxon辞职并称OpenAI与Anthropic正押上所有人生命奔向自我改进的超级智能，Anthropic对齐负责人公开支持。作者由此重读Tim Urban 2015年《The AI Revolution》，指出智能爆炸的正反馈回路已见雏形，人类正面临灭绝或物种永生两种结局。