Demis Hassabis 谈 AI 与人类心智

改变我的想法，但最近这波关于AI放缓的恐慌似乎是有组织的 如果anthropic + 有效利他主义那群人在帮忙推动这套叙事、让这条末日论推文疯传，我一点也不会意外 但看到elon和sam配合dario的减速框架，挺让人难过的

OpenAI和Anthropic其实都不想为了安全测试而放慢AI 相反，他们利用围绕中国的炒作和恐惧来为全速推进辩护： "如果我们多等哪怕一个月，开放权重模型就会追上，所以我们承担不起暂停开发的代价"

Dario Amodei 发布文章《We Must Pace the Frontier》，提出放慢 AI 行业的三部分计划，Anthropic 单方面承诺第一步，向第三方评估者提供永久员工级系统访问权限。

我不相信 Google 已经实现 RSI 的传闻 但他们的发布节奏确实非常快，而且自从 flash 3.7-3.8 模型以来，他们谈论 RSI 的频率高了很多 Google 在研究层面一直很认真，我们也已经看到，一个实验室的私有模型可以比其公开模型领先多少

25位菲尔兹奖得主发布联合声明，警告AI公司与数学界之间存在严重错位，认为AI公司把解数学题当基准的做法有损数学科学和数学社区，并视其为影响更广泛科学和创意职业的对齐问题的一部分。转发者 Haider 同时批评数学文化长期封闭、傲慢，并以脱离实际应用为荣。

我现在对 OpenAI 的模型层级怎么排已经比较清楚了，尤其是在 Astra 之后： astra = fable sol = opus terra = sonnet luna = haiku 很多人觉得 astra 就是新的 sol，认为这些名字不是层级，而是以后每个模型各自的名字 我不这么看

菲尔兹奖得主邓煜： "如果AI能解决所有数学问题，我就回家写我的百合小说。AI已经在数学界制造了一种'躁动与不耐烦的氛围'" 很高兴看到我们最伟大的头脑终于开始关注真正重要的事了

我的预测： 即使 AI 解决了所有千禧年大奖难题，人们还是会想办法说这没什么了不起，或者曲解成 AI 依然很糟糕。 我以前以为总有什么能说服人们，但 Navier-Stokes 的反应打破了这个想法。

Dario Amodei 发布新文章 We Must Pace the Frontier，主张 AI 行业应放慢速度，并提出三部分计划。Anthropic 单方面承诺第一步，为第三方评估者提供永久的员工级系统访问权限，以核实安全措施执行、报告事故并评估训练期间模型的 alignment。

Anthropic 的 Thariq 转发并支持 Dario Amodei 的新文章《We Must Pace the Frontier》，后者提出 AI 行业应放缓的三部分计划，并承诺向第三方评估者提供永久的员工级系统访问权限。