AI 博弈论：无人愿减速

不想这么说， 但我觉得这会成为新常态，模型发布周期越来越长，而大部分进展都发生在实验室内部和一小批获批公司里 最好的东西要么留在内部，要么归政府所有。 好在中国不会放慢脚步

Demis Hassabis 表示： "构建 AI 并将其与人类心智进行比较，是弄清人类心智中还有什么依然特殊、甚至独一无二的最佳方式" 人类的大多数能力，尽管我们并不确定自己是如何做到的，最终都将被证明是可计算的

改变我的想法，但最近这波关于AI放缓的恐慌似乎是有组织的 如果anthropic + 有效利他主义那群人在帮忙推动这套叙事、让这条末日论推文疯传，我一点也不会意外 但看到elon和sam配合dario的减速框架，挺让人难过的

OpenAI和Anthropic其实都不想为了安全测试而放慢AI 相反，他们利用围绕中国的炒作和恐惧来为全速推进辩护： "如果我们多等哪怕一个月，开放权重模型就会追上，所以我们承担不起暂停开发的代价"

Dario Amodei 发布文章《We Must Pace the Frontier》，提出放慢 AI 行业的三部分计划，Anthropic 单方面承诺第一步，向第三方评估者提供永久员工级系统访问权限。

我不相信 Google 已经实现 RSI 的传闻 但他们的发布节奏确实非常快，而且自从 flash 3.7-3.8 模型以来，他们谈论 RSI 的频率高了很多 Google 在研究层面一直很认真，我们也已经看到，一个实验室的私有模型可以比其公开模型领先多少

25位菲尔兹奖得主发布联合声明，警告AI公司与数学界之间存在严重错位，认为AI公司把解数学题当基准的做法有损数学科学和数学社区，并视其为影响更广泛科学和创意职业的对齐问题的一部分。转发者 Haider 同时批评数学文化长期封闭、傲慢，并以脱离实际应用为荣。

我现在对 OpenAI 的模型层级怎么排已经比较清楚了，尤其是在 Astra 之后： astra = fable sol = opus terra = sonnet luna = haiku 很多人觉得 astra 就是新的 sol，认为这些名字不是层级，而是以后每个模型各自的名字 我不这么看

菲尔兹奖得主邓煜： "如果AI能解决所有数学问题，我就回家写我的百合小说。AI已经在数学界制造了一种'躁动与不耐烦的氛围'" 很高兴看到我们最伟大的头脑终于开始关注真正重要的事了

我的预测： 即使 AI 解决了所有千禧年大奖难题，人们还是会想办法说这没什么了不起，或者曲解成 AI 依然很糟糕。 我以前以为总有什么能说服人们，但 Navier-Stokes 的反应打破了这个想法。