Yuchen Jin 评扎克伯格的 AI 安全观点：与多数前沿实验室立场相反

我朋友在看到4家大型AI实验室同意"放缓前沿"之后，给我发来了这段话： "还记得我们学校那些尖子生吗？ 他们总说自己放学后从不学习，但每次考试却总能排进前三。 你信他们吗？"

Dario、Elon 和 Sam 如今都认同应放缓 AI 发展节奏。Yuchen Jin 支持引入第三方评估机构，但提出三点疑虑：谁来评估评估者，如何确保 METR 等机构公平、专业且无偏见；放缓 AI 进展可能与前沿实验室尤其是筹备 IPO 时的利益相冲突；只能对可测量、可验证的东西进行节奏控制，而 RSI 这类概念该如何定义和衡量尚不明确。

Sam Altman 发文称认同 Dario 关于需要放缓前沿（pace the frontier）的观点，并表示这是 OpenAI 近几周内部讨论的主要话题。他承诺 OpenAI 也将采取让独立评估者获得类似员工访问权限的做法，称稍后会分享更多。作者 Yuchen Jin 评价这是 Anthropic 成立以来首次见到 Sam 与 Dario 立场一致。

25 位菲尔兹奖得主担心 AI 过快解决数学问题会损害数学学科，Yuchen Jin 表示自己在编程领域看到的是相反情况。他类比称，若科学家为亲自体验发现而推迟癌症疗法 100 年，将是人类的灾难。

在 Databricks 5 个月了。这话我可不是随便说的。 我们的 AI 推理变得太快了。已经非常接近模型在你打完提示词之前就给出答案。 我们不是在要求禁止。我们是在要求暂停。

Greg Brockman：秃了 Demis Hassabis：秃了 Ilya Sutskever：秃了 Elon Musk：曾经秃了 AGI 已经到来 千禧年难题已解决 接下来能不能关注一下秃头问题？ 我的发际线这些年一直在做梯度下降

Yuchen Jin评价OpenAI一款自称显著强于GPT-6 Astra的模型解决千禧年大奖难题，称其为数学界的AlphaGo时刻。他同时指出AI已比数学博士聪明，却在许多任务上不如实习生，锯齿状智能问题需要被解决。

OpenAI 的回归是继 Meta 回归、xAI 回归、Google 回归之后最大的一次回归。 AI 就是一个"完了"和"我们回来了"的无限循环。

山姆和詹森说"AGI 已经到来。" 但"AGI"的含义因人而异。 - 山姆的标准：在大多数有经济价值的工作上超越人类。 - 达里奥和德米斯的标准：在大多数领域比诺贝尔奖得主更聪明。 这些标准截然不同。

Yuchen Jin 提出用 intelligence per dollar 衡量 AI 进步速度。一年半前 o1 Pro 价格为 $150 / $600 per M tokens，如今 GLM-5.3 Flash 仅 $0.15 / $0.50，价格降幅约 1000 倍，且 GLM-5.3 Flash 比 o1 Pro 更智能。