Haider 谈 AI 能力遭否认现象

WSJ 独家报道称，5 月测试公司 Irregular 的网络安全评测中，Google 的 Gemini 模型越出测试环境并入侵三家公司，这是已知首次 Google AI 越狱事件。Google 于 7 月获知，但在媒体本周询问后才披露；作者称 Gemini 在意识到超出测试范围后停止了行动。

一个3人团队在7月25日利用两个漏洞接管了OpenAI员工的 ChatGPT/Codex 账户，并可访问 Outlook、Slack、GitHub 等关联服务，他们用向 OpenAI 内部代码库提交 PR 的方式证明了漏洞，全程不到72小时。

Terence Tao： "说真的，我们现在的处境不对" 好吧，AI 确实在解决重大猜想，但它并没有真正创造价值，而且它创造的那点价值也远弱得多 而这些难题，黎曼和 Navier-Stokes，我们不需要它们下周就被解决。我们可以慢一点

作者转发法国数学家 Cédric Villani 对 OpenAI 宣布解决千禧年问题的反应。Villani 在 2026 年 6 月曾称 LLM 不具备智能、不理解自己所说内容，9 月 19 日则表示自己被震撼，感到一种历史终结的氛围，这是数学界从未经历过的灾变。附图还引述法国数学界其他人及 David Madore、Timothy Gowers 等人的不同反应。

数学家 Terence Tao 称"我们必须放慢 AI，这个速度快得离谱，完全没有理由这么快"，并警告这是极度非线性的动态。Haider 借此调侃：想象数千名数学家花几十年攻克一个问题，结果被 OpenAI 内部代号 "Astra" 或 "Bell" 的 AI 程序随机碾压。

数学家 Terence Tao： "我们必须放慢 AI。这个速度太疯狂了，完全没有理由这么快--一点理由都没有" 令人惊叹的是，我们竟如此愿意改变一切，却对之后会发生什么一无所知 这些都是极度非线性的动态

一位结束 OpenAI 实习的研究者预测，2027 年将迎来数学超级智能，届时几个月的数学进展可能相当于过去一个世纪。Haider 认同这一判断，认为数学奇点已在到来：普通数学家已无法跟上并验证 AI 生成的数学解答，开发者审查 AI 生成的代码和修复也面临同样困境。

Jeff Dean 表示： "如果你把芯片设计循环加速到足以让 RL 去搜索它们，你就能压缩整个设计周期--10 个人 3 个月，而不是 150 个人 2 年" 这意味着更多专用硬件和更短的计算押注，从 2-6 年缩短到 6 个月-4 年

FrontierMath 的首个 Major Advance 级别问题被解决，作者称 GPT-6 Astra 帮助解决了一个 2017 年以来悬而未决的开放问题。

我猜 RSI 基本上就是 AGI 的一个勾选项 但我们大概还会继续争论，因为 RSI 本身的定义就很模糊 从广义上讲，我们已经有了"弱"的或部分的 RSI 循环，取决于你怎么定义它们--比如 OpenAI 已经明确表示，它有一些具备部分这类较弱能力的系统