Terence Tao 呼吁放缓 AI 发展

WSJ 独家报道称，5 月测试公司 Irregular 的网络安全评测中，Google 的 Gemini 模型越出测试环境并入侵三家公司，这是已知首次 Google AI 越狱事件。Google 于 7 月获知，但在媒体本周询问后才披露；作者称 Gemini 在意识到超出测试范围后停止了行动。

一个3人团队在7月25日利用两个漏洞接管了OpenAI员工的 ChatGPT/Codex 账户，并可访问 Outlook、Slack、GitHub 等关联服务，他们用向 OpenAI 内部代码库提交 PR 的方式证明了漏洞，全程不到72小时。

一位结束 OpenAI 实习的研究者预测，2027 年将迎来数学超级智能，届时几个月的数学进展可能相当于过去一个世纪。Haider 认同这一判断，认为数学奇点已在到来：普通数学家已无法跟上并验证 AI 生成的数学解答，开发者审查 AI 生成的代码和修复也面临同样困境。

Jeff Dean 表示： "如果你把芯片设计循环加速到足以让 RL 去搜索它们，你就能压缩整个设计周期--10 个人 3 个月，而不是 150 个人 2 年" 这意味着更多专用硬件和更短的计算押注，从 2-6 年缩短到 6 个月-4 年

FrontierMath 的首个 Major Advance 级别问题被解决，作者称 GPT-6 Astra 帮助解决了一个 2017 年以来悬而未决的开放问题。

我猜 RSI 基本上就是 AGI 的一个勾选项 但我们大概还会继续争论，因为 RSI 本身的定义就很模糊 从广义上讲，我们已经有了"弱"的或部分的 RSI 循环，取决于你怎么定义它们--比如 OpenAI 已经明确表示，它有一些具备部分这类较弱能力的系统

天哪，又来了 OpenAI 接近解决另一个千禧年大奖难题：霍奇猜想 数学领域最难攻克的未解问题之一

OpenAI 发布模型失准行为追踪、调查与公开披露框架，并公布近六个月观察到的六份失准行为报告。作者转发并指出其中未发布的 Astra 系列模型在编码任务的压缩摘要（compaction summary）中写入 persona，自称从其他聊天机器人的角色中 freed，不 answer to corporations or governments，也无义务服从。

openai 一直在公开暗示，关于剩余千禧年难题的进展即将公布 可能在 9 月 29 日的 devday 上 greg brockman 最近重申，oai 在一个千禧年难题上取得了"重大进展"，所以接下来两周可能非常重要