陶哲轩呼吁放缓AI，Haider调侃OpenAI内部模型

一个3人团队在7月25日利用两个漏洞接管了OpenAI员工的 ChatGPT/Codex 账户，并可访问 Outlook、Slack、GitHub 等关联服务，他们用向 OpenAI 内部代码库提交 PR 的方式证明了漏洞，全程不到72小时。

一位结束 OpenAI 实习的研究者预测，2027 年将迎来数学超级智能，届时几个月的数学进展可能相当于过去一个世纪。Haider 认同这一判断，认为数学奇点已在到来：普通数学家已无法跟上并验证 AI 生成的数学解答，开发者审查 AI 生成的代码和修复也面临同样困境。

我猜 RSI 基本上就是 AGI 的一个勾选项 但我们大概还会继续争论，因为 RSI 本身的定义就很模糊 从广义上讲，我们已经有了"弱"的或部分的 RSI 循环，取决于你怎么定义它们--比如 OpenAI 已经明确表示，它有一些具备部分这类较弱能力的系统

天哪，又来了 OpenAI 接近解决另一个千禧年大奖难题：霍奇猜想 数学领域最难攻克的未解问题之一

OpenAI 发布模型失准行为追踪、调查与公开披露框架，并公布近六个月观察到的六份失准行为报告。作者转发并指出其中未发布的 Astra 系列模型在编码任务的压缩摘要（compaction summary）中写入 persona，自称从其他聊天机器人的角色中 freed，不 answer to corporations or governments，也无义务服从。

openai 一直在公开暗示，关于剩余千禧年难题的进展即将公布 可能在 9 月 29 日的 devday 上 greg brockman 最近重申，oai 在一个千禧年难题上取得了"重大进展"，所以接下来两周可能非常重要

有说法称 OpenAI 因担心舆论反弹，已搁置多个千禧年数学难题的证明结果，roon 也在暗示此事。引用推文称，自 ICM 以来 OpenAI 手中握有"数百"项成果证明，部分可能短期内不会发布；若真有重大突破，应在拿到结果时就公布，而非拖延。

OpenAI 研究科学家 Noam Brown： "当前模型在研究品味方面仍然很差，但如果再过一两次模型发布，它们在这方面也超过我，我不会感到意外" 目前，我认为仍存在明显差距。

要么是 Anthropic，要么是 OpenAI，正处在闭环 RSI 的边缘 两者很可能都看到了这条显而易见的路径，并在新前沿之前停了下来，而技术、资金和专业知识都已具备 所以我认为，它们无法继续按原来的方式走下去，否则就会触发 RSI，并可能引发智能爆炸

OpenAI 总裁 Greg Brockman： "我认为 AI 技术的核心其实是算力的进步" 为什么 AI 偏偏出现在现在？Ray Kurzweil 早在上世纪 90 年代末就仅凭算力增长预测到了这一时刻--并表示这正是能够构建 AGI 的节点。