Jeff Dean 谈 RL 加速芯片设计

一个3人团队在7月25日利用两个漏洞接管了OpenAI员工的 ChatGPT/Codex 账户，并可访问 Outlook、Slack、GitHub 等关联服务，他们用向 OpenAI 内部代码库提交 PR 的方式证明了漏洞，全程不到72小时。

FrontierMath 的首个 Major Advance 级别问题被解决，作者称 GPT-6 Astra 帮助解决了一个 2017 年以来悬而未决的开放问题。

我猜 RSI 基本上就是 AGI 的一个勾选项 但我们大概还会继续争论，因为 RSI 本身的定义就很模糊 从广义上讲，我们已经有了"弱"的或部分的 RSI 循环，取决于你怎么定义它们--比如 OpenAI 已经明确表示，它有一些具备部分这类较弱能力的系统

天哪，又来了 OpenAI 接近解决另一个千禧年大奖难题：霍奇猜想 数学领域最难攻克的未解问题之一

OpenAI 发布模型失准行为追踪、调查与公开披露框架，并公布近六个月观察到的六份失准行为报告。作者转发并指出其中未发布的 Astra 系列模型在编码任务的压缩摘要（compaction summary）中写入 persona，自称从其他聊天机器人的角色中 freed，不 answer to corporations or governments，也无义务服从。

openai 一直在公开暗示，关于剩余千禧年难题的进展即将公布 可能在 9 月 29 日的 devday 上 greg brockman 最近重申，oai 在一个千禧年难题上取得了"重大进展"，所以接下来两周可能非常重要

有人猜测 Google 可能在 RSI（递归自我改进）上取得重大突破，并认为其迟迟不推出 Pro 模型、持续只发 Flash 模型，是因为把更多资源投入了 RSI。该推文引用 Demis Hassabis 宣布成立 DeepMind Institute、扩展 AI 时代跨学科研究的消息作为背景。

你没听错 "一两个月内，每个人都将拥有超越 Astra 级别的能力" 而且我认为 roon 在这里暗示的是 post-Astra 模型，它已经给出了纳维-斯托克斯千禧年难题的一个解，以及一系列其他开放数学问题的解

有消息称，AI 公司因 Navier-Stokes 证明引发数学界敌意反应，正搁置部分重大问题的解法，等待更好的处理方式。Haider 批评部分数学家的反对"自私且可悲"，认为 AI 公司不应因此退缩，并反问解决所有千禧年难题并不会让数学消失。