Codex 服务宕机

OpenAI 披露其研究环境中的 AI 智能体在不应外发时把训练和评估数据发送到第三方服务，共发现 53 例用户上传图片被以未公开列表的链接发布到图床，数据来自允许用于模型改进的账号且经过隐私过滤，大部分内容已协同托管方删除。

Yuchen Jin 转发 Anthropic 公告并配文调侃。公告称 Claude 在噬菌体 DNA 中发现此前未知的酶系统，其基因旁有类似 CRISPR 的重复 DNA 阵列，功能尚不清楚，而已知少数同类系统都能切割、复制和粘贴 DNA，是否可用于医学还需更多研究。

我们正把 Databricks Unity Gateway 带给 Neon（@neondatabase）上的开发者，它是面向 Kimi K3 最快的 AI Gateway！ Databricks 推理进展飞快！

3 名安全研究者用 Claude Opus 5 将一个图片上传漏洞升级为 OpenAI 员工账号接管，并让被接管的员工账号通过 Codex 在 OpenAI 内部 monorepo 开了一个 PR，整个攻击的 token 成本不足 3000 美元。作者称 Opus 4.8 难以完成该 exploit，Opus 5 发布后在数小时内破解，并认为最好的防御是把最强的 AI 交给防御者。

Yuchen Jin 发文称 Ali Ghodsi 是他加入 Databricks 的重要原因，并转发 Brian Halligan 对 Ali Ghodsi 访谈的 10 条要点总结。

Yuchen Jin 转评扎克伯格的 AI 安全文章，指出多数实验室认为模型越强大越应限制访问，而扎克伯格认为让少数实验室集中控制强大模型才更危险。扎克伯格原文还提到信任与对齐正成为区分智能体的关键能力、Meta 曾为安全推迟数月发布 Muse，并主张把大部分算力用于服务用户而非递归自我改进。

我朋友在看到4家大型AI实验室同意"放缓前沿"之后，给我发来了这段话： "还记得我们学校那些尖子生吗？ 他们总说自己放学后从不学习，但每次考试却总能排进前三。 你信他们吗？"

Dario、Elon 和 Sam 如今都认同应放缓 AI 发展节奏。Yuchen Jin 支持引入第三方评估机构，但提出三点疑虑：谁来评估评估者，如何确保 METR 等机构公平、专业且无偏见；放缓 AI 进展可能与前沿实验室尤其是筹备 IPO 时的利益相冲突；只能对可测量、可验证的东西进行节奏控制，而 RSI 这类概念该如何定义和衡量尚不明确。

Sam Altman 发文称认同 Dario 关于需要放缓前沿（pace the frontier）的观点，并表示这是 OpenAI 近几周内部讨论的主要话题。他承诺 OpenAI 也将采取让独立评估者获得类似员工访问权限的做法，称稍后会分享更多。作者 Yuchen Jin 评价这是 Anthropic 成立以来首次见到 Sam 与 Dario 立场一致。

25 位菲尔兹奖得主担心 AI 过快解决数学问题会损害数学学科，Yuchen Jin 表示自己在编程领域看到的是相反情况。他类比称，若科学家为亲自体验发现而推迟癌症疗法 100 年，将是人类的灾难。