AI 时代百万个小奇点将至

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

截至2026年5月，我们合并到Anthropic代码库中的代码有超过80%由Claude编写。 与独立测量结果一致。确实没有迹象表明这一趋势正在放缓（但这并不意味着吸收如此多的生产率提升没有组织挑战）。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

我认为人们没有意识到Gemini Omni与其他视频AI的不同之处。它是完全多模态的，因此也能原生编辑视频。 我拿了1896年著名的“火车”电影，把它变成了高铁、乐高，加入了时间旅行者、蜈蚣、布偶……（看到倒影了吗？）

在经历了一个短暂但侵蚀科研体制的"垃圾科学"时代之后，越来越明显的是，我们将从 AI 获得两场革命： 1) 所有已发表的东西都将被重新阅读和重新评判，方式是人类科学家从未预料到的 2) 新发现将开始快速涌现

又到了每个 AI 账号假装自己深谙数论、就最新数学突破的重要性发表高见的时候了。

提醒一下 AI Labs：你们应该确认自己交付的模型理解你们的产品以及如何使用它们（并且在发布新功能时更新）。没有什么比你的 AI 对你电脑的一切用法了如指掌、却唯独不懂它自己那个 app 更奇怪的了。

我认为，过去几年密切关注 AI 的大多数人，可能都会感到意外：考虑到 AI 总用户达十亿、企业用户达数亿，糟糕的 AI 事故却相对少见。这不意味着这种情况会持续，但确实令人意外。

当人们谈论 AI 轻易取代工人时，我想起这篇关于 1990 年代复印机维修技术员的民族志研究。 你会看到工作是复杂的、由工人即兴发挥的、非正式的，而且记录得很差。 （但最终技术确实在很大程度上消灭了这个职业）

AI 写学术论文的一个微妙问题在于，AI 没有针对反馈进行校准。AI 往往直接就妥协了，但如果你把论文送审，同行评审的质疑应该促使你为自己的想法做一些辩护（当然如果确实错了还是要放弃）。