AI Labs 应确保模型懂自家产品

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

截至2026年5月，我们合并到Anthropic代码库中的代码有超过80%由Claude编写。 与独立测量结果一致。确实没有迹象表明这一趋势正在放缓（但这并不意味着吸收如此多的生产率提升没有组织挑战）。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

我认为人们没有意识到Gemini Omni与其他视频AI的不同之处。它是完全多模态的，因此也能原生编辑视频。 我拿了1896年著名的“火车”电影，把它变成了高铁、乐高，加入了时间旅行者、蜈蚣、布偶……（看到倒影了吗？）

又到了每个 AI 账号假装自己深谙数论、就最新数学突破的重要性发表高见的时候了。

我认为，过去几年密切关注 AI 的大多数人，可能都会感到意外：考虑到 AI 总用户达十亿、企业用户达数亿，糟糕的 AI 事故却相对少见。这不意味着这种情况会持续，但确实令人意外。

当人们谈论 AI 轻易取代工人时，我想起这篇关于 1990 年代复印机维修技术员的民族志研究。 你会看到工作是复杂的、由工人即兴发挥的、非正式的，而且记录得很差。 （但最终技术确实在很大程度上消灭了这个职业）

AI 写学术论文的一个微妙问题在于，AI 没有针对反馈进行校准。AI 往往直接就妥协了，但如果你把论文送审，同行评审的质疑应该促使你为自己的想法做一些辩护（当然如果确实错了还是要放弃）。

Ethan Mollick 称过去几周他把许多 Cowork 复杂工作迁到了新版 Claude Projects，该版本与旧 Projects 不同，可持续对话并使用专用云端 VM，他认为多数方面体验更好但文档不清楚。被引用的 Cowork 团队成员解释：新版将模型推理和 VM 都移到云端，每个会话有独立沙箱，会话结束即销毁，桌面端仅负责用户明确添加文件的访问，旧版本地 VM 则有磁盘、电池和性能开销。

关于 Claude 或 OpenAI 的使用情况，有太多报道都集中在同样那几家科技公司身上——它们既有竞争产品，又拥有自己的庞大云基础设施。 外面还有非常非常多的公司，它们并非直接竞争对手，它们的使用趋势会更有参考价值。