Ethan Mollick 谈 AI 进展与预测

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

多人AI需要走出群聊阶段。聊天是混乱的，每个人都看到一切（造成社交和管理问题），而且不适合长期项目。更糟的是，它们把AI困在现有团队内部，而AI真正的承诺是跨团队协作与帮助。

每次这张幻灯片出现我都讨厌它，现在还是从 CSAIL 来的 这张幻灯片做出来之前，它说的就已经是错的。自动化系统一直在做管理决策（交易、物流、客服、保险），假装它们不做，实际上是在推卸责任。

Ethan Mollick 转发 The Information 报道称，更强模型不再必然带来更多使用，10 点智能优势换来的开发者流量从 2025 年底的近 69% 降至约 20%。他补充判断，开发者在总 token 用量中的占比将随时间缩小，而在验证较难领域的长时高价值任务上，更高智能模型的收益依然很大。

Fable 5.1：“把博尔赫斯的短篇小说实现出来。比如用 3D 实现。去做吧，让它们有创意、漂亮，帮我们理解故事的重点。自己想办法。” 我不得不告诉它，引用博尔赫斯是可以的。有些不错的东西。来玩玩：https://borges-in-3d.netlify.app/

既有趣，又让人本能地感到不安。

说真的，就没有办法用算法过滤掉那些明显的AI垃圾回复吗？

我实在忍不住了。 @emollick：过那种 Codex Composer 文本预测建议永远是错的生活吧。