AI 编程工具与软件改进瓶颈之问

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

我写了关于过去30个月AI发展指数曲线的文章：https://www.oneusefulthing.org/p/30-months-on-the-exponential-in-charts 我让 Opus 5.5 为我用来测试所有AI图像生成模型的那个测试（画一张“一只水獭在飞机上用WiFi”的图）创作终极回应，它做出了这个视频

这是一次很棒的对话！

多人AI需要走出群聊阶段。聊天是混乱的，每个人都看到一切（造成社交和管理问题），而且不适合长期项目。更糟的是，它们把AI困在现有团队内部，而AI真正的承诺是跨团队协作与帮助。

每次这张幻灯片出现我都讨厌它，现在还是从 CSAIL 来的 这张幻灯片做出来之前，它说的就已经是错的。自动化系统一直在做管理决策（交易、物流、客服、保险），假装它们不做，实际上是在推卸责任。

Ethan Mollick 转发 The Information 报道称，更强模型不再必然带来更多使用，10 点智能优势换来的开发者流量从 2025 年底的近 69% 降至约 20%。他补充判断，开发者在总 token 用量中的占比将随时间缩小，而在验证较难领域的长时高价值任务上，更高智能模型的收益依然很大。

Fable 5.1：“把博尔赫斯的短篇小说实现出来。比如用 3D 实现。去做吧，让它们有创意、漂亮，帮我们理解故事的重点。自己想办法。” 我不得不告诉它，引用博尔赫斯是可以的。有些不错的东西。来玩玩：https://borges-in-3d.netlify.app/

既有趣，又让人本能地感到不安。