Ethan Mollick 实测 Genie 4 实时交互式世界生成

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

Genie 4 运行 DOOM：“走过一间普通办公室，但每台电脑都在运行 DOOM，所有墙壁也都在运行 DOOM，而且一切皆是 DOOM” “我那身为恶魔的同事出现了” “他有一把链枪” “他给我发了奖金”

Genie 4 的体验相当疯狂，能边玩边生成游戏般的环境。它并非完美，但我输入“新哥特式粗野主义城市，住着机器人和马”，它一分钟内就造了出来。接着我让它加入龙。然后又加了一个友好的水獭 NPC。全程实时完成

鉴于如今的一切对许多人来说显得如此突如其来，令人惊叹的是，十年前就有一小群人极其精准地预测了当今AI领域正在发生的一切（@kevinroose 在 The AGI Chronicles 中展示了这一点）。他们中许多人如今非常富有和/或有权势

我对用 AI 做任何事的通用建议是：问问自己“我怎样才能让手头这件事更有野心？” 一直这样做，直到你撞上一堵墙，那时你就知道了前沿的形状（这很有用！），或者你发现 AI 能做的比你想象的更多（这很常见！）

用 Opus 5.5 重做了我这本书的网站。最初版本（用 Opus 4.8 做的）需要大量工作才能做出一个有辨识度的静态网站。现在 Opus 基本独自完成了这些。短短时间内，我们已经从千篇一律的 ClaudeDesign 走了很远。https://co-existence.ai/

我看到大型组织因 AI 出现的一个现象是，高管角色及其管控范围在扩大，他们能直接监控整个公司。这极大地改变了公司运营。而且相比企业重组，实施起来也更直接。

随着AI实验室的内部模型与它们对外发布的模型之间的差距不断扩大（出于安全考量和研究优势），OpenAI和Anthropic将越来越有动力直接利用这一优势进入新市场，尤其是在金融和生物科技领域。

Ethan Mollick 转引