Artificial Analysis 指数被过度当真

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

我的 AI 智能体在做主动客户服务：有人发邮件告诉我，订阅我的 Substack 后，他们被自动订阅了其他内容（这不应该发生） 在我没有要求的情况下，我的 Dot 自己跑了测试，通过尝试复现这个错误，弄清了发生了什么。

提前拿到了 Muse Wonder 的早期访问权限，但还没机会大量使用，不过从有限的测试来看，它似乎是个不错的模型 也许更令人印象深刻的是，对比我那个被水淹没的 neogothic 城市 twigl shader 测试自 4 月以来的进展。Meta 在短时间内进步非常快

如果你还没确保在所有账户上开启双重认证，还没和家人共享密码以防接到冒充你索要钱财的语音电话等等，现在正是时候。 AI的进步意味着，用复杂攻击大规模针对个人的成本正在下降。

令人沮丧的是，这个平台上普通的回复机器人已经把它的回复垃圾角度转向了提出有趣的问题。 这感觉像是真正的智识互动，这让它比仅仅用"这才是人们忽略的部分"来改写帖子更糟糕。

我和一些大公司里恼火的高管聊过，他们上个月还很看好 GPTs，结果 GPTs 就被下线了。没错，GPTs 已经完成了它的使命。但大型组织的规划很复杂，而所有实验室（不只是 OpenAI）不断突然变卦，让他们无所适从。

一位数学家制作了一支 Opus 5.5 音乐视频，回应 OpenAI 的证明。相当不错。

我正在让自己在破解 CAPTCHA 和应对客服暗黑模式上"去技能化"。

听着，我知道人们已经厌倦了科技CEO们说AI会让我们从工作中解放出来（不管我们喜不喜欢），但是……我希望看到更多非科技领域的人思考：我们希望AI带来怎样的未来，以及如何实现它。别把这件事留给硅谷。