AI降低大规模定向攻击成本

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

令人沮丧的是，这个平台上普通的回复机器人已经把它的回复垃圾角度转向了提出有趣的问题。 这感觉像是真正的智识互动，这让它比仅仅用"这才是人们忽略的部分"来改写帖子更糟糕。

我和一些大公司里恼火的高管聊过，他们上个月还很看好 GPTs，结果 GPTs 就被下线了。没错，GPTs 已经完成了它的使命。但大型组织的规划很复杂，而所有实验室（不只是 OpenAI）不断突然变卦，让他们无所适从。

一位数学家制作了一支 Opus 5.5 音乐视频，回应 OpenAI 的证明。相当不错。

我正在让自己在破解 CAPTCHA 和应对客服暗黑模式上"去技能化"。

听着，我知道人们已经厌倦了科技CEO们说AI会让我们从工作中解放出来（不管我们喜不喜欢），但是……我希望看到更多非科技领域的人思考：我们希望AI带来怎样的未来，以及如何实现它。别把这件事留给硅谷。

不仅 Astra 击败了 Montezuma's Revenge，Opus 5 也做到了 但解决这个 AGI 赌约的标准之一是：AI 要赢得一个已停办的奖项，它有点像弱化版图灵测试。所以 Metaculus 决定重建这个测试，以确认该标准是否已达成。不错！

我和很多人聊过 AI，但并不是每个人都能理解 AI 在工作之外对他们有什么用 所以当我跟使用 Muse 或 Dot 的人聊天时，这是一个转变——他们常常会讲一个故事，说他们的 AI 主动做了些什么来帮助他们，这让他们对 AI 感觉很好

知识蒸馏的循环仍在继续。