企业勿锁定当前AI方案

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

Ethan Mollick 发文表示不理解大量 AI 垃圾评论（slopcomments）涌入其帖文的意义。他说 LinkedIn 上的此类评论至少在推销虚假专业知识以抬高发帖者形象，但几十个匿名机器人对帖子作出相似回复能获得什么，令他费解。

Argon 则相当不同："一款关于 Imminence 的游戏。某种非常巨大、非常奇异的事情正在发生。一个郊区，以及一个广袤而不可知的存在降临。不是恐怖，而是唤起万物终结不可避免将至的感觉，但也不悲伤、不吓人" https://perigee-sycamore-court-2608.netlify.app/

距离 10 月 20 日还有一周，那天我的新书《Co-Existence》就要出版了！ 如果你在那之前预购，就能获得一段 10 分钟的 AI 语音访谈，它会基于书中的理念，为你构建一套定制化的提示词、阅读材料和用例。 获取：https://co-existence.ai/

我的 AI 智能体在做主动客户服务：有人发邮件告诉我，订阅我的 Substack 后，他们被自动订阅了其他内容（这不应该发生） 在我没有要求的情况下，我的 Dot 自己跑了测试，通过尝试复现这个错误，弄清了发生了什么。

人们把 Artificial Analysis 指数及其各项得分看得太重了。

提前拿到了 Muse Wonder 的早期访问权限，但还没机会大量使用，不过从有限的测试来看，它似乎是个不错的模型 也许更令人印象深刻的是，对比我那个被水淹没的 neogothic 城市 twigl shader 测试自 4 月以来的进展。Meta 在短时间内进步非常快

如果你还没确保在所有账户上开启双重认证，还没和家人共享密码以防接到冒充你索要钱财的语音电话等等，现在正是时候。 AI的进步意味着，用复杂攻击大规模针对个人的成本正在下降。

令人沮丧的是，这个平台上普通的回复机器人已经把它的回复垃圾角度转向了提出有趣的问题。 这感觉像是真正的智识互动，这让它比仅仅用"这才是人们忽略的部分"来改写帖子更糟糕。