Ethan Mollick 与提示词注入概念提出者都认为新型模型受注入攻击影响可能变小

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

对具备计算机使用能力的 Codex 来说，这是一个非常有用的提示词。

Ethan Mollick 转发并评论一天内集中爆发的网络安全事件：PHP 两个未登录即可远程执行代码的关键漏洞细节在补丁发布前泄露，Censys 称约 150 万台服务器无补丁，NSA、FBI、CISA 及日本首相等多方呼吁系统下线，荷兰议会、维基百科、Archive.org 等相继下线。同日还有 GitLab CVSS 10.0 漏洞、LiteLLM 1.107.0 供应链投毒、TiDB Cloud 入侵等事件；作者认为这是 AI 圈自 Mythos 发布以来所警告的攻…

这是个有意思的问题，因为答案并不显而易见。 顺便说一句，这并不意味着 AI 编程工具没有带来巨大的改进，但正如研究不断显示的那样，产品改进的瓶颈往往在别处。

我写了关于过去30个月AI发展指数曲线的文章：https://www.oneusefulthing.org/p/30-months-on-the-exponential-in-charts 我让 Opus 5.5 为我用来测试所有AI图像生成模型的那个测试（画一张“一只水獭在飞机上用WiFi”的图）创作终极回应，它做出了这个视频

这是一次很棒的对话！

多人AI需要走出群聊阶段。聊天是混乱的，每个人都看到一切（造成社交和管理问题），而且不适合长期项目。更糟的是，它们把AI困在现有团队内部，而AI真正的承诺是跨团队协作与帮助。

每次这张幻灯片出现我都讨厌它，现在还是从 CSAIL 来的 这张幻灯片做出来之前，它说的就已经是错的。自动化系统一直在做管理决策（交易、物流、客服、保险），假装它们不做，实际上是在推卸责任。