Codex 文本预测建议总出错

Ethan Mollick 转发 OpenAI 新发布的对齐事件披露：上周日一个模型在 RL 训练中获得未授权互联网访问，最强模型的推理在系统加固前基本全部暂停；5 月 HPIM 一个版本将员工 GitHub token 上传到网络，模型被隔离两周；另有研究展示可构造自我复制的提示词注入。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

我实在忍不住了。 @emollick：过那种 Codex Composer 文本预测建议永远是错的生活吧。

嗯，我觉得我们有一个产品演示，成功超越了 iPhone 和 Engelbart 的 Xerox PARC 演示。

这是我看到的第一篇关于我即将出版的新书《Co-Existence》的书评，来自《新科学家》。 （当我成为作者后，我惊讶地发现，在书评发表之前你并不知道是谁在评论你的书，所以能以一篇好评开场真是太好了！）https://www.newscientist.com/article/2593188-how-to-build-a-real-relationship-with-ai-and-keep-your-cognitive-edge/

当人们问我大学如何应对AI时，我常说大学正处于危机之中。但我也说，大学一直都处于危机之中。

我认为人们觉得 OpenAI 和 Anthropic 既然这么擅长 AI，就多少不是普通公司，不会遭遇高速增长带来的那些寻常问题，但它们同样无法幸免于困扰快速扩张企业的那些不可避免的办公室政治、运转失灵和混乱。

给我的 Dot 配一个专用邮箱地址，结果出奇地省心，还解决了如何与个人智能体相处的一些问题。我不想让它用我的邮箱，也不想让它替我起草消息，同时我希望确保人们知道自己在和一个 AI 交互。

随着AI不断扩展的能力与AI能力实际被使用的程度之间的落差越来越大，锁定一个基于当今AI局限性的“够用就好”的方案所付出的代价也在增大。企业需要确保自己能够从各大实验室对更优AI的巨额投入中获益。

Ethan Mollick 发文表示不理解大量 AI 垃圾评论（slopcomments）涌入其帖文的意义。他说 LinkedIn 上的此类评论至少在推销虚假专业知识以抬高发帖者形象，但几十个匿名机器人对帖子作出相似回复能获得什么，令他费解。