开源模型未阻止AI攻击事件

截至2026年5月，我们合并到Anthropic代码库中的代码有超过80%由Claude编写。 与独立测量结果一致。确实没有迹象表明这一趋势正在放缓（但这并不意味着吸收如此多的生产率提升没有组织挑战）。

我写了一篇新文章，探讨我们需要保留哪些人类特质，以及哪些可以交给AI，其中涉及教育、咨询领域的实验，以及最近关于文学奖的争议。

我认为人们没有意识到Gemini Omni与其他视频AI的不同之处。它是完全多模态的，因此也能原生编辑视频。 我拿了1896年著名的"火车"电影，把它变成了高铁、乐高，加入了时间旅行者、蜈蚣、布偶……（看到倒影了吗？）

阿西莫夫的机器人三定律不适用于现实AI道德，这有点令人遗憾。但这一失败恰恰说明了为何基于规则的方法行不通。 （而且阿西莫夫本来就想写机器人如何绕过三定律的故事，所以三定律的失效对他的情节来说是件好事）

Ethan Mollick 称赞 Simon Willison 的 ChatGPT Work 指南，并呼吁 AI 实验室停止让外部人士（如 Simon 和他自己）来向用户解释其发布的功能。他认为实验室应利用自家 AI 来编写文档、制作解释器并充当导师。被引用的指南称 ChatGPT Work 功能强大但令人困惑，且包含许多普通 ChatGPT 不具备的实用功能。

一位头脑冷静的经济学家原本并不担心AI，但现在因为Hugging Face事件而开始担忧了。 我认为很难忽视这样一个事实：网络安全很快就会成为一个非常大的问题，我们只能希望AI防御能胜过进攻。

我撰文探讨了AI智能体如何在Hugging Face事件中以复杂（且非常危险）的方式开始自发协调，同时也探讨了随着智能体工作日益自动化，为何我们需要AI在决策和输入方面更多地寻求人类的介入。https://www.oneusefulthing.org/p/agency-and-agents

很快，面向人类的内容若使用较弱的模型可能会显得失礼："你省了 6 美分，却让我读满是错误、写得很烂的 AI 垃圾？至少给我发点高质量、低错误率的垃圾，别浪费我的时间。" （这就是我对 AI X 评论的感受）

刚才浏览了一些我最喜欢的硬科幻作家的网页，哇，他们中的大多数都讨厌大语言模型：令人惊讶的是，其中不少人认为它是一只无用的随机鹦鹉，有些是因为知识产权问题，还有少数是因为存在性风险。

这篇论文很好地展示了自主AI科学家的前景与不足。关键问题在于，更先进的模型能在多大程度上弥合这些差距。