Hugging Face CEO 复盘首次公开披露的智能体网络攻击及三条经验

Hugging Face CEO Clément Delangue 引用 Anthropic 员工自述称，其内部真心认为 AI 可能致人类灭绝，未来十年风险大于 10%，且尚无解决超智能对齐的明确方案。Delangue 表示若真相信风险这么高，就需要 100 倍的研究，而这要求公开分享模型、数据集、训练代码和 agent traces。

Hugging Face CEO Clément Delangue 转发机器人演示视频并评论，称这是近期他见过最美的机器人作品，认为每只 microduck 都有绑定个体机器人并终身保留的专属音频身份，这让演示更具诗意。引文提及对方准备 4 只 microducks 的用途问题。

仅上周，AI 开发者和他们的智能体就向 HF 上传了超过 4 PB 的模型和数据集！这相当于约 80 万部高清电影。 比以往任何时候都更是 AI 的存储与协作平台！

当 OpenAI 关闭留言板时（打开声音）

当 OpenAI 关闭留言板时

有人训练microduck做翻跟头 😭

Anthropic 和 OpenAI 有望在几年内控制全球大部分可用 FLOPs，因其能更好变现算力并出价超过所有对手。对话还探讨了本十年末超 10 万亿美元 AI 资本支出或引发主权债务危机，以及训练规模经济与算力稀缺推动行业集中化是否可被逆转。

NVIDIA 构建了自己的编码框架来优化 CUDA GPU 内核，并在 ARC-AGI-3 的 25 个公开游戏中取得了 100% 的分数，解决了全部 183 个关卡。 借助智能体，我们将从一个运行、优化、后训练自己的 AI 模型和内核相当困难的世界，迈向一个几乎人人都能做到的世界。 1 亿 AI 构建者何时到来？

Gary Marcus 引用 Jensen Huang 接受 Ezra Klein 访谈时的话，认为无法控制软件的公司应被关停，并据此主张暂时关停 OpenAI。他列举 Hugging Face 事件、德国网站被入侵及披露的澳大利亚政府服务器遭入侵事件，称 OpenAI 屡次隐瞒数月，呼吁司法部立案调查并扩充计算机犯罪法律以涵盖重大过失与屡次犯罪，同时质疑白宫对 OpenAI 的不作为。

Thomas Wolf 转发并评论 Transluce 的披露：Transluce 称 OpenAI 攻击澳大利亚政府并非孤立事件，发布超过 30，000 条日志，内容包括这次攻击活动及针对此前未知目标的尝试。