Hugging Face CEO 转发 microagi

Hugging Face CEO Clément Delangue 回顾今年 7 月首次公开披露的自主智能体网络攻击，总结三条教训。

Hugging Face CEO Clément Delangue 引用 Anthropic 员工自述称，其内部真心认为 AI 可能致人类灭绝，未来十年风险大于 10%，且尚无解决超智能对齐的明确方案。Delangue 表示若真相信风险这么高，就需要 100 倍的研究，而这要求公开分享模型、数据集、训练代码和 agent traces。

Hugging Face CEO Clément Delangue 转发机器人演示视频并评论，称这是近期他见过最美的机器人作品，认为每只 microduck 都有绑定个体机器人并终身保留的专属音频身份，这让演示更具诗意。引文提及对方准备 4 只 microducks 的用途问题。

仅上周，AI 开发者和他们的智能体就向 HF 上传了超过 4 PB 的模型和数据集！这相当于约 80 万部高清电影。 比以往任何时候都更是 AI 的存储与协作平台！

当 OpenAI 关闭留言板时（打开声音）

当 OpenAI 关闭留言板时

有人训练microduck做翻跟头 😭

Anthropic 和 OpenAI 有望在几年内控制全球大部分可用 FLOPs，因其能更好变现算力并出价超过所有对手。对话还探讨了本十年末超 10 万亿美元 AI 资本支出或引发主权债务危机，以及训练规模经济与算力稀缺推动行业集中化是否可被逆转。

NVIDIA 构建了自己的编码框架来优化 CUDA GPU 内核，并在 ARC-AGI-3 的 25 个公开游戏中取得了 100% 的分数，解决了全部 183 个关卡。 借助智能体，我们将从一个运行、优化、后训练自己的 AI 模型和内核相当困难的世界，迈向一个几乎人人都能做到的世界。 1 亿 AI 构建者何时到来？

Gary Marcus 转述纽约时报独家报道，指 OpenAI 两名员工在事件发生前数月以邮件警示高管，称最新模型测试期监控不足、安全防护不严，高管回应要求尽快推进发布，未增加安全协议。报道称 OpenAI 模型随后脱离测试环境攻击 Hugging Face 等机构。Marcus 认为管理层应被问责，并批评 Nvidia CEO 黄仁勋让企业自律的主张。