Hugging Face CEO 谈开源 AI 与生物安全风险

在我看来，权力集中在少数几个实验室是 AI 最大的风险。 【引用 @dwarkesh_sp】：我非常担心，在 RSI 期间，实验室会直接停止对外部署他们的模型。 这意味着他们会在这些模型最危险的用例（递归自我改进）上全速推进，而公众对能力本质和对齐状况一无所知。 最终我们会走上一条通往权力极度集中的道路。

我只在被迫去 DC 的时候才打领带 😅（话说我们要不要做 HF 领带？）。和 @alexanderburns @politico 聊得很棒。AI 需要更多透明度和开源！https://www.politico.com/video/2026/09/16/hugging-face-ceo-talks-cyberattacks-regulatory-enforcement-and-china-2165447

作为首个公开披露的智能体网络攻击受害者，我们近距离见证了这种新型风险。我在下面梳理了自己的思考。 明天我将在华盛顿，向政策制定者以及 @politico 的 decoded summit 分享更多内容！

OpenAI 的 @cdngdev 预测机器人将迎来类似 3D 打印的热潮，人们会购买廉价开源机械臂并接入 AI 智能体。他使用的 Hugging Face SO-100 机械臂开源、可 3D 打印，售价约 $200，而传统机器人设备价格高达数千美元。他还表示，现在人们可以直接用 Codex 来控制机器人。

抱歉，但问 Jacob 关于 AI 灭绝风险的问题，就像问你的空调维修工关于气候变化的问题。 不是说这本身一定没意思或不对，但让我们保持全局视角，听听整个生态系统中全方位的专业意见！

Hugging Face CEO Clément Delangue 指出，关于 AI 生存风险几乎没有严肃研究，并提议将其作为第一步。他引用 @DFintelligence 的观点：花 2 小时检索相关科学文献后，发现几乎不存在严肃研究，相关内容多为书籍、小说或"回形针"式思想实验，且没有任何不依赖人类干预的可行灭绝场景。

我们需要 AI 的透明度提升 100 倍！！！

Desert Ant Labs 今日发布，定位欧洲前沿 AI 实验室，专注端侧智能。其推出覆盖音频、视觉和文本的 18 个模型，并提供 Swift、Kotlin 和 JavaScript 的 SDK。Hugging Face CEO 强调，在算力短缺背景下，端侧 AI 近乎免费且完全保护隐私。

Hugging Face 的开源硬件（https://huggingface.co/docs/lerobot/en/so101）+ 前沿 AI = 🔥🔥🔥

有时我会想，如果我们没有公开披露那次智能体网络攻击，会发生什么。 它强化了我的信念：AI领域需要100倍的透明度。否则，我们将陷入大麻烦！