Nathan Lambert 谈开源模型网络安全风险争议

Nathan Lambert 评价 Nvidia 收购 HuggingFace，认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方，HuggingFace 应摆脱盈利单位定位，去争取下一代 1 亿 AI 开发者；作者曾在 HuggingFace 工作并于去年预言过这一收购。

Reflection 加入了 Nvidia 和 Thinking Machines 的行列——它们发布了自家最强的模型，却仍落后于中国同行。人们会用很多方式过度解读这件事，但最清晰的结论应该是：中国人非常非常擅长构建 LLM。

我认为从原则上讲，控制前沿发展节奏作为一个理念是好的，但作为一件你实际能做成的事，它一出生就死了。我们要怎么决定——决定我们能在哪些基准上改进？谁来参与？ 如果我们停止推进“能力”，我们会做大量关于集群（swarms）+ 效率的研究，而这会带来其他风险。 它分散了注意力，让人忽视了一个事实：AI 风险中有很大一部分其实只是来自把我们已有的东西扩散出去，而我们应该投资于 preparedness、推动实验室更加谨慎等等。 来改变我的想法？

我进不了 X 平台顶级发帖者榜单，但我是 Schmidt Sciences AI2050 早期职业研究员，继续致力于构建和理解开放生态，让未来的 AI 可及、广泛扩散、由多方掌控且安全。科学第一，发帖第二！

Nathan Lambert 发文称很高兴看到 Google 用 Gemini 4 给人们带来惊喜。他认为更多实验室处于前沿对消费者（竞争）和世界（减少权力集中）都有好处，并期待其在真实场景中的表现。

最新一期 Interconnects 图表——展示开源模型推理经济的指数级增长。图表显示的是领先公司每日处理的 token 量，数据基于公开披露（Together、Baseten 和 Fireworks）以及 OpenRouter API。我低估了 OpenRouter 的增长。

只有 1 个国家参与，很难套用布雷顿森林体系的类比。

如果 X 允许使用 App 的人把他们的回复标记为人类撰写，或者你可以把回复限制为通过人类验证的用户，整个体验会好上 10 倍。 我不想不得不把回复限制在我关注网络内的账号。所有机器人也都是认证的。

Nathan Lambert 发文反驳 Anthropic 式安全叙事，认为把 GLM-5.3 等开源模型单独定性为危险、称其“不同于所有同类能力模型”并不成立，因为已记录的 cyber 攻击更多使用的是闭源模型。

对这类人来说，问题不在于他们蠢或者怎样，Timnit 具备顶尖科学家的全部能力，问题在于他们所处的信息生态和同侪圈子不鼓励对思想进行拷问。信息茧房是清晰思考的慢性死亡。