Trillium Labs 呼吁资助蒸馏影响研究

Nathan Lambert 评价 Nvidia 收购 HuggingFace，认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方，HuggingFace 应摆脱盈利单位定位，去争取下一代 1 亿 AI 开发者；作者曾在 HuggingFace 工作并于去年预言过这一收购。

以防你错过了我昨天的犀利观点。

我也逐渐倾向于认为，美国需要将蒸馏合法化。禁止是不可能的，否则几年内战略竞争将变得难以为继。

那些拿网络安全风险来贬低开源模型的人，并没有真正考虑闭源模型风险的证据，是在散布恐慌（尤其是在对华问题上），并且无视了一个事实：一个 mythos 级别的网络安全模型发布后，大体上并没有出什么问题。 🌶️ one. https://www.interconnects.ai/p/the-cyber-risk-discourse-is-broken

Reflection 加入了 Nvidia 和 Thinking Machines 的行列——它们发布了自家最强的模型，却仍落后于中国同行。人们会用很多方式过度解读这件事，但最清晰的结论应该是：中国人非常非常擅长构建 LLM。

我认为从原则上讲，控制前沿发展节奏作为一个理念是好的，但作为一件你实际能做成的事，它一出生就死了。我们要怎么决定——决定我们能在哪些基准上改进？谁来参与？ 如果我们停止推进“能力”，我们会做大量关于集群（swarms）+ 效率的研究，而这会带来其他风险。 它分散了注意力，让人忽视了一个事实：AI 风险中有很大一部分其实只是来自把我们已有的东西扩散出去，而我们应该投资于 preparedness、推动实验室更加谨慎等等。 来改变我的想法？

我进不了 X 平台顶级发帖者榜单，但我是 Schmidt Sciences AI2050 早期职业研究员，继续致力于构建和理解开放生态，让未来的 AI 可及、广泛扩散、由多方掌控且安全。科学第一，发帖第二！

Nathan Lambert 发文称很高兴看到 Google 用 Gemini 4 给人们带来惊喜。他认为更多实验室处于前沿对消费者（竞争）和世界（减少权力集中）都有好处，并期待其在真实场景中的表现。

最新一期 Interconnects 图表——展示开源模型推理经济的指数级增长。图表显示的是领先公司每日处理的 token 量，数据基于公开披露（Together、Baseten 和 Fireworks）以及 OpenRouter API。我低估了 OpenRouter 的增长。

只有 1 个国家参与，很难套用布雷顿森林体系的类比。