Nathan Lambert 与 Epoch AI 播客对谈，争论蒸馏对中国实验室的真实影响

Nathan Lambert 评价 Nvidia 收购 HuggingFace，认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方，HuggingFace 应摆脱盈利单位定位，去争取下一代 1 亿 AI 开发者；作者曾在 HuggingFace 工作并于去年预言过这一收购。

Nathan Lambert 与 Epoch AI 的 @datagenproc 录制新播客，探讨决定前沿 AI 未来的开放问题。话题涵盖 RSI 预测、机器人技术在 AI 加速中的作用、中国模型落后程度、蒸馏能否解释差距、中国实验室招聘信息透露的信号、开源与闭源模型安全性对比，以及前沿后训练配方长什么样。

强烈赞同。这种情况比我预期的要少得多--部分原因是构建高质量环境通常涉及相当昂贵的验证（测试强模型）。尽管如此，还可以有更多。 【@Thom_Wolf】：发布大量高质量的开源RL环境是当前任何人推动开源前沿所能做的最有影响力的事情 相当于分享高质量预训练数据，但在新的RLVR范式下

我并不完全认同"完全 RSI 会实现"这一假设，但这是一段极好的视频，总结了我们现在所处的阶段。https://youtu.be/fjZ90V_JREk?is=1jf1RRuWRTjo9_Iw

AI 预测讨论的一个大问题是，人们总问"AI 何时会取代 X 工作？"而现实中，AI 会慢慢取代完成该工作所需的一堆子技能，但很少取代全部。

一个温和派对近期 AI 事件与走向的看法。 我此前低估了我们在不久的将来可能对推理时计算进行的扩展规模，但这与 RSI 不同，我还没有看到足够证据让我相信智能爆炸即将到来。

Anthropic 发布三项衡量 AI 开发速度的指标，包括 AI 承担的研发比例、AI 智能体被监督程度和算力分配情况，并称 Claude 参与 26% 的内部 AI 研发工作。Nathan Lambert 转发并评论称报告未界定 AI 研发工作的范围，没有真正回答 RSI 正在发生什么，认为这是透明度方向的进步但仍不令人满意。

过早、过大声地喊AI风险，可能反而开始损害你自己的计划--大概就是这个样子。

这显然不对。AI 的所有领域都存在竞赛动态--只是在前沿领域后果最为严重。 【引用 @markchen90】：@nic_carter 前沿之外不存在竞赛动态。

我整理了一份清单，收录了过去几年我在开放模型和开源 AI 方面读过并依赖的 50 多篇最佳文章和资源。祝阅读愉快 ：）