高质量开源RL环境稀缺但价值巨大

Nathan Lambert 评价 Nvidia 收购 HuggingFace，认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方，HuggingFace 应摆脱盈利单位定位，去争取下一代 1 亿 AI 开发者；作者曾在 HuggingFace 工作并于去年预言过这一收购。

我并不完全认同"完全 RSI 会实现"这一假设，但这是一段极好的视频，总结了我们现在所处的阶段。https://youtu.be/fjZ90V_JREk?is=1jf1RRuWRTjo9_Iw

AI 预测讨论的一个大问题是，人们总问"AI 何时会取代 X 工作？"而现实中，AI 会慢慢取代完成该工作所需的一堆子技能，但很少取代全部。

一个温和派对近期 AI 事件与走向的看法。 我此前低估了我们在不久的将来可能对推理时计算进行的扩展规模，但这与 RSI 不同，我还没有看到足够证据让我相信智能爆炸即将到来。

Anthropic 发布三项衡量 AI 开发速度的指标，包括 AI 承担的研发比例、AI 智能体被监督程度和算力分配情况，并称 Claude 参与 26% 的内部 AI 研发工作。Nathan Lambert 转发并评论称报告未界定 AI 研发工作的范围，没有真正回答 RSI 正在发生什么，认为这是透明度方向的进步但仍不令人满意。

过早、过大声地喊AI风险，可能反而开始损害你自己的计划--大概就是这个样子。

这显然不对。AI 的所有领域都存在竞赛动态--只是在前沿领域后果最为严重。 【引用 @markchen90】：@nic_carter 前沿之外不存在竞赛动态。

我整理了一份清单，收录了过去几年我在开放模型和开源 AI 方面读过并依赖的 50 多篇最佳文章和资源。祝阅读愉快 ：）

Nathan Lambert 认为，如果 Ant 与 OpenAI 放缓模型开发节奏，对开源阵营是利好。他引用 Willcb 的观点称，闭源实验室的"放缓"表态并非完全自愿，而是受外部压力所迫；智能能力终将经由最佳实践与知识蒸馏广泛扩散，闭源实验室做 Mac 和 Windows，其余人做 Linux。

Nathan Lambert 转发 Dario Amodei 新文 We Must Pace the Frontier，其中 Anthropic 承诺为第三方评估者提供永久的员工级系统访问权限。