过早夸大AI风险或反噬自身计划

Nathan Lambert 评价 Nvidia 收购 HuggingFace，认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方，HuggingFace 应摆脱盈利单位定位，去争取下一代 1 亿 AI 开发者；作者曾在 HuggingFace 工作并于去年预言过这一收购。

这显然不对。AI 的所有领域都存在竞赛动态--只是在前沿领域后果最为严重。 【引用 @markchen90】：@nic_carter 前沿之外不存在竞赛动态。

我整理了一份清单，收录了过去几年我在开放模型和开源 AI 方面读过并依赖的 50 多篇最佳文章和资源。祝阅读愉快 ：）

Nathan Lambert 认为，如果 Ant 与 OpenAI 放缓模型开发节奏，对开源阵营是利好。他引用 Willcb 的观点称，闭源实验室的"放缓"表态并非完全自愿，而是受外部压力所迫；智能能力终将经由最佳实践与知识蒸馏广泛扩散，闭源实验室做 Mac 和 Windows，其余人做 Linux。

Nathan Lambert 转发 Dario Amodei 新文 We Must Pace the Frontier，其中 Anthropic 承诺为第三方评估者提供永久的员工级系统访问权限。

一篇好文。我对 AI 实验室推进进步的方式也有类似感受--直接推进，而不去培育科学社区与直觉。数学研究界经历这一转变最快，所以感受最深。其他领域会是下一个。

对于那些说蒸馏主要是SFT副产物、以及在以RL定义的时代它如何变得越来越有影响力尚不明确的人来说，这是一大胜利。

我不觉得我在 Interconnects 上什么都写对了，但在这样一个快速变化的时代，公开梳理自己的想法真的很有趣。这会迫使你不断改变一些观点，并培养出好的思考直觉。我们需要更多 AI 研究者这样做。

如果你今天想找一个不同的视角--它假设 AI 模型会加速 AI 研究进程，但不会导致快速的 RSI 和近期风险的爆发：https://www.interconnects.ai/p/lossy-self-improvement

我不在OpenAI/Anthropic工作的朋友们有一个共识：这些实验室里的人（尤其是Anthropic）带着一种宗教般的能量在工作。这表现为非常脱离现实的互动方式，并延续到了公开沟通中（例如最近的离职事件）。公司文化造就了这一切。