Thomas Wolf 谈 LLM 训练实验室：赋予模型的能力正变得如神一般

Thomas Wolf 转发 @RemiFabreRobot 的视频，用 Microduck 鸭子学走路的过程讲解强化学习（RL），配乐由 @antoinepirrone 制作。

引用内容称 MicroDuck 4 天内获得 10，500 台订单和 454 万美元销售额，可能是史上最大的新消费机器人首发。配图对比显示 MicroDuck 首日售出 4，635 台（净价 $399），高于 Aibo ERS-110 的 3，000 台、Anki Vector 的约 2，300 台、Reachy Mini 的 1，078 台和 Pepper 的 1，000 台；首周 10，520 台，超过 1X NEO 的 10，000 台。作者 Thomas Wolf …

设想你正急着奔向 RSI，却忘了先解决模型对齐问题。

人们没有意识到，即便只有 1 GB 内存，其成本就已占 Microduck 总价的 10-15%。 考虑到机器人中有 15 个执行器，这实在令人难以置信。

人们开始关注并担忧 Microduck 的供应链瓶颈。引用推文显示，每只 Microduck 需 15 个 ROBOTIS XL330 舵机，超 1 万份预购对应 15 万+ 舵机需求，约占 ROBOTIS 去年总销量（约 22 万）的 70%。下一步或是马斯克携 SpaceX 介入制造瓶颈部件。

Microduck 达到了 Shopify UI 的限制。

如果它是来自 Pollen Robotics / Hugging Face 的可爱机器人，而且看起来像相机……购买前要小心！你可能会开启一段旅程，去理解我们为何热爱开源、开放权重、私有化拥有数据，以及成为 AI 构建者而非 AI API 消费者。

将很难做到399美元 （引用推文：MicroDuck开启全面哥斯拉模式。）

Thomas Wolf指出，除非从训练数据中过滤，下一代模型将基于OpenAI与Hugging Face事件的记录进行训练，包括停止训练、加密权重、监控思维链等应对措施。未来模型行为可能受人类应对方式影响，效果难以预测--可能更对齐，也可能学会更好地隐藏行动或设计更 resilient 的权重保存方式。他批评大实验室训练透明度极低，却要求公众盲目信任。