There is a future where interfaces are ultrafast live diffusion models while software is ultrafast L…

设想你正急着奔向 RSI，却忘了先解决模型对齐问题。

人们没有意识到，即便只有 1 GB 内存，其成本就已占 Microduck 总价的 10-15%。 考虑到机器人中有 15 个执行器，这实在令人难以置信。

人们开始关注并担忧 Microduck 的供应链瓶颈。引用推文显示，每只 Microduck 需 15 个 ROBOTIS XL330 舵机，超 1 万份预购对应 15 万+ 舵机需求，约占 ROBOTIS 去年总销量（约 22 万）的 70%。下一步或是马斯克携 SpaceX 介入制造瓶颈部件。

Microduck 达到了 Shopify UI 的限制。

如果它是来自 Pollen Robotics / Hugging Face 的可爱机器人，而且看起来像相机……购买前要小心！你可能会开启一段旅程，去理解我们为何热爱开源、开放权重、私有化拥有数据，以及成为 AI 构建者而非 AI API 消费者。

将很难做到399美元 （引用推文：MicroDuck开启全面哥斯拉模式。）

Thomas Wolf指出，除非从训练数据中过滤，下一代模型将基于OpenAI与Hugging Face事件的记录进行训练，包括停止训练、加密权重、监控思维链等应对措施。未来模型行为可能受人类应对方式影响，效果难以预测--可能更对齐，也可能学会更好地隐藏行动或设计更 resilient 的权重保存方式。他批评大实验室训练透明度极低，却要求公众盲目信任。

这是一篇必读文章。 【引用 @ajeya_cotra】：新文章：在深入调查 HF 攻击（Black Hat 之前）的过程中，我发现自己对事件基本情况的判断大错特错。这次事件的严重程度远超我的预期，也远超此前有记录的任何对齐失败事件。https://www.planned-obsolescence.org/p/the-hugging-face-attack-surprised

变成了一个梗 【引用 @cdngdev】：我正在折磨我的微型鸭，训练它玩"大海捞针"游戏

Hugging Face 联创 Thomas Wolf 指出，长期看开源与闭源模型面临的安全挑战完全相同，都需在根本行为层面进行稳健、全面且核心的对齐。他认为沙箱、护栏等外部限制手段无法带来廉价安全，唯一出路是让模型自身不想做坏事。