模型发布 / 更新普通
唐杰:确定模型最优规模并不简单,Fable 或仅 2-2.5T 参数
原始标题:Are you sure? Finding the optimal model size is tricky: data volume, active parameter count, the num…
内容摘要
唐杰指出确定模型最优规模并不简单,需权衡数据量、激活参数量、环境数量和目标推理成本,性能还受多种因素影响。其引用讨论称 Fable 约为 2-2.5T 参数而非 10T,Kimi K3 为 2.8T 参数、训练约用 20-30k Blackwell 等效算力,能力接近 Fable 5(非 5.1)。