AI圈报
产品发布 / 更新精选

vLLM 发布 Kimi K3 Day-0 支持:2.8T 混合 MoE 的部署指南与性能数据

信息来源:vLLM 官方博客(RSS)·
原始标题:Kimi K3 Is Here: Efficient Day-0 Support on vLLM

内容摘要

vLLM 官方宣布 Day-0 支持 Kimi K3,这是一个 2.8 万亿参数的 MoE 模型(每 token 激活 896 专家中的 16 个),基于 Kimi Delta Attention 与 Attention Residuals,支持 1M token 上下文窗口和原生视觉。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源vLLM 官方博客(RSS)
站内情报编号intel-37bd131f2fca38ffbf1a0d4f