AI圈报
产品发布 / 更新精选

vLLM 发布 Mistral Large 4 Day 0 支持

信息来源:vLLM 官方博客(RSS)·
原始标题:Day 0 support for Mistral Large 4 on vLLM

内容摘要

vLLM 团队宣布对 Mistral 新旗舰模型 Mistral Large 4 提供 Day 0 支持,该模型为 1T 参数、每 token 激活 49B 的原生多模态 MoE 模型,采用 MLA 稀疏注意力加 DSA top-k 索引器、跨层 KV 共享、NoPE、SSMax 和 LeRoPE 等新架构,并内置 DSpark 推测解码草稿器与 Pixtral 视觉编码器。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源vLLM 官方博客(RSS)
站内情报编号intel-b6785af1309af31604066035