AI圈报
产品发布 / 更新精选

vLLM 发布 MiniMax M3 Day-0 支持:1M 上下文多模态推理

信息来源:vLLM 官方博客(RSS)·
原始标题:MiniMax M3 in vLLM: Day-0 Serving for 1M-Token Multimodal Reasoning

内容摘要

vLLM 宣布对 MiniMax M3 的 day-0 支持,覆盖 BF16 与 MXFP8 检查点,支持 1M-token 上下文、原生图像视频输入、minimax_m3 工具与推理解析器、EAGLE3 推测解码(草稿模型 Inferact/MiniMax-M3-EAGLE3)以及 TP/EP 部署和 Docker 镜像。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源vLLM 官方博客(RSS)
站内情报编号intel-ad0fbb9d17782d5bffcda924