AI圈报
产品发布 / 更新精选

vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持

信息来源:vLLM 官方博客(RSS)·
原始标题:Serving Reflection Beam on vLLM from Day 0

内容摘要

vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源vLLM 官方博客(RSS)
站内情报编号intel-49abedba916eb24b3e45f373