AI圈报
模型发布 / 更新普通

Hy4-preview 在 vLLM 中运行

信息来源:X:腾讯混元 (@TencentHunyuan)·
原始标题:Hy4 preview runs in vLLM

内容摘要

腾讯混元 Hy4-preview 从发布首日起即支持在 vLLM 中运行,并已在 NVIDIA GPU 上完成验证。该模型总参数量 770B,激活参数 49B,采用 256 个路由专家加 1 个共享专家,支持 1M 上下文但每次查询仅关注 2048 个 token。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:腾讯混元 (@TencentHunyuan)
站内情报编号intel-1d0f93875d67cdb2d5c1e530