模型发布 / 更新普通
Hy4-preview 在 vLLM 中运行
原始标题:Hy4 preview runs in vLLM
内容摘要
腾讯混元 Hy4-preview 从发布首日起即支持在 vLLM 中运行,并已在 NVIDIA GPU 上完成验证。该模型总参数量 770B,激活参数 49B,采用 256 个路由专家加 1 个共享专家,支持 1M 上下文但每次查询仅关注 2048 个 token。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:腾讯混元 (@TencentHunyuan)
站内情报编号intel-1d0f93875d67cdb2d5c1e530