产品发布 / 更新普通
GB300 NVL72 智能体推理性价比超 Hopper 13 倍
原始标题:ALERT🚨 GB300 NVL72 NVLINK BACKPLANE ENABLES 13x BETTER PERF PER DOLLAR THAN HOPPER ON AGENTIC INFER…
内容摘要
警报🚨 GB300 NVL72 的 NVLINK 背板在智能体推理上实现比 Hopper 高 13 倍的每美元性能 通过极致的协同设计,GB300 NVL72 采用创新的铜背板,将 scale-up 域扩展到 72,而 Hopper 仅为 8。这使得诸如 @vllm_project 的宽专家并行等优化成为可能,让每块 GPU 只需承载一部分专家。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:SemiAnalysis (@SemiAnalysis_)
站内情报编号intel-7b9b06601b0c2db92ebccb43