AI圈报
产品发布 / 更新普通

GB300 NVL72 智能体推理性价比超 Hopper 13 倍

信息来源:X:SemiAnalysis (@SemiAnalysis_)·
原始标题:ALERT🚨 GB300 NVL72 NVLINK BACKPLANE ENABLES 13x BETTER PERF PER DOLLAR THAN HOPPER ON AGENTIC INFER…

内容摘要

警报🚨 GB300 NVL72 的 NVLINK 背板在智能体推理上实现比 Hopper 高 13 倍的每美元性能 通过极致的协同设计,GB300 NVL72 采用创新的铜背板,将 scale-up 域扩展到 72,而 Hopper 仅为 8。这使得诸如 @vllm_project 的宽专家并行等优化成为可能,让每块 GPU 只需承载一部分专家。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:SemiAnalysis (@SemiAnalysis_)
站内情报编号intel-7b9b06601b0c2db92ebccb43