ALERT🚨： AMD INCREASED @vllm_project PERFORMANCE BY 11x IN LESS THAN 19 DAYS ON MI355X AGENTIC WORKL…

InferenceX，领先的开源机器学习系统性能仪表盘，现在除了 CSGO 和 Minecraft 之外，还新增了 GTA 主题。 接下来我们应该添加什么主题？（1/2）🧵

SemiAnalysis 用开源 CLI 工具 cmax 对各家 GPU 集群做 ClusterMAX 测试，并以 agentic coding 作为测试负载。该负载对系统压力与常规工作负载差异很大，提供商普遍难以应对。cmax 作为前端，智能体只是其外层封装，遇到问题时会自行调试排查。

突发：在与 GB300 进行同等条件对比时，AMD MI355X 正在智能体推理方面迅速缩小性能/TCO 差距。（1/3）🧵

Jensen 在 GTC 上又拿 VR 性能来压低预期了。还好 Ian Buck 要来解决这个问题--他将在 Santa Clara 的 AI Infra Summit 上介绍真正的 AgentX。 Vera Rubin NVL72 在 170 tokens/s 的 SLO 下，每美元吞吐量约为 GB300 的 67 倍。（1/2）🧵

Vera Rubin NVL72 智能体推理：每美元性能提升 67 倍，Jensen 又在藏性能，每吉瓦年利润翻倍，买得越多赚得越多，AgentX、InferenceX、极致协同设计 https://newsletter.semianalysis.com/p/vera-rubin-nvl72-agentic-inference

警报🚨 GB300 NVL72 的 NVLINK 背板在智能体推理上实现比 Hopper 高 13 倍的每美元性能 通过极致的协同设计，GB300 NVL72 采用创新的铜背板，将 scale-up 域扩展到 72，而 Hopper 仅为 8。这使得诸如 @vllm_project 的宽专家并行等优化成为可能，让每块 GPU 只需承载一部分专家。

NVIDIA 与 Google 为 Google 的 ConnectX-7/8 NCCL Plugin 实现开箱即用的自动激活，此前用户需手动配置库加载路径和环境变量才能在 GCP NVIDIA GPU 机器上优化 NVIDIA ConnectX 网卡性能，现已完全自动化。

华为在 WAIC 首次展示 Atlas 950 SuperPoD 服务器，此前于 3 月 MWC 宣布。

NVIDIA 开源 srt-slurm，为 Slurm 集群上的生产级推理服务提供基于 YAML 的编排层。它协调 sbatch/srun、GPU 分配、网络、就绪检查及清理，支持 prefill/decode 分离、多 worker、Dynamo 前端、KV-cache 感知路由等拓扑，便于在 GPU 集群上快速部署代表性推理系统进行测试或基准评测。

突发新闻🚨🚨 OpenAI 最新芯片每瓦性能比英伟达 7 月 Rubin 性能最高提升 2 倍。OpenAI 芯片甚至未启用 SPEC 解码，就已击败启用 SPEC 解码的 Rubin NVL72。（1/2）🧵