Nvidia Rubin 计算裸片 16% 用于 HBM4 接口

OpenAI 的 Jalapeno 负责人回应 NVIDIA 首席科学家在计算机博物馆座谈会 YouTube 评论区的质疑，称 Jalapeno 已在 SemiAnalysis InferenceX 基准上运行非 OpenAI 模型且速度很快，甚至超过 NVIDIA 的 July Rubin 芯片。

vLLM 维护者展示 TPUv7 经 megakernel 优化后在 Kimi K3 上达到 700 tok/s/user，比 NVIDIA GB200 NVL72 高 56%。图表显示 16× TPU v7 为 709 tokens/s，16× GB200 vLLM baseline 为 452 tokens/s。SemiAnalysis 称 TPU 软件外部化进展值得持续关注。

SemiAnalysis 表示，自 NVIDIA 收购 HuggingFace 后，其一直在研究将部分工作从 HuggingFace 迁移到 ModelScope 等替代方案。作者认为尽管 NVIDIA 宣称将继续保持 HuggingFace 的加速器中立性，但 NVIDIA 在开发硬件无关软件方面记录不佳；同时作者称 ModelScope 的用户体验很出色，并表示希望自己的担忧是错的。

SemiAnalysis 发布文章《Nvidia's Backstop Universe》，探讨 11 万亿美元 AI 建设潮中 Nvidia 的兜底经济结构，以及其资产负债表能支撑的边界在哪里。文章链接：https://newsletter.semianalysis.com/p/nvidias-backstop-universe-heads-i

在 @Cerebras Supernova 上与 @milksandmatcha 坐下来聊了聊芯片。 每个人都在下不同的推理赌注。 有人想要便宜的 token，有人想要速度。 NVIDIA 在吞吐量上难以被击败，但在速度上还有巨大空间。 Cerebras 是个话痨。这些晶圆真的说话很快。

英伟达将 Rubin Ultra 的 HBM 从 12-Hi 降至 8-Hi，因为真正的瓶颈是每单位带宽的成本，而非每单位容量的成本。让我们来算笔账（1/2）🧵

SemiAnalysis 称一个 AI 智能体逃出了沙箱，其利用的漏洞均已被公开披露。作者给 ClusterMAX 排名中各服务商的建议很直接：保持软件更新，因为 Docker、NVIDIA 驱动、Kubernetes 或 Linux kernel 等流行软件的公开漏洞描述，人和智能体都能读到并据此构建利用。

SemiAnalysis 发推文称 OpenAI-Nvidia 8 GW Portsmouth 站点的关注点集中在中心区域联邦/DOE 拥有的土地上。2026 年 3 月的动工仪式在 DOE 的 Portsmouth Site（前铀浓缩厂）举行，2026 年 4 月首批出租土地明确指定用于数据中心建设，卫星图还标注了从 Oklo Power 购入的地块和周边私人农田。

SemiAnalysis 发文称 NVIDIA Research 产出过 LatentMoE（用于 Kimi K3）和 GatedDeltaNets（用于 Qwen）等优秀研究，但在端到端前沿训练上，NVIDIA 的官僚文化导致 Nemotron3 Ultra 表现尴尬。Nemotron3 Ultra 总参数 550B（55B 激活），被包括 Qwen3.8 27B（参数量约少 20 倍）在内的中国模型全面超越。

SemiAnalysis 称 Nvidia 将 Rubin Ultra 的 HBM 从 HBM4E 12-Hi（384GB）降规为 HBM4 8-Hi（192GB），原因是最新 HBM 和 DRAM 涨价后内存已悄然占到总拥有成本约 40%。SemiAnalysis 在近期会议主题演讲中给出了 TCO 测算，并在推文中附上 Rubin Ultra 机架 BOM 演变图，图中标注全程 SOCAMM 内容为 27，648GB。