vLLM 在 Vera Rubin NVL72 上跑 DeepSeek-V4.1-Flash：吞吐达 GB300 NVL72 的 58 倍，单用户 387 tokens/s

vLLM 用 P/D 分离与 Wide-EP 在单台 NVIDIA GB300 NVL72 上服务 DeepSeek-V4.1-Flash，在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s，为早期单节点结果的 7.9 倍。

英伟达 CEO 黄仁勋在 CNBC《财经早间》节目上表示，利用其他模型输出训练新模型的蒸馏属于市场竞争，与美财政部长贝森特 7 月称其为“盗窃”的定性相反。他以竞品拆解英伟达产品为例，称竞争会让一切更好。此前 CISA 指责中国 AI 企业开展“工业规模知识蒸馏”，Anthropic 称发现阿里巴巴和 DeepSeek 存在“非法蒸馏”行为，中方已驳斥相关指控。

BestBlogs 09-04 早报汇总十条内容，涉及 GPT-6 Astra 安全概览、Paul Graham 创业访谈、曾鸣 AI 产业史观、Codex 与 DeepSeek 的 Harness 开源对比、Meta 团队缩减计划与组织级第二大脑、NVIDIA 推测解码指南、通义 E-Commerce Bench、Google WeatherNext 3 和美团智播。

英伟达以 DeepSeek-v4-PRO 1.6T 模型测试显示，Vera Rubin NVL72 每兆瓦吞吐量约为 GB300 NVL72 的 30 倍，每百万 Token 成本为后者的 35 分之一。测试采用 SemiAnalysis AgentX 工作负载，评估智能体编程推理。此前 GB300 NVL72 每兆瓦吞吐量已达 H200 NVL8 方案的 15 倍。

AMD 与 Embedded LLM 在 vLLM 官方博客详解 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化。

Inferact 与 vLLM 社区在 DeepSeek-V4.1-Flash 发布三周内完成优化，低并发速度提升 1.9 倍，150 TPS 约束下吞吐提升 5.3 倍。

vLLM 新增对 NVIDIA GPU 硬件视频解码（NVDEC）的支持，通过集成 PyNvVideoCodec 把视频解码负载从 CPU 转移到 GPU。在 8xH100 上，GPU 解码吞吐量比 CPU 解码方案提升一倍以上。该功能已包含在标准 CUDA 版 vLLM 中，自定义安装需依赖 PyNvVideoCodec==2.0.4。

当前 AI 热点，聚合 6 个独立信源、56 条信号。

Nvidia 董事会宣布对 CEO 黄仁勋启动独立调查后，TechCrunch 采访耶鲁教授 Jeffrey Sonnenfeld，他估计黄仁勋保住职位的概率约为 50-50。

NVIDIA KGMON 团队在 KDD Cup 2026 Data Agents 竞赛获得第二名，并发布构建可靠数据分析智能体的方法复盘。