MoE 模型推理的计算与数据搬运：从 Prefill 到 Decode 的四阶段解析

Google 于 8 月 5 日宣布全面调整 DeepMind 领导层，Demis Hassabis 退出日常运营，Jeff Dean 将联同 Sanjay Ghemawat、Quoc Le、Oriol Vinyals 离职创办新实验室 Discovery Loop，Koray Kavukcuoglu 接掌 DeepMind/Gemini。

SemiAnalysis 撰文反驳暂停令正在扼杀美国数据中心建设的流行叙事，基于覆盖 6000+ 设施的项目级模型，估计仅约 2.3 GW 计划产能真正因地方暂停令和纽约行政令而延迟。

SemiAnalysis 用自有 AgentX 基准发布 Rubin 平台的首批智能体推理实测结果，在 170 TPS、TRTLLM NVFP4 场景下，Vera Rubin NVL72 单位 TCO 总吞吐约为 GB300 Dynamo TRTLLM 的 67 倍，在 60-100 TPS 常用区间为 1.4-3 倍。

SemiAnalysis 长文分析通用机器人模型的智能应放在机器人本体还是数据中心。受实时性和单机成本约束，当前机器人模型仍为数十亿参数级，如 Physical Intelligence 的 π0 约 3B。

SemiAnalysis 分析 Nvidia 2Q F1/27 的 10-Q，披露 $530B 表外担保，远高于 $91B 表内负债，较上季 $184B 大幅跳升。

SemiAnalysis 发布长文分析数据中心表后（BTM）供电的现状与难点，其 Energy Model 追踪到 75GW 面向 BTM AI 算力的确定性订单，2026 年底预计美国约 3GW 数据中心 IT 容量由表后电站供电。

SemiAnalysis 在 InferenceX 上发布 TPUv7 Ironwood 的首批第三方推理结果，FP8 聚合服务下 Ironwood 每美元性能最高比 B200/B300 高 50%，在 20 tok/s/user 交互速度下每百万 token 成本约 0.181 美元，低于 B200 的 0.222 和 B300 的 0.276 美元。

Artificial Analysis 发布 Grok 4.7 评测，该模型在 Intelligence Index 得 46 分，较 Grok 4.6 高 2 分，AA-Briefcase 得 1657 Elo（+111），仅次于 Claude Opus 5 和 Claude Fable 5.1。

Elon Musk 引用 Artificial Analysis 评测称，Grok 4.7 使 xAI 在智能体编码上排名第三，仅次于 Anthropic 和 OpenAI。

Linear 工程师分享如何解决 AI Agent 加速写代码后 CI 成为瓶颈的问题，PR 等待时间从 6 分钟以上降至 5 分钟出头，单测 runner 时间约减半。