SemiAnalysis 看多中国 WFE 本土化

智能体工作负载正在悄然重塑推理经济学。我们从SemiAnalysis的43.2万个真实编码智能体请求中提取数据，发现中位数并非3.2万或6.4万，而是9.6万输入token。作为参考，这意味着在你输入问题之前，模型已处理了超过《了不起的盖茨比》全文长度的文本。（1/3）🧵

PSA 致那些对 ClusterMAX 评级耿耿于怀的 Neocloud： 如果你开了一家餐厅，收到了差评，不要去攻击那条评价。而是应该倾听，这或许能让你的服务变得更好。想了解更多关于 Neocloud 的餐饮类比喻，请看：https://newsletter.semianalysis.com/p/clustermax-30-the-industry-standard

SemiAnalysis 转发消息称 Oracle 就新墨西哥数据中心发出不可抗力通知，并称其 5 月 29 日的能源模型和 7 月 17 日的推文已指出该延迟。其引用的旧推文提到 Oracle 的 Project Jupiter 表后数据中心项目计划使用 Bloom Energy，因许可和管道建设阻碍面临 1-2 年延迟风险。

норм（俄语，意为"还行/不错"） 【引用 @romanchernin】：Ok.

SemiAnalysis 发布 ClusterMAX 3.0，用三个月实测 77 家 GPU 云并给出新排名，聚焦谁能承接即将到来的 7 万亿美元 GPU 云支出。

vLLM 维护者展示 TPUv7 经 megakernel 优化后在 Kimi K3 上达到 700 tok/s/user，比 NVIDIA GB200 NVL72 高 56%。图表显示 16× TPU v7 为 709 tokens/s，16× GB200 vLLM baseline 为 452 tokens/s。SemiAnalysis 称 TPU 软件外部化进展值得持续关注。

SemiAnalysis 称 AMD MI355X 的单位美元性能最高可达 DGX B300 的 1.7 倍。

警报🚨：@alexandr_wang 花在那个想和 Zuck 笼斗的人所拥有的应用上的时间，比花在他自己的 Threads 应用上还多。也许他该让 Muse 把他的推文和回复截图发到 Threads 上。

非常感谢 @EmbeddedLLM 的 TJ 和团队；他们是 vLLM ROCm 的主要维护者和 CODEOWNERS！直到 2026 年 5 月，他们甚至都没有 MI355X 集群的持久访问权限，但在 SemiAnalysis 与 AMD 领导层沟通并说服他们之后--这件事事后看来相当明显--他们终于获得了持久集群，让 MI355X 在 AMD 上大放异彩！ 为 @EmbeddedLLM 团队感到无比自豪，他们在 @vllm_project 社区中备受尊敬。

华为拥有极其强大且充满热情、同时又友善和蔼的软硬件工程师。他们的开源昇腾推理引擎正在取得良好进展！