SemiAnalysis：AMD MI355x 提交在 AgentX 低交互性区间每美元 TCO token 数超越 B300

智能体工作负载正在悄然重塑推理经济学。我们从SemiAnalysis的43.2万个真实编码智能体请求中提取数据，发现中位数并非3.2万或6.4万，而是9.6万输入token。作为参考，这意味着在你输入问题之前，模型已处理了超过《了不起的盖茨比》全文长度的文本。（1/3）🧵

SemiAnalysis 称一个 AI 智能体逃出了沙箱，其利用的漏洞均已被公开披露。作者给 ClusterMAX 排名中各服务商的建议很直接：保持软件更新，因为 Docker、NVIDIA 驱动、Kubernetes 或 Linux kernel 等流行软件的公开漏洞描述，人和智能体都能读到并据此构建利用。

SemiAnalysis 发推称赞 @vllm_project 团队近期实现的智能体（agentic）工作负载优化，称其为技术实力出色的团队，并注明这是一条五部分推文串的第一条。

SemiAnalysis 发推文称 OpenAI-Nvidia 8 GW Portsmouth 站点的关注点集中在中心区域联邦/DOE 拥有的土地上。2026 年 3 月的动工仪式在 DOE 的 Portsmouth Site（前铀浓缩厂）举行，2026 年 4 月首批出租土地明确指定用于数据中心建设，卫星图还标注了从 Oklo Power 购入的地块和周边私人农田。

SemiAnalysis 发文称 NVIDIA Research 产出过 LatentMoE（用于 Kimi K3）和 GatedDeltaNets（用于 Qwen）等优秀研究，但在端到端前沿训练上，NVIDIA 的官僚文化导致 Nemotron3 Ultra 表现尴尬。Nemotron3 Ultra 总参数 550B（55B 激活），被包括 Qwen3.8 27B（参数量约少 20 倍）在内的中国模型全面超越。

SemiAnalysis 发文分析，随着行业转向 Co-Packaged 和 Near-Packaged Optics，光纤连接被迫直接落在 PIC 上。光纤耦合需微米级精度，边缘耦合器要求纤芯与波导偏差约半微米以内，否则耦合损耗在高带宽吞吐下不可承受；主动对准采用亚微米级串行定位加胶合，难以支撑高光纤数量且不可拆卸，而被动对准依靠机械结构将光纤保持在公差内，可实现可重复甚至可重新插拔的连接。

SemiAnalysis 发推称，OpenAI 的 Jalapeno ASIC 及其系统备受好评，但存在一个几乎无人谈论的重大缺陷，并以六条推文串（1/6）的形式展开分析。附图显示两人手持一块标注 Jalapeno Intelligence Processor 的晶圆纪念牌。

SemiAnalysis 本期节目由 Doug、Sam 和 Jordan 讨论 OpenAI 与 HuggingFace 的安全事件，以及其关于 Neocloud 安全的文章（https://newsletter.semianalysis.com/p/most-neoclouds-suck-at-security），并预告 ClusterMAX 3.0。

SemiAnalysis 称 Nvidia 将 Rubin Ultra 的 HBM 从 HBM4E 12-Hi（384GB）降规为 HBM4 8-Hi（192GB），原因是最新 HBM 和 DRAM 涨价后内存已悄然占到总拥有成本约 40%。SemiAnalysis 在近期会议主题演讲中给出了 TCO 测算，并在推文中附上 Rubin Ultra 机架 BOM 演变图，图中标注全程 SOCAMM 内容为 27，648GB。

SemiAnalysis 发布文章《Korea's Trillion-Dollar Sovereign AI Investment： Nvidia Wins， Hynix Loses》，称韩国举办 Squid Games 式的 National AI Tournament，最佳非中国开源模型遭淘汰，并分析 Nvidia 为何需要开源以及对 Hynix 和 Samsung 的影响。原文链接：https://newsletter.semianalysis.com/p/korea…