NVIDIA 发布 AIPerf 并演示如何在 vLLM 上规模化做 LLM 推理基准测试

NVIDIA 技术博客讲解 dense 与 MoE 架构在参数激活、吞吐和部署上的差异，以 Nemotron 3.5 Lightning 为例说明 MoE 每词元仅激活约 3B 参数、总参数 30B 仍需约 60 GB 显存。文章给出按显存预算、并发、微调和量化需求选型的建议，并对比 Gemma 4 31B、Qwen3.8-27B、Mistral Small 4 等模型的输出速度与价格数据。

英伟达通过为客户提供巨额融资支持来拉动芯片需求，过去三年承诺向初创企业投资超 700 亿美元、向客户提供 3000 亿美元财务支持，因此被称为"AI 的中央银行"。今年 8 月它同意为俄亥俄州一座大型数据中心提供最高 1050 亿美元的兜底，并与六家华尔街机构合作撬动超 5000 亿美元 AI 基础设施投资。批评者将其类比 1990 年代末思科和朗讯向电信客户放贷的互联网泡沫风险。

Nathan Lambert 评价 Nvidia 收购 HuggingFace，认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方，HuggingFace 应摆脱盈利单位定位，去争取下一代 1 亿 AI 开发者；作者曾在 HuggingFace 工作并于去年预言过这一收购。

NVIDIA 上季度营收 960 亿美元，同比增长 106%，并指引 Q3 营收达 1080 亿美元（±2%），成为首家单季营收破千亿的半导体公司。按此年化营收 4320 亿美元，NVIDIA 已跃居全球第六大公司。同时，非超大规模客户首次贡献数据中心净新增收入的大部分，应收账款周转天数从 45 天升至 60 天，显示其正通过延长付款条件为买家提供更多供应商融资。

2026年1至8月，Hugging Face公开模型仓库从243万增至296万，但85.6%的模型下载量不足200次，1.5%的仓库占据99.2%下载量。中国实验室月度最大开源模型参数规模在754B至2.78万亿之间，美国实验室七个月中五个月低于130B。AMD与NVIDIA各发布超200个新模型仓库，成为发布开源模型最多的机构。

Azure 上季度增长 43%，全年收入首破 1000 亿美元，但谷歌云同期增长 82%，且云业务营业利润率从 20.7% 扩至 35.6%。微软因不拥有前沿模型与自研芯片，需向英伟达支付其利润率，资本开支中约三分之二投向 CPU/GPU。其合同积压达 6780 亿美元，但剔除 OpenAI 后仅增长 25%，近半未来订单依赖单一客户。

Google Cloud 在 2026 年 Q2 营收同比增长 82% 至 $24.8b，超过 $22.3b 的预期，增速已与 NVIDIA 趋同。增长主要来自 AI 算力租赁需求，而非 TPU 系统销售--后者本季度才开始确认收入，大部分收入将在 2027 年落地。云业务积压订单达 $514b，同比增长 385%，营业利润率从一年前的 20.7% 扩大至 35.6%。

过去六个月多项数据显示，AI 工程生产力提升远超常态：NVIDIA 报告 3 万开发者提交代码量增加 3 倍且缺陷率持平，Anthropic 内部采用 Claude Code 后人均代码量提升 2.5 倍。多数公司仅分发 AI IDE 时效率提升约 20-30%，而构建智能体编排的前沿公司可实现 3 倍产出，软件工厂模式如 Devin 在 Nubank 带来 8 倍效率提升和 20 倍成本降低。

Google AI 发布 DiffusionGemma 开发者指南，该实验性模型基于 Gemma 4 架构，采用计算受限并行生成，在单张 NVIDIA H100 上实现 1000+ tokens/秒的生成速度。模型为 26B 参数的 MoE 架构，推理时仅激活 3.8B 参数，可在 18 GB VRAM 内量化部署。

面壁智能CTO曾国洋指出，端侧模型是AI落地的关键路径。其原创方法论"模型风洞"可在小规模实验中预测完整训练效果，并基于"知识密度"提出"面壁定律"：知识密度每3.5个月翻一番。2B参数的MiniCPM表现优于同期8B竞品。面壁已完成高通、联发科、英特尔、英伟达、AMD等芯片适配，新发布的BitCPM-CANN模型系列可在华为昇腾芯片上让同一内存多装约6倍模型。全双工全模态模型MiniCPM-o4.5支持实时打断与情绪调整。团队开发了全球首个完全由AI编写的生产级训练框架F…