英伟达为何不亲自售卖token

Kog团队在标准数据中心GPU上实现了极高的单用户推理速度，在8× AMD MI300X GPUs上达到3，000 tokens/s，在8× NVIDIA H200上达到2，100 tokens/s。相比常规推理速度（约100-300 tokens/s），实现了10-30倍提升。其核心思路是将LLM解码视为内存流问题，通过协同设计monokernel、重建同步机制、针对性内存访问映射及采用延迟张量并行的Laneformer模型架构，消除了传统流程的阻塞点。

中国五大厂商占2026上半年全球人形机器人出货量的86%，全球总出货量超2.2万台，同比增长近300%。英伟达正将CUDA模式复制至该市场，通过深度嵌入少数头部厂商，以GPU/Jetson+CUDA+Isaac/GR00T/Cosmos栈覆盖机器人开发全流程。

中国人形机器人占全球出货量86%，英伟达正将其CUDA策略复制到这一高度集中的市场。英伟达只需深度嵌入少数几家机器人厂商，即可覆盖大部分市场。其路径是让机器人厂商依赖英伟达GPU/Jetson、CUDA及Isaac/GR00T/Cosmos平台，实现仿真、训练、控制与部署的全栈绑定。

SemiAnalysis 长文披露 OpenAI 自研 Jalapeño 芯片，称其面向数十万亿参数模型与百万级 token 上下文设计，并质疑 CUDA 在 AI 可自写代码优化新架构下的存续。该芯片以每瓦性能为核心，目标让数千芯片协同为单一推理机，其每兆瓦输出 token 吞吐已超越英伟达 Vera Rubin 公布数据。

NVIDIA 在 GLM 5.3 SGLang 对比测试中，在 150 tok/s/user 条件下，成本效率最高比 AMD 优 5 倍。 - 最新 SemiAnalysis 报告 "以 AMD 当前的软件状态，在 150 tok/s/user 下，NVIDIA 的性能优势如此之大，以至于即便竞争对手的芯片硬件免费赠送（但服务商仍需支付数据中心托管、电力和其它运营成本），使用 NVIDIA 的每 token 成本仍然更低。"

NVIDIA 上季度营收 960 亿美元，同比增长 106%，并指引 Q3 营收达 1080 亿美元（±2%），成为首家单季营收破千亿的半导体公司。按此年化营收 4320 亿美元，NVIDIA 已跃居全球第六大公司。同时，非超大规模客户首次贡献数据中心净新增收入的大部分，应收账款周转天数从 45 天升至 60 天，显示其正通过延长付款条件为买家提供更多供应商融资。

2026年1至8月，Hugging Face公开模型仓库从243万增至296万，但85.6%的模型下载量不足200次，1.5%的仓库占据99.2%下载量。中国实验室月度最大开源模型参数规模在754B至2.78万亿之间，美国实验室七个月中五个月低于130B。AMD与NVIDIA各发布超200个新模型仓库，成为发布开源模型最多的机构。

Azure 上财年营收首破 1000 亿美元，同比增长 43%，但 Google Cloud 增速达 82%，几乎是 Azure 的两倍。Google 拥有自研模型与芯片，云运营利润率从 20.7% 扩至 35.6%；微软则主要依赖英伟达商用芯片，且 6780 亿美元合同 backlog 中近半数来自 OpenAI 单一客户。

Google AI 发布 DiffusionGemma 开发者指南，该实验性模型基于 Gemma 4 架构，采用计算受限并行生成，在单张 NVIDIA H100 上实现 1000+ tokens/秒的生成速度。模型为 26B 参数的 MoE 架构，推理时仅激活 3.8B 参数，可在 18 GB VRAM 内量化部署。

面壁智能CTO曾国洋指出，端侧模型是AI落地的关键路径。其原创方法论"模型风洞"可在小规模实验中预测完整训练效果，并基于"知识密度"提出"面壁定律"：知识密度每3.5个月翻一番。2B参数的MiniCPM表现优于同期8B竞品。面壁已完成高通、联发科、英特尔、英伟达、AMD等芯片适配，新发布的BitCPM-CANN模型系列可在华为昇腾芯片上让同一内存多装约6倍模型。全双工全模态模型MiniCPM-o4.5支持实时打断与情绪调整。团队开发了全球首个完全由AI编写的生产级训练框架F…