DeepSeek 将内部推理框架 DeepInfer 全面开源

DeepSeek 开源面向华为昇腾算力平台的基础设施组件，包括 TileLang 编译工具、DeepGEMM、DeepEP、TileKernels、FlashMLA、DeepSelect，与此前英伟达平台开源组件一一对应。

SemiAnalysis 应 OpenAI 邀请在实验室实测其在 Hot Chips 公布的 Jalapeño 推理 ASIC，称其在 DeepSeek R1、Kimi K2.5、GPT-OSS 等模型上的 perf/W 超过所有可测的 Nvidia、AMD 和 Google 芯片，DeepSeek R1 在并发 1 下达每用户超 700 token/s。

SGLang 为 DeepEP MoE 推理新增两种调度时负载均衡方法：Waterfill 将共享专家分配给负载更低的 rank，在 DeepSeek-V3/R1 服务负载下使总吞吐量提升 1.48% 至 4.66%，在 DeepSeek V4 上最佳点从 49,253 tok/s 提升至 51,677 tok/s（+4.92%）；LPLB 基于线性规划优化冗余专家副本的 token 路由，配合 EPLB 在相同集群上实现吞吐量提升 0.84% 至 7.34%。

微软演示 DeepSeek V4 Flash，这是一款 284B 参数的开源权重模型，量化到 1.6 bits 后约需 60GB 内存，可在 Windows PC 上本地运行。其新 Surface Laptop Ultra 基于 Nvidia RTX Spark 芯片，最高 128GB 统一内存，高内存配置可容纳该模型；完整视频发布在 Windows YouTube 频道。

DeepSeek 发布一套与自家 Nvidia 组件对应的昇腾工具包，包括 TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA 和 DeepSelect，均已给出 GitHub 开源地址。

OpenAI称其首款自研推理芯片Jalapeño在速度和能效上已超越英伟达GB200和GB300系统。在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T模型上，Jalapeño在峰值吞吐下每瓦特AI工作量提升1.5-1.9倍，端到端延迟降低1.7-3.6倍；高交互负载性能提升2.1-4.1倍。

OpenAI 称其新 Jalapeño 芯片在匹配 DeepSeek R1 解码速度下，每千瓦吞吐量达 NVIDIA GB300 的 104.3 倍（12258 对 118 tokens/s/kW）。该芯片功耗 700W，低于 GB300 的 1400W，计划年底部署，Gen 2 已在开发中。

DeepSeek 识图模式于6月18日在网页和 App 端正式上线，与快速模式、专家模式并列。开启后用户可直接上传图片让 DeepSeek 识别图像，能力超越简单文字提取。目前 App 端仍显示“图片理解功能内测中”，网页端无此提示。该模式背后的多模态模型技术细节于今年4月公开，核心框架为“Thinking with Visual Primitives（以视觉原语思考）”。

英伟达 CEO 黄仁勋在 2026 台北电脑展宣布，下一代 AI 超级芯片平台 Vera Rubin 全面投产。该平台是 POD 级基础架构，与上一代 Grace Blackwell 平台相比，其大规模智能体吞吐量提高了 10 倍。凭借开源 MGX 设计，其供应链规模是 Grace Blackwell 的两倍，产品预计于今年秋季开始发货。

英伟达通过一项上游 vLLM 优化，让 2.8 万亿参数量的 Kimi K3 在 GB300 NVL72 上达到 423 tok/s/user 的推理速度，性能提升 1.68 倍。