OpenAI Jalapeño 芯片能效达 GB300 的 104 倍

OpenAI称其首款自研推理芯片Jalapeño在速度和能效上已超越英伟达GB200和GB300系统。在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T模型上，Jalapeño在峰值吞吐下每瓦特AI工作量提升1.5-1.9倍，端到端延迟降低1.7-3.6倍；高交互负载性能提升2.1-4.1倍。

Juggler 是一款开源 GUI 编程智能体，提供可视化工作台，支持可检查的工具调用、分支线程和可编辑上下文。会话以树状结构组织，而非线性聊天记录，用户可创建子线程、回溯、比较和编辑。所有关键信息以 Finder 风格 Miller 列展示。Juggler 支持本地、远程或同时运行，桌面应用与浏览器可连接同一会话。模型支持包括 Claude Code、OpenAI、Gemini、Ollama、OpenRouter、Z.AI、Deepseek 等。后端使用 Go 和 Wai…

Weave 发布智能模型路由工具，通过 `npx @workweave/router` 安装，作为本地代理运行在 localhost：8080。它采用基于 Avengers-Pro 1 的集群评分器，每个请求自动选择最佳模型。支持 Anthropic、OpenAI、Gemini 原生 API，并通过 OpenRouter 接入 DeepSeek、Kimi、GLM、Qwen、Llama、Mistral 等开源模型。用户自行保管提供商密钥，数据本地加密存储。工具兼容 Claud…

SGLang 为 DeepEP MoE 推理新增两种调度时负载均衡方法：Waterfill 将共享专家分配给负载更低的 rank，在 DeepSeek-V3/R1 服务负载下使总吞吐量提升 1.48% 至 4.66%，在 DeepSeek V4 上最佳点从 49，253 tok/s 提升至 51，677 tok/s（+4.92%）；LPLB 基于线性规划优化冗余专家副本的 token 路由，配合 EPLB 在相同集群上实现吞吐量提升 0.84% 至 7.34%。

突发新闻🚨🚨 OpenAI 最新芯片每瓦性能比英伟达 7 月 Rubin 性能最高提升 2 倍。OpenAI 芯片甚至未启用 SPEC 解码，就已击败启用 SPEC 解码的 Rubin NVL72。（1/2）🧵

OpenAI 首款自研推理芯片 Jalapeño 性能首秀，在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款模型测试中，每瓦 AI 吞吐量较 GB200 和 GB300 高出 1.5 至 1.9 倍，端到端延迟约为对比系统的 28% 至 59%。

OpenAI 博客透露，GPT-Astra 使用 Codex 编写并优化低层内核，让三款此前未规划的开放权重模型在两个月内于 Jalapeño 芯片上达到高性能。在选定的注意力与混合专家模块中，其实现比现有的人类专家代码快 1.5-1.8 倍。Jalapeño 在 OpenAI 自测中已超越 Nvidia GB200/GB300，计划 2026 年底部署。

OpenAI 在 Hot Chips 大会上首次展示自研推理芯片 Jalapeño 的基准测试结果，该芯片在每瓦吞吐量和 token 延迟上据称超越 Nvidia Blackwell 和 Rubin。

OpenAI 公布首款自研推理芯片 Jalapeño 的实测性能：在基于 GPT-OSS 120B 的公开基准 InferenceX 上，其每千瓦峰值吞吐量更高、token 延迟更低，并在 DeepSeek R1 和 Kimi K2 上表现强劲。AI 参与设计使其从初始设计到流片仅用九个月，计划年底前部署，Gen 2 和 Gen 3 已在开发中。

OpenAI 在 Hot Chips 大会公布与博通共研的推理芯片 Jalapeño 首批基准测试成绩，在 SemiAnalysis InferenceX 测试中，其单用户 token 处理量和每千瓦吞吐量均超过现有顶尖推理处理器。