Google 与 Meta 发布 TorchTPU：PyTorch 原生 TPU 后端

AWS 宣布推出 TorchNeuron，一个面向 Trainium 的开源原生 PyTorch 后端，10 月 20 日以 Apache 2.0 协议在 PyTorch Conference North America 开启公测。

vLLM 为追求前沿性能正转向硬件专用的 flat 模型定义，与 fullgraph torch.compile 不兼容，影响 OOT 加速器、旧 GPU 和较冷门模型的支持。

PyTorch 为 TorchTitan 引入 Zephon，一种弹性确定性数据加载方案，在训练任务内即时完成 tokenize、pack、shuffle 和 mix，无需预处理语料副本。

PyTorch 官方与 Arm 合作宣布 ExecuTorch 的 Cortex-M 后端，使 PyTorch 模型无需转换为其他框架格式即可直接运行在 Arm Cortex-M CPU 上，并利用 CMSIS-NN 加速，单一工作流支持 Scalar、DSP 和 MVE/Helium 全部能力层级。

PyTorch 加速器集成工作组公布 2026 H1 进展，推出跨仓库 CI 中继（CRCR）机制，可在 pytorch/pytorch 的 PR 提交后并行触发下游仓库 CI 并回传状态至 hud.pytorch.org/crcr。

Perplexity CEO Aravind Srinivas 宣布，Perplexity Computer 现可在 Mac 上完全本地运行，无需云端推理，也不用 WiFi。模型和智能体都在本机运行，可操作 Mac 原生应用和本地文件，敏感数据不必发送到云端，现已在 Perplexity Mac 应用中可用。

IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0，这是一个 Kubernetes 原生的分布式推理服务框架，支持任意模型、任意加速器和任意云。

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。

Databricks 介绍 MemCurrent，一种面向生产 Agent 的持久记忆架构，结合情景记忆与派生记忆，通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆，已用于 Agent Bricks Memory 和 Genie。

Inception 的扩散模型 Mercury 3 上线 OpenRouter，生成速度超 1,000 tok/s，支持 1M 上下文，是 Mercury 2.5 的 4 倍。Inception 报告其在 IFBench、GPQA Diamond 和 SWE-Bench Atlas 上超过 GPT-6 Luna 和 Haiku 5.5；上线期五折，价格 $0.10/M 输入、$0.35/M 输出。