vLLM 讲解 Elastic EP 如何借助 NIXL EP 实现近零停机扩缩容

vLLM 官方博客发布分离式推理实用指南，讲解 vLLM v0.30.0 及以上版本中 prefill/decode 分离、无 GPU render 前端及两者组合的原理与运行方法。

vLLM 团队介绍如何通过异步准备与 NIXL EP 让 Elastic Expert Parallelism 在扩缩容时实现近零停机。在 DeepSeek V4 Pro 的 GB200 基准中，16 到 20 GPU 扩容停机从 99.62 秒降至 0.82 秒，缩回时降至 1.96 秒。

vLLM 在 GB300 NVL72 集群上对 Qwen3.8-2.4T 做 PD 分离部署，8K/1K 负载下高吞吐场景达到每 GPU 5000 total token 吞吐，低延迟场景每用户 180 生成 token，并给出完整 pareto 前沿。

vLLM 团队扩展 Speculators 训练库，为 2.8T 参数的 Kimi K3 训练出 DSpark 投机解码 draft 模型，将数学推理单流交互速度从约 110 提升至约 435 tok/s/user，并发负载下输出吞吐最高提升约 3.5 倍。

英国数字健康公司 Numan 复盘其 AI 健康教练 Nu 的评测体系建设，核心结论是稀缺资产不是提示词而是评测标准。单轮静态数据集和脚本化多轮对话都难以覆盖真实会话，Nu 改为按类别打分的主题数据集、以更廉价模型扮演患者的模拟对话层，并让安全回归自动阻断发布。

n8n 博客发布教程，讲解如何在一台 NVIDIA DGX Spark（128GB 统一内存）上部署七个本地模型，通过 LiteLLM 单一 OpenAI 兼容端点驱动 n8n 工作流，全程不调用云 API。

Google Developers Blog 发布教程，讲解如何用开源 ADK 与 gemini-3.8-live 构建不出现冷场的语音智能体，核心是非阻塞工具调用。

作者解读 Anthropic 关于 Claude Code 代码评审重构的博客：Claude 写了约 90% 的代码，2026 年 6 月到 9 月合并 PR 翻倍以上而 revert 率下降超 40%。

Meta 工程团队详解如何把 AI 智能体作为开发流程参与者来构建独立 Groups 应用 Forum，采用 human-on-the-loop 模式并以验证通过的生产级产出衡量成功。Forum 在八周内达到与 Facebook Groups 的核心功能对齐，自主压测循环在开发期发现并修复了内存问题，内存占用和缺页约减半，上线后智能体还协助根因分析用户反馈。

Anthropic Claude Code 团队详解在 Claude 写约 90% 代码的情况下如何组织代码审查：审查从终点关卡变为持续进行，每个 PR 经过验证、必需 CI、AI 审查、安全审查、按风险分级的人工审批和合并队列六层检查，再辅以快速回滚。