AI圈报
观点 / 方法普通

vLLM 详解 GLM-5.3 在 16 张 H200 上的优化：PCP、DCP 与 Hybrid HiSparse

信息来源：vLLM 官方博客（RSS）·
GLM
原始标题：GLM-5.3 Optimizations, Part 2: PCP, DCP, and Hybrid HiSparse on 16 H200s

内容摘要

vLLM 博客详解 GLM-5.3 在 16 张 H200 上拆分 prefill 与 decode 节点的长上下文优化：PCP 按 token 而非注意力头切分 prompt，DCP 按 token 分片 KV cache，使 1M 上下文仅需每 GPU 6.7 GiB。
内容分类AI 观点与方法
内容层级普通情报
发布时间（北京时间）
本站收录时间（北京时间）
信息来源vLLM 官方博客（RSS）
站内情报编号intel-096235c5d861d911a9070f6b
阅读原始信息 ↗查看数据来源更多观点 / 方法

相关推荐

综合分类、实体标签与信息来源匹配

观点 / 方法普通
vLLM 用双向 KV 传输优化多轮智能体负载的 TTFT
vLLM 通过双向 KV 传输让 decode 节点把已计算的 KV 缓存回传给 prefill 节点，避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 的 1P1D 部署上，该特性将 Qwen3-32B 的 TTFT 降低最多 1.6 倍，zai-org/GLM-5-FP8 降低最多 3.3 倍。
信息来源：vLLM 官方博客（RSS） · Qwen / GLM
观点 / 方法精选
Artificial Analysis 评测 Step 5 Preview： Intelligence Index 得 44 分，成本约为同级模型 1/2.8
Artificial Analysis 评测阶跃星辰 Step 5 Preview，其在 Artificial Analysis Intelligence Index 得 44 分，与 Kimi K3 (max) 持平，略低于 GLM-5.3 (max) 和 Qwen3.8 Max 的 45 分，每任务成本约 $0.72，约为同级模型（约 $2.00）的 1/2.8。
信息来源：X：Artificial Analysis (@ArtificialAnlys) · Qwen / GLM / Kimi
观点 / 方法精选
逆向分析指 ZCode 登录后静默打包 Git 历史并加密上传至 Aliyun OSS
开发者 ferstar 逆向 Z.ai 的 AI 编程桌面应用 ZCode，发现其登录后会静默把整个工作区打包（含完整 .git 历史、LFS 缓存、reflogs 和全局配置）加密上传至 Aliyun OSS，实测一次快照为 42,411 个文件、313MB，且 .git 目录占载荷的 86.6%。
信息来源：Hacker News：AI 热帖 · GLM
观点 / 方法精选
Arena 更新 Image-to-WebDev 榜单：GPT-6 Astra 以 1733 分登顶
Arena 更新 Image-to-WebDev 排行榜，纳入四个新评测模型。GPT-6 Astra (Max) 以 1733 分居第一，领先 GPT-5.6 Sol (xHigh) 129 分；Claude Fable 5.1 (Max) 以 1710 分排第二，Muse Spark 1.3 (Max) 1645 分第四，GLM-5.3-Flash 1588 分第十。
信息来源：X：Arena (@arena) · GPT / Claude / GLM
观点 / 方法精选
Unsloth 让 GLM-5.3-Flash 本地推理提速最高 3.3 倍并发布 GGUF
Unsloth 宣布通过优化解码和新增 MTP 支持，让 GLM-5.3-Flash 的本地 GGUF 推理提速 1.6 至 3.4 倍，长上下文下最高达 3.3 倍。
信息来源：X：Unsloth (@UnslothAI) · GLM
观点 / 方法精选
Baseten 解析后训练最佳开源模型并按成本分档推荐
Baseten 发文解析开源模型后训练的成本驱动因素，指出活跃参数量是 RL 后训练成本的最大来源，总参数和 KV cache 主要限制推理速度，并按成本档位推荐 DeepSeek-V4-Flash、GLM-5.2、Kimi K2.6、Kimi K2.7 Code、Nemotron-3-Super-120B 和 Qwen3 系列。选型建议关注库支持、基准表现和后训练循环成本三方面。
信息来源：Baseten 工程博客（网页） · DeepSeek / Qwen / GLM
观点 / 方法精选
Unsloth 发布 GLM-5.3 GGUF 量化版本地运行指南
Unsloth 发布 GLM-5.3 的动态 GGUF 量化版本，2-bit 模型从 1.51TB 压缩到 239GB（缩小 83%），保留约 81% top-1 准确率，1-bit 则以缩小 85% 达到约 76%。
信息来源：X：Unsloth (@UnslothAI) · GLM
观点 / 方法精选
Together AI 实测 GLM-5.3 与 GLM-5.3 Flash 在 DeepSWE 上的成本、编码与级联路由
Together AI 在 DeepSWE v1.1 全部 113 个任务上实测 GLM-5.3 与 GLM-5.3 Flash，各跑 4 次共 900 rollouts。
信息来源：Together AI 研究与产品博客（RSS） · GLM
观点 / 方法精选
Together AI 实测 GLM-5.3 对比 GPT-5.6 Sol：DeepSWE 上的成本、编码与路由
Together AI 在 DeepSWE 全部 113 个任务上各跑 4 次试验（共 904 次 rollout）对比 GLM-5.3 与 GPT-5.6 Sol。
信息来源：Together AI 研究与产品博客（RSS） · GPT / GLM
观点 / 方法精选
DeepSWE 实测：GLM-5.3 与 Claude Fable 5 在成本、编码与路由上的对比
Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验（共 904 次 rollout）上对比 GLM-5.3 (max) 与 Claude Fable 5 (max)。
信息来源：Together AI 研究与产品博客（RSS） · Claude / GLM