DeepSeek 测试用游戏 GPU 承载小模型推理以缓解算力紧张

Rohan Paul 引用 Rhodium 研究称，中国前沿实验室的估值对 ARR 倍数远高于美国同行，Moonshot 约 167x、DeepSeek 约 163x，而 OpenAI 为 34x、Anthropic 为 21x；Moonshot 估值从 2025 年底的 $4B 升至 2026 年 8 月的 $50B。

Mozilla 发布 91 页报告，称开源权重模型仅落后前沿约 4 个月。8 月 OpenRouter 用量前十的模型有 8 个是开源权重、7 个来自中国，DeepSeek 成为首个周请求量登顶的开源模型；但开源模型约占用量 20% 却只获约 4% 模型层收入，报告归因于闭源模型每次调用价格约 6 倍于开源、能力相当度约 90%。

AgentConnect 发布，定位为开源、自托管的 Claude Tag 多智能体替代方案，核心解决多智能体共享上下文难题而非并行执行。它保持供应商中立，支持 Claude Code、Codex、DeepSeek 等 ACP 兼容智能体，可跨 Slack、Telegram、Discord、GitHub 和 GitLab 协作。

作者实测 DeepSeek V4.1 Flash，缓存命中输入降价 7 倍多、输出砍三分之二，9 月 14 日中午 12 点起所有发往 v4-pro 的请求将被强制路由到 4.1 Flash 并按其低价计费。

vLLM 团队发布针对智能体负载优化的博客，基于 SemiAnalysis 的公开 AgentX 基准展示成果：DeepSeek V4 Pro 在 GB300 上达到 83K total tokens/GPU-秒。

Baseten 发文解析开源模型后训练的成本驱动因素，指出活跃参数量是 RL 后训练成本的最大来源，总参数和 KV cache 主要限制推理速度，并按成本档位推荐 DeepSeek-V4-Flash、GLM-5.2、Kimi K2.6、Kimi K2.7 Code、Nemotron-3-Super-120B 和 Qwen3 系列。选型建议关注库支持、基准表现和后训练循环成本三方面。

SGLang 将 SSD-LLaMA 的思路引入 MoE 推理，把放不进显存和内存的路由专家放在 NVMe SSD 上，通过 Expert Pack 连续布局、O_DIRECT 直接 I/O 和带预算的 GPU LFU/LRU 缓存，只加载 router 选中的专家。

本地运行的 Qwen3.8-27B 在 Artificial Analysis 智能指数上以 52 分位列 135 个模型之首，超过 7530 亿参数的 GLM-5.2。在 25 项风投任务评测中，它与云端 DeepSeek V4 输出质量同为 8.0 分，但需多花 7.2 倍 token 思考，速度慢约 9 秒。小模型靠更长的链式推理弥补知识差距，而非直接给出答案。

Together AI 在 DeepSWE 全部 113 个任务上各跑四次对比 DeepSeek V4 Pro 0813 与 GPT-5.6 Sol，共 904 次运行。

Together AI 在 DeepSWE 全部 113 个任务、每任务 4 次试验（共 904 次 rollout）上对比 DeepSeek V4 Pro 0813 与 Claude Fable 5。