Modal 详解如何以万亿 token 规模服务 Kimi K2.6 编码 Agent 推理

Together AI 发布 Kimi K3 开发者指南。K3 是月之暗面（Moonshot AI）2.8 万亿参数的开放权重模型，首个 3 万亿参数级的开源模型，Together 直接与 Moonshot 团队合作提供服务。

本文面向零代码用户，提供一套使用国产大模型（Kimi、GLM、Qwen等）从零开发并上线产品的完整流程。核心步骤包括购买Coding Plan、下载官方Agent编程产品、注册域名与服务器并同步做ICP备案，然后通过Agent的Plan模式描述需求并让AI自动执行开发。上线后建议建立分支保护与测试流程，并强调即使不懂代码，也必须对系统架构了如指掌。

WorkBuddy是面向国内用户的通用Agent产品，支持Windows和Mac，提供免费版和58元/月个人专业版，企业版已推出。内置代码开发、日常办公、设计创意三种场景模式及100多个行业领域AI专家。模型集成腾讯混元、DeepSeek（推荐V4 Pro）、GLM、Kimi等国产大模型，也支持接入兼容OpenAI协议的外部API。拥有Skills市场和MCP连接器生态，可打通QQ邮箱、腾讯会议、腾讯文档等服务。教程通过公众号周报生成和功能网页开发两个案例演示实际用法。

Kimi支持的个人开发者开源项目OneClaw下载量突破10万，提供一键安装包，1分钟即可在本地部署原版OpenClaw，无需命令行或环境配置。功能包括纯净卸载、自由切换模型、远程控制，支持连接飞书、企微、钉钉、QQ、Kimi Claw；内置2万+技能的技能商店，可无损迁移记忆和Skills。Kimi提供包月方案和API按需购买。使用地址：oneclaw.cn。

Emad Mostaque 指出，Modal、Fireworks、Baseten 等美国公司凭借先进的 Nvidia 和 AMD 芯片，能以中国竞争对手十分之一的成本部署 Kimi K3。模型研发虽已大量转移至中国，但一旦针对 Nvidia Rubin 等下一代硬件优化，其运营成本有望再降 10 到 100 倍。

I run several coding agents in parallel, mostly Claude Code and Kimi, sometimes Cursor and Copilot. I...

I did not need Jev to beat Claude or Kimi on a benchmark. I needed to know whether I could trust it...

vLLM 团队扩展 Speculators 训练库，为 2.8T 参数的 Kimi K3 训练出 DSpark 投机解码 draft 模型，将数学推理单流交互速度从约 110 提升至约 435 tok/s/user，并发负载下输出吞吐最高提升约 3.5 倍。

Modal 发布工程教程，演示如何基于 OpenAI 新推出的 Agents SDK 从零构建自定义编码智能体框架，并通过沙箱扩展把 Modal Sandboxes（含 GPU）接入为智能体的运行环境。

Ramp 基于 Modal Sandboxes 构建内部后台编码智能体 Ramp Inspect，目前启动了 Ramp 超过一半的已合并 pull request，其中超过 80% 的 Inspect 代码由其自身编写。