Modal 发布 VM Sandboxes、Modal Clusters 等多项 Runtime 产品更新

Modal 宣布 Modal Clusters 正式可用，通过一个装饰器 @modal.clustered 即可获得多节点集群，节点间经 InfiniBand verbs 通信可达 6.4 Tbps，自动配置 PyTorch 和 NCCL。

Modal 宣布 VM Sandboxes 正式 GA，只需设置 runtime="vm" 即可获得支持 Docker、FUSE 和内核功能的完整 Linux VM，沿用原有 Sandbox 的 API、modal.Image、亚秒级冷启动和内存爆发能力，早期客户已启动超过 2000 万个 VM。

Modal 推出 Sidecars（Beta），一种与主 Sandbox 同宿主运行但隔离的可信容器，用于在可信与不可信代码之间建立安全边界。

Cognition 推出 Devin Outposts，让 AI 软件工程师 Devin 的执行环境迁移到用户自控环境，推理仍留在 Cognition 云端；Modal 是启动合作伙伴，7 月 21 日起开放 alpha。

Modal 宣布从零重写核心沙箱平台，新系统可并发运行数百万个沙箱，并演示了在 1 分钟内创建全部 100 万个沙箱，平均每秒创建约 1.85 万个。

Modal 发布 Auto Endpoints，一条 CLI 命令（如 modal endpoint create --name agent --model zai-org/GLM-5.2-FP8）即可部署 OpenAI API 兼容的生产级 LLM 推理服务。

Z.ai 发布开源权重模型 GLM-5（MIT 许可，面向长程 Agent 和系统工程），Modal 与其合作上线免费体验端点，4 月底前可用，限单并发请求。FP8 精度下模型约 700 GB，需多 GPU 部署，Modal 用 8 张 B200 单节点配合 SGLang 运行，内部实测每用户 30-75 tokens/秒。

Modal 宣布 B200 和 H200 GPU 开放给所有账户使用，无需联系销售，B200 定价 $6.25/hour，H200 定价 $4.54/hour，一行代码即可在 Function 中指定。

Modal 宣布 Sandboxes 正式可用，这是安全运行 LLM、用户或第三方来源不可信代码的隔离执行环境。它提供 exec API，可在运行时用与 Functions 相同的 Image API 动态配置任意语言依赖，支持文件系统快照以持久化和多 Sandbox 扇出，并复用 Functions 基础设施带来快速冷启动、GPU 和全球区域选择。

Modal 与 CMU Full Stack Data Lab 联合推出查询感知推理层 Quail，通过联合优化查询规划器与推理引擎加速 AI-SQL 查询。在某个多表连接查询上，Quail 单张 H100 GPU 每分钟处理超 10 亿 token，比同硬件 vLLM 基线快 10 倍以上，Modal 上成本低于每 10 亿 token 6 美分。