蚂蚁百灵 Ming-3.0 接入本地 AI 工作流

今天，我们为 SGLang 推出 Weight Cache Daemon。🚀 在 Ling-2.6-1T FP8 上，它将权重加载时间缩短至约 0.63 秒，比磁盘加载快约 780 倍，并将引擎总启动时间从 8.8 分钟缩短至约 0.53 分钟。其工作原理如下。

AntLingAGI 开源了 Ling-2.6-1T 模型，这是一个面向现实世界智能体工作流程的新旗舰模型。作为 1T 参数规模模型的先驱，团队强调了硬件、软件与 LLM 协同设计的重要性。vLLM 项目从发布首日（Day-0）起即提供支持，体现了顶尖工程生态系统的协作。这种合作旨在实现最佳的优化效果与用户体验，共同推动技术进步。

感谢 @sgl_project 提供首日 SGLang-Omni 支持以及实用的 cookbook，帮助开发者把 Ming-3.0 用起来！

蚂蚁百灵感谢 vLLM 项目为 Ming-3.0 提供 Day-0 的 vLLM-Omni 支持，让模型更易部署。据引用内容，蚂蚁百灵开源了 5 款语音模型，覆盖 TTS、音频理解和 ASR，参数规模从 0.5B 到 126B 总参数（激活 6.5B），可通过 vLLM-Omni 直接部署。

蚂蚁百灵感谢 DeepInfra 在第一天上线 Ling-3.1-flash，开发者可直接构建应用。模型总参数 560B、每 token 激活 25B，面向长程编码、多步分析和工具调用智能体，每 1M tokens 定价为输入 $0.30、输出 $0.90、缓存 $0.06。

蚂蚁百灵感谢 vLLM 对 Ling-3.1-flash 提供 Day-0 支持，开发者可从第一天起用 vLLM 在自有基础设施上运行该模型。vLLM 侧信息显示该模型总参数约 560B、每 token 激活约 25B、支持最高 1M 上下文，可从简单需求描述生成网站、移动 UI 和交互原型。

蚂蚁百灵发推感谢 SGLang 为 Ling-3.1-flash 提供 day-zero 支持，帮助开发者更高效地部署该模型。SGLang 介绍其为 560B 参数 MoE 混合推理模型、25B 激活、1M 上下文，经 MXFP4 与 block-FP8 量化后权重从约 534GB 降至约 292GB，可在 4 张 Hopper GPU 上运行，并称其在 GDPVal-AA、FrontierSWE、Terminal-Bench 4.0 等 agent、办公与编码任务上表现良…

保持冷静，与我们的 day0 合作伙伴 @vercel_dev 一起构建 🤘 再享受一周 Ling-3.1-flash——一款 token 高效、擅长智能体与编程的模型~ Ling 3.1 Flash 已在 AI Gateway 上线，10 月 13 日前免费。专为编程和多步分析打造。

又一次发布，又一次与合作伙伴 @kilocode 的精彩 day0 协作~ 编码愉快！ 引用推文核心要点：Ling 3.1 flash 现已上线，在 Kilo Code 中完全免费，活动持续至 10 月 13 日！感谢 @novita_labs 提供支持！

强大的编码性能，在全球最知名、最易用的编码工具之一上限时免费。感谢 @opencode 提供 day0 支持！再免费畅玩一周！ （引用推文：Ling-3.1-flash 现已在 OpenCode 上免费开放。560B 总参数 · 25B 激活 · 262K 上下文。inclusionAI 的最新模型。）