FinFIRST 用原子评分细则评估金融智能体

今天，我们为 SGLang 推出 Weight Cache Daemon。🚀 在 Ling-2.6-1T FP8 上，它将权重加载时间缩短至约 0.63 秒，比磁盘加载快约 780 倍，并将引擎总启动时间从 8.8 分钟缩短至约 0.53 分钟。其工作原理如下。

AntLingAGI 开源了 Ling-2.6-1T 模型，这是一个面向现实世界智能体工作流程的新旗舰模型。作为 1T 参数规模模型的先驱，团队强调了硬件、软件与 LLM 协同设计的重要性。vLLM 项目从发布首日（Day-0）起即提供支持，体现了顶尖工程生态系统的协作。这种合作旨在实现最佳的优化效果与用户体验，共同推动技术进步。

SGLang 与 Google TPU 团队、Meta PyTorch 团队合作发布 SGLang-TorchTPU，这是 SGLang 的 TPU 插件，已在 Meta 生产推理中使用，代码开源于 github.com/sgl-project/sglang-torchtpu。它支持 Muse Spark Open、GLM-5.3 Flash、Kimi K3、Ling 3.1 Flash、MiniMax H3 等开源模型及大规模智能体工作负载，自定义 MegaKernel …

感谢 @sgl_project 提供首日 SGLang-Omni 支持以及实用的 cookbook，帮助开发者把 Ming-3.0 用起来！

蚂蚁百灵感谢 vLLM 项目为 Ming-3.0 提供 Day-0 的 vLLM-Omni 支持，让模型更易部署。据引用内容，蚂蚁百灵开源了 5 款语音模型，覆盖 TTS、音频理解和 ASR，参数规模从 0.5B 到 126B 总参数（激活 6.5B），可通过 vLLM-Omni 直接部署。

感谢 @atomic_chat_hq 帮助将 Ming-3.0 带入本地 AI 工作流，让开放语音模型更易获取！

蚂蚁百灵感谢 DeepInfra 在第一天上线 Ling-3.1-flash，开发者可直接构建应用。模型总参数 560B、每 token 激活 25B，面向长程编码、多步分析和工具调用智能体，每 1M tokens 定价为输入 $0.30、输出 $0.90、缓存 $0.06。

蚂蚁百灵感谢 vLLM 对 Ling-3.1-flash 提供 Day-0 支持，开发者可从第一天起用 vLLM 在自有基础设施上运行该模型。vLLM 侧信息显示该模型总参数约 560B、每 token 激活约 25B、支持最高 1M 上下文，可从简单需求描述生成网站、移动 UI 和交互原型。

蚂蚁百灵发推感谢 SGLang 为 Ling-3.1-flash 提供 day-zero 支持，帮助开发者更高效地部署该模型。SGLang 介绍其为 560B 参数 MoE 混合推理模型、25B 激活、1M 上下文，经 MXFP4 与 block-FP8 量化后权重从约 534GB 降至约 292GB，可在 4 张 Hopper GPU 上运行，并称其在 GDPVal-AA、FrontierSWE、Terminal-Bench 4.0 等 agent、办公与编码任务上表现良…

保持冷静，与我们的 day0 合作伙伴 @vercel_dev 一起构建 🤘 再享受一周 Ling-3.1-flash——一款 token 高效、擅长智能体与编程的模型~ Ling 3.1 Flash 已在 AI Gateway 上线，10 月 13 日前免费。专为编程和多步分析打造。