Baseten 发布 Baseten Router 编码任务模型路由器，成本降低 72%

Baseten 发布企业级控制层 Baseten Grid，通过 Baseten Router 智能路由、统一网关和 Guardrails 安全策略管理内部编码的模型调用。

Baseten 宣布本周扩充推理平台的三项发布：模型网关与路由平台 Grid（明日开启公开预览）、与推理同址部署的智能体沙箱 Sandboxes（周四起从私预览转公开预览）、Serverless SFT 与 RL 训练设施 Loops（周五正式 GA）。

Baseten 上线自动扩缩容计划（Autoscaling schedules），可在预期流量到来前提高最小副本数，减少冷启动延迟。每个环境最多配置 10 个计划，支持每日、每小时或一次性时间窗口，窗口不可重叠且至少持续 5 分钟，可通过 dashboard、CLI 或 Management API 设置。

Baseten 发布 BDN Sealed Volumes，可将只读模型数据发布一次并以 digest 固定版本，在任意部署中挂载。它支持从 Hugging Face、S3、GCS 等源同步，按内容哈希分块上传，仅传输变更部分，部署启动无需下载步骤。适用于模型权重、LoRA 适配器、TensorRT-LLM 引擎和嵌入索引等运行时只读文件。

NVIDIA Nemotron 3.5 Super VL 在 Baseten 上线，基于 Nemotron 3 Super 架构的 120B 参数 MoE 模型，每 token 激活 12B 参数，新增视觉编码器以支持文档、截图和视频理解。

Runway 的前沿视频生成与编辑模型 Gen-4.5 和 Aleph 2.0 现已可通过 Baseten 进行专属部署。用户可从 Runway 直接授权模型权重，在 Baseten 的单租户隔离环境中运行，并获得专属 GPU 资源与自动扩缩容，Baseten 为该部署提供 99.99% 可用性 SLA。

Baseten 宣布与 Goodfire AI 合作推出 Project Beacon，通过在模型生成过程中读取内部激活值，将主动式安全控制引入模型推理层。该方案针对提示词注入、越权操作、敏感数据泄露和网络滥用等风险，由激活探针与文本监控并行分类每个请求，再按客户策略决定批准、拒绝、回退或记录。监控与生成并行、不阻塞响应，未来数月将先覆盖部分模型和受监控行为，再扩展至企业管控与开发者体验。

Baseten 宣布 Blaxel 第四代基础设施 Carbon 进入私测，将作为 Baseten 平台上沙盒和智能体执行基础设施的骨干。

LangChain 在 Interrupt 26 大会上发布 LangSmith Fine-Tuning，配套开源 CLI smithtune（github.com/langchain-ai/smithtune）。

Baseten 发布对 NVIDIA Nemotron 3 Diarization 的托管支持，这是一个约 100M 参数的流式说话人分离模型，单一 checkpoint 可在 0.32 到 30.4 秒间配置四种算法延迟。