AI圈报
教程 / 实战普通

百度百舸联合 SGLang 举办 Meetup:推理基础设施如何支撑 Agent 规模化落地

信息来源:公众号:百度智能云(文心)·
原始标题:百度百舸Meetup在京举办,推理基础设施助力Agent规模化落地

内容摘要

百度智能云联合 SGLang 社区于 9 月 22 日举办"Agent 时代的推理基础设施"Meetup,围绕多芯适配、上下文缓存、KV Cache 优化、显存优化、MoE 专家压缩和推理服务治理展开生产级实践分享。
内容分类AI 教程与实战
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源公众号:百度智能云(文心)
站内情报编号intel-30da3f3f534e096706293952