论文研究普通
清华与港中文团队开源 AKV:面向 LLM 智能体的 KV cache 工程服务系统
原始标题:Tsinghua AI Open-Sources AKV, a Cache Engineering Server for LLM Agents on SGLang
内容摘要
清华大学与 CUHK 研究者开源 AKV,一个构建在 SGLang 上的 KV cache 工程服务系统,让智能体通过 Drop 和 Repos(RoPE 旋转重定位)操作丢弃或重排 KV 条目而不改写文本历史。
综合分类、实体标签与信息来源匹配