AI圈报
论文研究普通

PReCache:面向 Multi-LoRA 智能体的免训练 KV Cache 共享框架

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:PReCache: Efficient KV Cache Sharing for Multi-LoRA Agents via Low-Rank Precomputation and Neutral Reconstruction

内容摘要

PReCache 是一个免训练的 KV cache 共享框架,通过 PreLRShared 和 ReBaseShared 两种设计共享基于预训练权重计算的基础 cache,并预计算紧凑的智能体专属低秩(LR)cache。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-37d8559eb118fc9b1e66408a