模型发布 / 更新普通
Cache-to-Cache:大型语言模型之间的直接语义通信
原始标题:"缓存到缓存":大型语言模型之间的直接语义通信(2025)
内容摘要
研究者提出 Cache-to-Cache(C2C),一种让 LLM 绕过文本、直接通过 KV-Cache 进行语义通信的新范式,用神经网络将源模型的 KV-Cache 投影并融合到目标模型,并以可学习门控机制选择受益的目标层。实验显示 C2C 平均准确率比单个模型高 6.4-14.2%,比文本通信范式高约 3.1-5.4%,延迟平均加速 2.5 倍,代码已开源。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hacker News 热门(buzzing.cc 中文翻译)
站内情报编号intel-5c413b8b8d8717a473a91057