论文研究普通
STAIR:让早期问题的计算帮助 LLM 解决新问题
原始标题:Can Computation from Earlier Problems Help LLMs Solve New Ones?
内容摘要
针对同一对话中历史计算能否帮助 LLM 解决后续问题,研究者提出 STAIR(Stale-Token Attention for Inter-query Reuse),将先前回答生成中的 keys 和 values 存入固定 bank,并学习在当前查询读取该 bank 时重定向查询。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-1e6df19ef678025a8ef8b25b