AI圈报
论文研究普通

Periscope:让冻结语言模型突破上下文窗口限制的无训练推理方法

信息来源:HuggingFace Daily Papers(社区热门论文)·
原始标题:Periscope: Extending Frozen Language Models Beyond Their Context Window

内容摘要

Periscope 是一种免训练推理方法,将文本切成 N 个 chunk 排成 K×K 网格,让冻结模型对局部与跨段 span 回答同一问题,用单个 token 的 log-odds 打分,并以 s^1.5 成本让 W token 窗口覆盖 W²/c token 文本。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-14e7bcd2b142f3f588fd3527