论文研究普通
CRISP:面向长上下文 LLM 推理的输入自适应稀疏预填充方法
原始标题:CRISP: Cliff-awaRe Input-adaptive Sparse Prefilling with Structural-Mass-Motivated Routing
内容摘要
arXiv 论文提出 CRISP,一种输入自适应的稀疏预填充方法,用结构代理 C_struct 替代 JSD 路由,省去 pooled matmul 与 KL 散度开销,并针对 post-softmax 质量悬崖设计基于噪声底线的 sink-aware 阈值。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-3d5f7c824020e5230bc0619f