论文研究普通
HLA:通过分块动态混合实现表达性混合线性注意力
原始标题:HLA: Expressive Hybrid Linear Attention via Chunk-Wise Dynamic Mixing
内容摘要
研究者提出 Hybrid Linear Attention(HLA),一种面向 Gated DeltaNet(GDN)的查询相关分块级注意力机制,通过内容相关的路由门控动态混合历史状态。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-f130c0748badfa011bfdf74a