论文研究普通
WaveFront Decoding:面向循环语言模型的无训练自推测解码框架
原始标题:WaveFront Decoding: Parallelized Self-Speculative Decoding for Looped Language Models
内容摘要
WaveFront Decoding(WFD)是一种面向循环语言模型的无训练自推测解码框架,利用中间循环输出作为草稿预测、并借助权重共享批量处理不同位置与循环深度的 token 状态。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-9ff505c1aa08e932ed53b593