AI圈报
论文研究普通

Polymathic AI 与普林斯顿等机构发布 FlashMap,以 flow map 起草器实现最高 6.14x 无损解码加速

信息来源:MarkTechPost(RSS)·
原始标题:Polymathic AI and Princeton Researchers Release FlashMap, a Flow Map Drafter for 6.14x Faster LLM Decoding

内容摘要

Polymathic AI、普林斯顿大学、USC ISI、NYU 与 Flatiron Institute 的研究者发布 FlashMap,一种投机解码起草器,用连续 flow map 替代离散扩散起草器,1 次 forward pass 联合起草 16 个 token 的完整块,输出与目标模型严格一致。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源MarkTechPost(RSS)
站内情报编号intel-d0dc1271eb37c66fe467afef