AI圈报
产品发布 / 更新普通

Eagle Corp 开源 EAGLE-4 推理加速草稿模型

信息来源:X:Testing Catalog (@testingcatalog)·
原始标题:Eagle Corp released EAGLE-4, its latest open-source flexible drafter, for accelerating LLM inference.

内容摘要

Eagle Corp 发布开源灵活草稿模型 EAGLE-4,可根据批大小、硬件和工作负载自适应调整投机解码策略,并保持目标模型的输出分布。实测搭配 Qwen3.8-27B 在 4× NVIDIA B300 上达到 961.6 tokens/s。Eagle 是服务 NVIDIA、Meta、Intel、AMD、Perplexity 等公司的 AI 推理平台。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Testing Catalog (@testingcatalog)
站内情报编号intel-efab3b449df53756142e9ed3