AI圈报
观点 / 方法普通

Taalas 推理速度达每秒 1.4 万 token

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:unbelievable. 🤯 Emad Mostaque just showed Taalas generating at ~14,000 tokens/second speed. For c…

内容摘要

难以置信。🤯 Emad Mostaque 刚刚展示了 Taalas 以约每秒 14,000 token 的速度生成。 作为对比,ChatGPT 的生成速度在每秒 50 到 150 token 之间。 ---- 来自 "The Peter McCormack Show" YouTube 频道(完整链接见评论)
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-845356998f8a6dd232c8122d