产品发布 / 更新普通
Cerebras 推出分离式推理:GPU 负责预填充、Cerebras 系统负责解码,每兆瓦吞吐提升 5 倍
原始标题:Cerebras launches disaggregated inference
内容摘要
Cerebras 宣布分离式推理方案已投入生产,用 AMD Instinct GPU 处理 prompt(prefill),由 Cerebras CS-3 系统生成响应(decode)。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Cerebras:Blog(网页)
站内情报编号intel-1e421dea60d470b973c9b6c7