AI圈报
产品发布 / 更新普通

Astera Labs 推出 Leo X 智能内存控制器:将 KV Cache 从加速器卸载到外部内存

信息来源:IT之家(RSS)·

内容摘要

Astera Labs 宣布扩充 Leo 智能内存控制器产品线,新增 Leo X、Leo 2 E、Leo 2 P 三系列。Leo X 基于网络架构,可将 KV Cache 和智能体上下文从 GPU 卸载到专用内存层,官方称首词元延迟最多缩短 62%、词元吞吐量最多提升 22%。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源IT之家(RSS)
站内情报编号intel-0a9985641caff72da45b64db