Astera Labs推出Leo X智能内存控制器，将AI KV Cache卸载至外部内存
Astera Labs扩展智能内存控制器产品线，推出Leo X、Leo 2 E和Leo 2 P。Leo 2 E与Leo 2 P符合CXL 3.2规范，支持4个DDR4或DDR5下游内存控制器。Leo X采用网络架构，面向AI加速器的内存需求设计。该产品可与Astera Labs的Scorpio网络交换芯片配合，通过PCIe和平台专用协议扩展GPU，并提供专用内存层以卸载KV Cache和智能体上下文。Astera Labs称，Leo X可将首词元延迟最多缩短62%，并将词元吞吐量最多提升22%。
本文来源：IT之家，仅供学习参考，版权归原作者所有。