人工智能应用对内存的需求堪称无底洞,即便市场上大量内存已被AI算力公司抢购一空,业界依然在探索提升内存容量与带宽的创新方案。
Marvell近期推出了两款全新的CXL控制器:Structera X与Structera A。这两款产品的核心亮点在于,它们能对存储在内存中的数据进行透明压缩,最高可实现3.64倍的压缩比,从而直接从硬件层面缓解内存容量紧张的问题,并同步提升数据吞吐效率。
Structera CXL控制器内部集成了一块名为CDB(Compression-Decompression Block)的专用硬件模块。 该模块能以全内存带宽运行,在数据写入DRAM时实时压缩,并在数据被读取时立即解压。这真是一个巧妙的设计:用更小的物理存储换来更大的逻辑可用空间。
更关键的是,这整个过程对主机CPU和操作系统完全透明。所以,系统内上报的可用内存容量,可以远大于设备实际插载的物理DRAM容量。相比依赖CPU算力的软件压缩方案,这种硬件级的压缩与解压完全不占用主机资源,自然不会对系统性能造成任何拖累。
据披露,CDB内部采用了一套经过深度定制的LZ4无损压缩算法。这套算法在维持高压缩比的同时,还能实现极低的延迟,确保数据读写的实时性。
Structera X是一款CXL内存扩展控制器,同时兼容DDR5与DDR4标准。该芯片集成了4个ARM Cortex M7核心、CDB模块、多通道DMA功能、56MB的末级缓存、4个DDR内存通道,并具备AES-XTS 256位内存加密/解密能力。

而Structera A则更侧重于内存访问性能的加速。它配备了16个Arm Neoverse V2核心、一个CDB模块、4个Arm Cortex M7核心、64MB的末级缓存,以及4个DDR内存通道。


在云栈社区的技术讨论中,开发者们常聚焦于如何让基础设施突破物理限制。Marvell这次直接从芯片层面着手,通过硬件压缩来“凭空”扩容,也算是在系统设计的常见难题上,为缓解AI算力集群的内存瓶颈提供了一种硬核思路。
|