
SK海力士近日宣布,已正式量产基于第六代10纳米级(1c)LPDDR5X低功耗DRAM的192GB容量SOCAMM2产品。
SOCAMM2是一款将原本主要适用于智能手机等移动端设备的低功耗内存,针对服务器环境进行优化的内存模块,主要面向下一代AI服务器等高性能计算应用场景。SK海力士表示,公司采用1c工艺的SOCAMM2,是专为高性能AI运算优化的解决方案。与传统的RDIMM相比,其带宽提升逾两倍,功耗降低75%以上。
该公司特别强调,该SOCAMM2产品是面向英伟达的Vera Rubin平台设计的。此外,该产品可从根本上缓解数千亿参数级AI大模型在训练与推理过程中所面临的存储瓶颈问题,SK海力士期待其助力能够大幅提升整体系统的处理速度。
该公司还表示,随着AI发展从训练转向推理阶段,支持大型语言模型低功耗运行的SOCAMM2作为下一代存储器解决方案,正备受瞩目。为满足全球云服务供应商客户需求,公司提前搭建起了稳定的量产体系。
SK海力士AI Infra担当金柱善社长表示:“通过192GB容量SOCAMM2的产品供应,公司建立了面向AI的存储器性能新基准。公司将与全球AI客户紧密合作,成为‘客户最信赖的面向AI的存储器解决方案企业’。”
AI技术的发展正引领着计算领域的范式变革,而内存技术则成为这一变革的关键所在。HBM与LPDDR内存解决方案,对于释放GPU的计算潜能起到了至关重要的作用。然而,随着内存需求的不断增长,如何在有限的设备体积和成本内容纳更高容量的内存,已成为一个现实挑战。
同时,服务器的内存消耗占据了相当大的功耗比例。在配备每插槽TB级DDR5内存的服务器中,DRAM的功耗甚至可能超过CPU。为了应对这一挑战,英伟达设计了基于LPDDR5X内存的Grace CPU,其功耗低于DDR5,同时通过借鉴AMD和英特尔数据中心级处理器的宽内存总线设计,实现了高内存带宽。但迄今为止,LPDDR DRAM主要采用板载方式,直接焊接在设备主板上,而非模块化设计。
板载方式的缺点在于成本高昂且缺乏灵活性。更换时必须整块主板一起更换,也不支持后续升级。然而,对于基于GB200 Grace Blackwell的系统,英伟达不得不采用焊接式的LPDDR5X内存封装,因为此前缺乏能够满足其容量需求的标准LPDDR5X内存模块。
因此,SOCAMM应运而生。它的出现,不仅仅是一项技术创新,更是一场深刻的行业变革。它以一种全新的模块化设计,彻底改变了传统LPDDR内存的使用方式。
在性能方面,SOCAMM的表现尤为突出。得益于其底层创新设计,包括128-bit总线和近CPU布局,这些设计优化了信号完整性,减少了信号传输延迟,从而显著提升了整体性能。SOCAMM数据传输速率可达8533Mbps,相比DDR5 RDIMM的6400Mbps,性能提升了约33%,可以满足AI训练和高性能计算中对数据吞吐量的极高要求。
在能效方面,SOCAMM同样表现出色。其采用1.05V的低电压供电,功耗仅为DDR5 RDIMM的1/3。结合液冷技术,SOCAMM能够在高密度部署的场景下有效降低整体功耗,这对于数据中心的运营成本控制和可持续发展具有重要意义。这些创新设计使得SOCAMM在性能、能效和空间利用方面都达到了新的高度。
据行业分析,SOCAMM被视为下一代HBM的有力竞争者,在小型PC和笔记本电脑中具有优于传统DRAM的性能和能效。预计SOCAMM的出现将在整个半导体行业产生连锁反应。
目前,SOCAMM内存技术适用于需要高性能内存支持的场景,如AI计算、高性能计算、数据中心等。由于其可拆卸升级的特点,它还适用于需要频繁更新硬件设备的领域,如游戏开发、图形设计、虚拟现实等。随着AI、大数据、云计算等技术的快速发展,对高性能内存的需求日益增加,SOCAMM以其卓越的性能和能效比,正好满足了这些领域对内存的高要求。
|