6月17日机锋网资讯,英伟达已选定美光科技作为其下一代内存解决方案SOCAMM(小型压缩附加内存模块)的首家供应商,这一决定标志着AI服务器内存技术迎来了重要革新。
据悉,SOCAMM是一种专为数据中心AI服务器设计的新型高性能、低功耗内存。由于其在AI加速中的关键作用,部分业界人士甚至将其视为“第二代高带宽存储器(HBM)”。此前,英伟达曾委托三星电子、美光等内存制造商开发SOCAMM原型,而美光凭借在低功耗DRAM性能上的卓越表现,率先获得了英伟达的量产批准,超越了规模更大的竞争对手三星。
与传统的垂直堆叠并与GPU紧密集成的HBM不同,SOCAMM主要支持中央处理器(CPU),在优化AI工作负载方面发挥着关键的支撑作用。首批SOCAMM模块基于堆叠式LPDDR5X芯片,由英伟达精心设计,并计划应用于其2026年发布的下一代AI加速器平台Rubin上。
在技术实现上,SOCAMM采用了引线键合和铜互连技术,每个模块连接16个DRAM芯片,这与HBM使用的硅通孔技术形成了鲜明对比。铜互连结构显著增强了散热性能,这对于AI系统的稳定运行和可靠性至关重要。特别是在每台AI服务器将搭载四个SOCAMM模块(总计256个DRAM芯片)的情况下,散热效率的重要性尤为突出。
美光方面宣称,其最新LPDDR5X芯片的能效比竞争对手高出20%,这也是其赢得英伟达订单的关键因素之一。随着AI技术的不断发展,对内存技术的要求也越来越高。美光在低发热量内存技术上的突破,不仅为SOCAMM的广泛应用提供了有力保障,也有望提升其在竞争激烈的HBM领域的地位。
值得一提的是,随着行业向需要堆叠12层甚至16层DRAM的HBM4迈进,热管理已成为关键的差异化因素。美光在SOCAMM上的成功经验,无疑为其在HBM4等更高级内存技术上的研发提供了有力支持。
分析师认为,SOCAMM的可扩展性意味着它未来可能应用于更广泛的英伟达产品线,包括其即将推出的个人超级计算机项目DIGITS。这将进一步推动AI技术的发展和应用,为数据中心和AI服务器市场带来新的变革。