美光宣布推出全球首款192GB SOCAMM2,并正式送样给客户,进一步拓展该公司低功耗内存,于AI数据中心的应用版图。
该产品采用美光最新1γ(1-gamma)制程技术,能源效率提升逾20%,并在相同尺寸下提供50%更高容量。
SOCAMM2延续美光首代LPDRAM SOCAMM设计,强化带宽与功耗表现。
由于容量扩增,该模块可使AI推论中首个token生成时间(TTFT)缩短超过80%,大幅提升实时推论效能。
在全机柜AI部署架构下,SOCAMM2可支持超过40TB的CPU直连主内存,使其节能优势更为显著。 模块化设计亦便于维修与升级,为未来AI平台的可扩展性铺路。
SOCAMM2是美光与NVIDIA五年合作成果之一,将LPDDR5X的低功耗与高带宽特性带入服务器应用。 透过严格的设计与测试流程,美光成功将原为行动装置开发的低功耗DRAM升级至数据中心级品质,满足高可靠度与高稳定性需求。
相较同等级RDIMM,SOCAMM2能源效率提升超过三分之二,体积仅为后者的三分之一,有效提高数据中心的空间利用率与液冷服务器设计灵活度。
美光并积极参与JEDEC SOCAMM2标准制定,与业界伙伴合作推动低功耗记忆体普及,加速AI数据中心的节能转型。
SOCAMM2单一模组容量高达192GB,传输速度达9.6Gbps,现已提供样品给主要AI服务器客户,量产时程将依客户产品导入计划而定。
美光预期,该模块将成为AI服务器低功耗主内存的主流解决方案,为全球AI基础架构开启新一代高性能、低能耗时代。
-pa集团官网入口