AI芯天下丨趋势丨高带宽低功耗!SOCAMM2搅动AI内存市场

IP归属:广东

文章AI导读

一键萃取文章精髓,核心观点即刻呈现

前言

在AI技术飞速迭代的当下,内存作为数据流转的核心枢纽,其性能与成本直接制约着AI服务器的运算效率与规模化应用。

近期,英伟达调整内存战略,取消第一代SOCAMM内存模块推广、全力攻坚SOCAMM2的动作,为AI内存市场注入新变量。

这款定位高带宽、低功耗的新型内存解决方案,正凭借独特技术优势与生态适配潜力,重塑行业竞争格局。

作者| 方文三

图片来源|网 络

从搁置到重启SOCAMM2的破局情况

回溯SOCAMM的发展历程,英伟达最初计划于今年为AI产品部署60-80万个第一代SOCAMM内存模块,然而技术问题导致项目两次搁置,未下达任何大规模实际订单。

市场期待的落空,反而让后续登场的SOCAMM2更受关注。

目前,英伟达已联合三星电子、SK海力士和美光三大内存巨头开展SOCAMM2样品测试,从技术研发向商业化落地迈出关键一步。

作为面向AI服务器的专属内存方案,SOCAMM2的核心优势在于平衡“性能”与“成本”两大核心诉求。

其通过将LPDRAM与压缩连接内存模块(CAMM)结合,以创新外形尺寸实现突破:相较于传统DDR5 RDIMM配置,不仅空间占用更紧凑,功耗还降低三分之一,同时性能可媲美HBM(高带宽内存)。

值得注意的是,SOCAMM2与HBM并非竞争关系,而是互补搭档——HBM通过与GPU先进封装集成满足极致性能需求,SOCAMM2则凭借灵活配置解决非板载内存的维护与升级问题,二者共同覆盖AI服务器不同场景的内存需求。

技术升级亮点从速率提升到LPDDR6

从技术细节来看,SOCAMM2在传承中实现显著升级。

硬件架构上,其延续了第一代的694个输入/输出(I/O)端口设计,为性能稳定提供底层支撑。

数据传输速度则从SOCAMM1的8533MT/s跃升至9600MT/s,提升幅度约12.5%,这意味着单位时间内可传输更多数据,为AI服务器的高速运算提供更强数据吞吐能力。

更具前瞻性的是,SOCAMM2极有可能支持下一代低功耗内存LPDDR6。

通道架构采用24位宽通道(含两个12位子通道),并行处理能力大幅提升;带宽高达38.4GB/秒,较LPDDR5显著提升;功耗经JEDEC确认降低约20%,且新增ALERT信号线强化数据完整性保障。

不过,LPDDR6当前仍处于技术验证阶段,兼容性、量产成本等问题尚未明确,这也是供应商暂未正式确认支持该规格的核心原因。

生态协同适配融入AI服务器

SOCAMM2的价值释放,离不开与AI服务器生态的深度协同,这种协同体现在硬件、软件、芯片适配三大层面。

硬件层面,AI服务器的主板设计、CPU与内存控制器兼容性、散热系统布局均需适配SOCAMM2特性。

以英伟达Vera Rubin平台为例,其对内存灵活性与可维护性要求极高,而SOCAMM2的非板载设计恰好满足需求——内存模块可独立升级、更换,无需整体更换主板,大幅降低维护成本与升级周期。

软件层面,操作系统、AI框架与驱动程序的优化同样关键。在AI训练场景中,TensorFlow、PyTorch等主流框架需针对SOCAMM2的内存带宽特性调整算法,避免计算资源浪费。

内存管理驱动程序则需支持多通道并行传输,减少数据延迟与冲突。

芯片适配层面,英伟达GB300系列、AMD MI300系列等AI加速芯片,在设计初期便需考虑与新型内存的适配性。

以英伟达GB300 NVL72为例,其规格表明确支持最高18TB基于LPDDR5X的SOCAMM,带宽达14.3TB/s,这正是芯片与内存厂商提前协同研发的成果。

全球玩家的“赛道竞速”

AI应用的爆发式增长,催生了对高带宽、低延迟内存的迫切需求。传统DDR内存性能不足,HBM成本高、产能受限,SOCAMM2凭借“低成本+近HBM性能”的优势填补市场空白,吸引全球内存大厂纷纷布局。

美光凭借技术积累与市场响应速度率先发力,今年3月已交付基于LPDDR5X的SOCAMM模块,积累了应用经验与合作资源,但先发优势能否持续仍需看后续迭代与成本控制。

三星与SK海力士虽进度稍慢,但依托技术储备与产业链整合能力持续加码:三星聚焦产品紧凑性与散热优化,适配高密度服务器高负载需求。

SK海力士主攻速率提升与稳定性,计划明年初推进量产,二者均与英伟达保持紧密合作。

国产厂商也不甘落后,江波龙依托全环节技术积累推出自研SOCAMM2产品,针对国内市场优化设计(如降低高度适配液体冷却系统),有望凭借本土化优势拓展份额,推动国产存储技术突破。

结尾:AI浪潮下的突围之道

机遇则源于AI产业的持续扩张。根据TrendForce数据,2025年AI服务器市场价值预计升至2980亿美元,占服务器行业总价值70%以上,内存需求将同步激增。

SOCAMM2的“高带宽、低功耗、低成本”特性,与中高端AI服务器需求高度契合,在训练、推理、云计算等场景潜力巨大。

更重要的是,SOCAMM2将推动内存行业技术迭代。面对其竞争压力,HBM、DDR5等产品将加快升级,形成良性竞争,助力AI产业获得更优质的内存解决方案,推动计算性能整体提升。

从技术研发到生态适配,从厂商竞争到商业化落地,SOCAMM2正以“搅局者”的姿态,为AI内存市场注入新活力。

尽管前路仍有挑战,但随着技术不断成熟、生态持续完善,SOCAMM2有望成为AI服务器内存领域的关键力量,为AI产业的规模化发展提供坚实支撑。

内容来源于:半导体产业纵横:AI内存新秀,SOCAMM2登场;搜狐:英伟达SOCAMM2携LPDDR6,AI服务器内存格局生变?挑战与机遇并存 ;高带宽低功耗,AI内存新秀,SOCAMM2登场;英伟达SOCAMM2:AI服务器内存的新变革与挑战

陀螺科技现已开放专栏入驻,详情请见入驻指南: https://www.tuoluo.cn/article/detail-27547.html

AI芯天下专栏: https://www.tuoluo.cn/columns/author1911711/

本文网址: https://www.tuoluo.cn/article/detail-10126021.html

免责声明:
1、本文版权归原作者所有,仅代表作者本人观点,不代表陀螺科技观点或立场。
2、如发现文章、图片等侵权行为,侵权责任将由作者本人承担。

相关文章