前言:
2026年4月17日,全球企业推理基础设施支出680亿美元首次超过训练支出的450亿美元。但一条更深的危机也在浮现:“内存墙”正成为压垮AI性能的最后一根稻草。2009年单核可用内存带宽约8GB/s,到2026年却降至仅4GB/s左右,在此背景下,一种名为“MRDIMM”(多路复用列双列直插式内存模块)的新型内存技术,正在成为AGI赛道上最被低估的变量。
作者 | 方文三
图片来源 | 网络
AI计算面临的真实困境
过去十年,CPU核心数呈指数级增长,PCIe带宽同步爆发,但系统内存总带宽的增长速度明显滞后。这意味着,虽然内存总带宽在增加,但由于CPU核心数增加得更快,分摊到每个核心上的可用内存带宽反而在减少。单核可用带宽的下降,直接导致每个核心“吃不饱”,计算性能被数据供给速度锁死。
而AI推理的爆发,把这一矛盾推向了极致。在大模型推理中,每次生成token都需要把整个模型的权重从内存搬运到计算单元。这一过程的核心瓶颈不是计算,而是内存带宽——有效带宽决定了回答有多快。当推理逐步替代训练成为AI产业的新引擎时,擅长逻辑运算但内存带宽不足的GPU,正在暴露出它的结构性短板。
MRDIMM是什么?
面对这一困局,业界正在探索一条“低成本、高收益”的突围路径:MRDIMM。
传统RDIMM的DRAM芯片与主机接口在相同频率下运行。MRDIMM在主机内存通道与DRAM芯片之间引入了多路复用技术,允许DRAM芯片以其原生速率运行,同时让内存通道频率翻倍。用大白话说:RDIMM里两个内存RANK(列)只能交替“干活”,而MRDIMM让它们在同一时刻并行访问,每次数据传输从64字节提升至128字节,相当于修了一条双车道高速公路。
实际产品层面,以英特尔至强6性能核处理器为例,标准DDR5 RDIMM仅可实现6400MT/s的数据传输速率,而MRDIMM无需调整主板设计即飙升至8800MT/s,峰值带宽提升近40%。巴塞罗那超算中心的实测数据更是直接证明:从RDIMM升级到MRDIMM,系统内存带宽提升了41.3%,带宽密集型任务性能提升了27%至41%,同时内存访问延迟降低了数百纳秒,内存密集型工作负载服务器能耗最多可降低30%。
MRDIMM的极致之处体现在:它通过架构创新突破了DRAM频率的物理天花板,实现了“无需升级DRAM颗粒,带宽大幅跃升”的工程奇迹。第二代MRDIMM计划在2026/2027年推出,目标速率高达12800 MT/s,较当前规格再增45%;第三代规格17600 MT/s也已启动早期开发,路线图规划延伸至2030年代。
MRDIMM在推理场景中的不可替代性
从产品的角度看,MRDIMM最核心的价值导向不是一味提升内存容量,而是聚焦于高带宽、低延迟——这与AI推理的本质需求完美互补。
具体来看,广发证券报告指出,在大模型推理的KV Cache(键值缓存)场景中,MRDIMM具有“近端高带宽+远端大容量”的分层协同优势,可实现并发更高、上下文更长、端到端时延更低的效果。实测对比显示,MRDIMM在AI负载下的带宽较DDR5 RDIMM峰值可提升2.3倍,单条容量最高支持128GB,更长的上下文与更高的并发会话能力,显著优化了CPU与GPU之间的内存编排与资源利用。
更关键的是,英特尔采用“即插即用”式设计,MRDIMM与现有服务器平台的RDIMM插槽保持完全兼容,无需更换主板或重写软件,大大降低了企业级客户的部署门槛。此外,每一代MRDIMM速度跃升均基于DDR5架构持续改进,既可以延长DDR5的生命周期,也使服务器厂商、内存制造商能够在不贸然转向尚未成熟、成本过高的下一代DDR6内存标准前提下,稳步在2026至2028年升级异构服务器性能。
产业博弈:从技术架构到生态标准的先手之争
技术和市场之外,最激烈的博弈发生在标准制定层面。2026年5月,JEDEC固态技术协会密集宣布多项标准进展,包括JESD82-552标准的发布(DDR5MDB02多路复用秩数据缓冲器),即将发布的JESD82-542 MRCD02标准对信号完整性与时序控制的强化,以及JC-45委员会正接近完成的MRDIMM Gen2模块标准。JEDEC明确表示,这标志着为AI与云计算蓬勃增长的高带宽需求,从“样品验证”正式迈入了“规模化普及”的全新阶段。
国际市场方面,三星、SK海力士、美光三大巨头已入局。美光在高性能主内存领域率先出样,三星正积极推进产品化,SK海力士则基于第五代10nm级32Gb单体率先通过英特尔Xeon 6平台认证。国内产业链也在跟上,澜起科技、聚辰股份等企业正在提供配套的MRCD、MDB接口芯片以及SPD产品,2026年市场规模正从百亿级向千亿级跃升。
然而,目前MRDIMM市场渗透的空间依然广阔。JEDEC标准虽已部分落地,但整体技术仍处于早期验证阶段,生产成本较高且平台支持有限。TrendForce数据显示,2026至2029年将迎来真正的规模渗透期。为了在这场标准化争夺战中领跑,国内外生态伙伴正协同推动从“绑定至强6首发”到面向全行业的普适化。
因此,MRDIMM最大的商业价值在于“向下兼容易用,向上扩展容量带宽”,并伴随JEDEC标准化进程在全球开花结果,成为未来5-10年服务器内存的生态底座。
结语
当万亿参数的大模型走出实验室,内存带宽已成为制约性能释放的最后一环。MRDIMM的崛起揭示了:在算力芯片设计固化、功耗瓶颈迫近的当下,系统内存架构的颠覆式创新,同样能够撬动性能和能效的指数级跃升。它不仅是CPU通往更强AI计算力的可靠支撑,也是以最低硬件升级成本释放异构数据中心潜能的关键杠杆。
网络援引:
澎湃新闻:《MRDIMM,在中国市场加速渗透》
百度开发者中心:《超大规模训练的硬件扩展困局:从数据并行到混合并行的范式重构》
九方智投:《广发证券:MRDIMM和CXL增加AI服务器内存 建议关注产业链核心受益标的》










