SOCAMM2：AI内存新纪元，竞争与机遇并存

据报道，英伟达已中止其第一代SOCAMM内存模块的推广，并将研发重心转移至新一代SOCAMM2。

早前，英伟达曾计划今年为其AI产品部署60-80万个SOCAMM内存模块，但由于技术障碍，项目两次推迟，未能实现大规模订单。目前，研发重心已转向SOCAMM 2，英伟达正携手三星、SK海力士和美光进行样品测试。

01

何为SOCAMM2？其优势何在？

SOCAMM技术旨在打造面向AI服务器的高带宽、低功耗内存解决方案，旨在以接近HBM的性能同时降低成本。通过结合LPDRAM与压缩连接内存模块(CAMM)，以全新外形提供卓越性能与能效，相比传统DDR5 RDIMM配置更节省空间且功耗低三分之一。

英伟达产品文档中已提及SOCAMM相关信息，GB300 NVL72规格表显示支持最高18TB基于LPDDR5X的SOCAMM，带宽达14.3TB/s。尽管因主板设计变动，SOCAMM模组不会立即商业化，但它有望成为Vera Rubin平台的一部分，为Vera CPU提供灵活、易维护的非板载内存选择。

需注意的是，SOCAMM与HBM并非直接竞争，而是互补存在。SOCAMM解决灵活性问题，而HBM通过先进封装满足极致性能需求。

SOCAMM 2或支持LPDDR6内存规格

技术层面分析，SOCAMM 2延续SOCAMM 1的694个输入/输出（I/O）端口设计，数据传输速度跃升至9,600MT/s，相比SOCAMM 1提升约12.5%。此提升意味着在相同时间内，SOCAMM 2能传输更多数据，为AI服务器提供更强数据吞吐能力。

更值得关注的是，SOCAMM 2可能支持下一代低功耗内存LPDDR6。作为LPDDR5X的继任者，LPDDR6在关键性能指标上实现飞跃。在通道架构上，它采用24位宽通道（两个12位子通道）架构，每个子通道配备独立的4-bit CA总线，并行处理能力大幅提升。其突发长度设定为24（BL24），形成288位数据包，其中256位承载有效数据，另外32位用于错误检查、内存标记或实施数据总线反转（DBI）技术，保障数据准确性同时降低写入功耗。

从性能看，LPDDR6内存带宽高达38.4GB/秒，相比LPDDR5有极大提升，且JEDEC确认其功耗将降低约20%。在轻负载场景下，其效率模式可仅启用一条子通道访问全部16个存储区，另一条进入待机或深度睡眠状态，优化能耗。同时，新增的ALERT信号线使DRAM颗粒能主动报告错误，支持15种不同类型故障的实时上报，增强数据完整性保障。

若SOCAMM 2成功集成LPDDR6技术，二者将形成强大协同效应。一方面，LPDDR6高性能特性将助力SOCAMM 2在带宽、能效比及数据处理稳定性上实现突破；另一方面，SOCAMM 2的模块化设计也将拓展LPDDR6应用空间，加速其商业化进程。但当前LPDDR6仍处于技术验证阶段，其兼容性、量产成本及稳定性存在不确定性。

02

AI服务器生态如何融合

SOCAMM2并非孤立内存产品，其价值的发挥需与AI服务器生态深度协同。从硬件层面看，AI服务器的主板设计、CPU与内存控制器的兼容性及散热系统布局均需与SOCAMM2特性匹配。以英伟达Vera Rubin平台为例，其对内存的灵活性与可维护性提出更高要求。

SOCAMM2的非板载设计满足Vera Rubin平台对内存模块独立升级、更换的需求，无需整体更换主板，降低维护成本与升级周期。

软件层面，操作系统、AI框架及驱动程序的优化同样关键。例如，在AI训练场景中，TensorFlow、PyTorch等框架需针对SOCAMM2内存带宽特性调整算法，实现数据高效调度与缓存管理。同时，内存管理驱动需支持多通道并行传输模式，确保多任务处理时资源合理分配。

此外，SOCAMM2与AI加速芯片的协同也至关重要。当前主流AI加速芯片在设计时需考虑与新型内存的适配性。通过芯片与内存的深度适配可实现数据传输链路的优化，减少信号干扰与传输损耗。

03

内存大厂竞争加剧

随着AI应用爆发，高带宽、低延迟内存需求激增。传统DDR内存难以满足AI服务器需求。HBM虽性能卓越但成本高昂、产能受限。SOCAMM2的出现恰逢其时，融合LPDDR技术优势有望以亲民成本提供接近HBM的性能。

在此背景下，内存大厂纷纷押注SOCAMM2赛道。

美光凭借技术积累与市场响应速度在SOCAMM领域率先行动今年3月宣布向客户交付基于LPDDR5X的SOCAMM模块。此举使其积累应用经验并与部分AI服务器制造商建立合作关系。

三星与SK海力士虽稍晚于美光但凭借技术储备与产业链整合能力在SOCAMM2研发与量产准备中持续发力。三星侧重产品紧凑性与散热管理优化；SK海力士则聚焦内存速率提升与稳定性优化。

国产存储厂商也积极参与市场竞争江波龙作为国内代表企业推出自研SOCAMM2产品。该产品保留通用优势并针对国内服务器市场特点优化如去除顶部凸出结构以提升适配性。这种本土化策略或为其争取合作机会并拓展市场份额。

04

商业化之路还有多远？

SOCAMM2在商业化过程中面临技术、成本及生态挑战同时也具备市场发展机遇其发展将影响AI内存行业格局。

技术兼容性是首要挑战。作为新型内存模块SOCAMM2需与现有硬件架构、操作系统及AI应用框架兼容。目前部分老旧服务器可能无法支持其高传输速率与特殊指令集。企业若适配需进行硬件升级或更换增加初期投入成本可能影响中小企业采用。

成本控制同样关键。尽管定位为低成本替代HBM方案但研发与制造成本仍高于传统DDR5内存。

从市场机遇看AI产业持续扩张将带动高带宽内存需求增长。