三星将其HBM-PIM内存扩展到更多应用

三星将其 HBM-PIM 内存扩展到更多应用

今年早些时候，三星推出了世界上第一个具有集成处理功能的 HBM-PIM(High-Bandwidth Memory Processing-In-Memory)模块。这种新的内存技术为AI应用程序提供了更快的性能，同时降低了功耗。现在，这家韩国公司宣布将这种 DRAM 技术扩展到更多应用。

在Hot Chips 33这一展示全新半导体技术的年度博览会期间，三星半导体宣布了HBM-PIM的首次商业应用。这种未来技术已经在 Xilinx Virtex Ultrascale+ (Alveo) AI 加速器中进行了测试，处理速度提高了 2.5 倍，同时将能效提高了 60%。这表明 HBM-PIM 已准备好用于更广泛的应用，包括商业服务器和移动设备。

AXDIMM (Acceleration DIMM) 是由 HBM-PIM 芯片驱动的DRAM模块，它们包括内存芯片和处理核心。这种组合减少了 CPU 和 DRAM 之间的大量数据移动。缓冲芯片内建的AI引擎可以并行处理多个内存列，大大提高速度和电源效率。

三星 AXDIMM PIM 模块

这些 AXDIMM 模块保留了传统的 DIMM 外形，这意味着传统 DIMM 可以轻松地替换为 AXDIMM。它们目前正在客户服务器上进行测试，并且已经注意到它们在基于 AI 的推荐应用程序中提供两倍的性能，同时提供 40% 的电源效率提高。SAP 一直在测试 AXDIMM，以提高 SAP HANA 的性能并加速数据库。

三星还宣布将很快通过 LPDDR5-PIM 模块将内存处理引入移动设备。这些模块在某些 AI 任务(例如聊天机器人、翻译和语音识别)中提供两倍的性能。这家存储器领域的全球领导者计划与其他行业领导者合作，在 2022 年上半年实现 PIM 平台的标准化。

三星电子DRAM 产品与技术高级副总裁 Nam Sung Kim表示：“ HBM-PIM 是业界首个在客户 AI 加速器系统中进行测试的 AI 定制内存解决方案，展示了巨大的商业潜力。通过技术标准化，应用将变得越来越多，扩展到下一代超级计算机和人工智能应用的 HBM3，甚至扩展到用于设备上人工智能的移动内存以及用于数据中心的内存模块。“