据韩媒报道，三星电子日前公布面向智能手机、AI PC等端侧AI设备的LPDDR5X-PIM架构及详细性能指标。该技术可在内存内部直接完成部分运算处理，无需将数据反复传输至处理器。

什么是PIM

PIM是一种在内存中增加运算功能的技术。传统方式下，存储在内存中的数据需要先传输至CPU或GPU进行计算，再将结果写回内存。LPDDR5X-PIM将部分计算直接在内存内部完成，通过减少数据在内存与处理器之间往返传输的频次，实现AI处理速度的提升和功耗的降低。

LPDDR5X-PIM 的 PIM 带宽高达614GB/s，容量为16GB。相比之下，传统 DRAM 的带宽仅为 76.8GB/s，PIM 技术的应用使带宽提升了八倍。

来源：公开信息

三星使用Meta的拥有80亿参数模型"Llama 3.1"进行测试，结果显示：

处理时间：从传统LPDDR5X的12.3秒缩短至5.4秒，提速约2.3倍；

每秒Token处理量（TPS）：从27个提升至81.3个，是现有产品的3倍。

从HBM到LPDDR，PIM适用范围扩大

三星此前曾于2021年推出将PIM技术应用于高带宽内存（HBM）的"HBM-PIM"。此次则将PIM的适用范围扩展至主要用于智能手机和PC的低功耗DRAM——LPDDR。

近年来，AI模型正朝着更小、更高效的方向演进，在智能手机或PC本地运行AI的需求日益增长，低功耗内存的重要性也随之提升。与以数据中心为核心的HBM不同，LPDDR-PIM兼具高带宽与低功耗两大优势，聚焦于对能效要求极高的端侧AI场景。

LPDDR5X-PIM 预计将应用于服务器和移动设备。尤其被视为面向边缘 AI 市场的技术，可以绕过中央云，实现设备端 AI。通过利用 PIM 技术，在规模不大的服务器上，也能以低功耗运行高性能 AI。

兼容性与生态布局

在兼容性方面，LPDDR5X-PIM采用与现有LPDDR5X相同的封装和内存控制方式，无需额外的内存控制器即可直接应用于现有系统。通过按照JEDEC制定的封装标准开发产品，使用现有LPDDR5的用户可以轻松切换到LPDDR5X-PIM。

三星正通过提供软件开发工具包（SDK）和模拟器，积极构建PIM生态系统。同时，下一代"LPDDR6-PIM"的标准化工作也已启动。

消息称，SK海力士和美光计划从下一代LPDDR6开始推出各自的PIM技术，端侧AI内存赛道竞争正在升温。