三星与赛灵思联手:首次将HBM-PIM成功集成到商业化加速器系统中
Andrew 2021-08-25 09:48三星电子首次将其支持PIM的高带宽内存 (HBM-PIM) 成功集成到商业化加速器系统中,并将PIM应用扩展到包含DRAM模块和移动内存,以加速内存和逻辑的融合。
今年2月份,三星推出了业界首款HBM-PIM(Aquabolt-XL),将AI处理功能融入三星的HBM2 Aquabolt中,以增强超级计算机和AI应用中的高速数据处理能力。此后,HBM-PIM在赛灵思Virtex Ultrascale+ (Alveo) AI加速器中进行了测试,系统性能提升了近 2.5 倍,能耗降低了 60% 以上。
Acceleration DIMM (AXDIMM)为DRAM模块本身带来处理能力,最大限度地减少CPU和 DRAM之间的大量数据移动,从而提高AI加速器系统的功能。通过缓冲芯片内置的AI引擎,AXDIMM可以并行处理多个内存列,而不是一次只访问一个列,大大提高了系统性能和效率。由于该模块可以保留其传统的DIMM外形尺寸,AXDIMM 便于直接更换,而无需修改系统。目前正在客户服务器上进行测试,AXDIMM 可以在基于 AI 的推荐应用程序中提供大约两倍的性能,并将系统范围的能源使用量减少 40%。
三星的LPDDR5-PIM移动内存技术可以在没有数据中心连接的情况下提供独立的AI能力。仿真测试表明,LPDDR5-PIM用于语音识别、翻译和聊天机器人等应用时,性能可提高一倍以上,同时能耗降低60%以上。
三星计划通过与其他行业领导者合作来扩展其AI内存产品组合,以在2022年上半年完成 PIM平台的标准化。该公司还将继续培育高度稳健的PIM生态系统,以确保在整个内存市场的广泛适用性。