近日，英伟达与AI芯片初创公司Groq达成一项金额高达200亿美元的非排他性授权协议，涉及后者在推理芯片领域的核心技术。作为协议的一部分，Groq创始人Jonathan Ross、总裁Sunny Madra等核心成员也将加入英伟达，进一步加强英伟达在推理架构方面的布局。

值得关注的是，这笔巨额交易的核心标的其实是Groq所研发的LPU（语言处理单元）芯片。该芯片于2024年面世，是全球首款完全基于片上SRAM集成、无需外置HBM内存的推理芯片。由于SRAM的读写速度可比HBM提升最高达100倍，数据直接在芯片内完成存取与运算，理论上可消除由内存调取带来的延迟问题。

LPU采用Groq自研的TSA架构，其运算路径由软件与编译器提前精确规划，可实现“确定性运算”——所有数据处理环节在时间上可精准同步，形成一条无缝衔接、零等待的高效流水线。

与此同时，市场对HBM的需求仍在快速攀升。随着谷歌TPU、AMD MI400系列、AWS Trainium等芯片的竞争加剧，全球HBM供应缺口日益扩大。目前，主要供应商2026年的HBM产能已全部被预订，业界亦密切关注2027年产能的分配节奏。在此背景下，HBM厂商的议价能力持续增强。

对英伟达而言，采用LPU技术意味着在轻量化推理场景中，能够减轻对HBM供应链的依赖。这不仅有助于保障其在推理市场的算力交付与营收稳定，也为应对未来HBM资源紧张提供了重要的技术备选路径。