传英特尔大幅调降明年AI服务器芯片出货目标
Andy 2024-10-08 15:04据业界消息称,英特尔为因应内部策略调整与终端需求变化,大幅调降其AI服务器芯片Gaudi 3出货目标,原本预估2025年出货量约30万颗至35万颗,最新消息传出调降为20万颗至25万颗,最高降幅高达三成以上。
英特尔Gaudi 3 AI加速器专门针对大规模生成式人工智能进行了优化,拥有64个张量处理器核心 (TPC) 和 8 个矩阵乘法引擎 (MME),可加速深度神经网络计算。搭载128GB HBM2E内存用于训练和推理,可提供3.67TB/s 带宽,相比之下,Gaudi 2仅拥有24个TPC、两个MME 和 96GB HBM2E内存。
目前IBM已在IBM Cloud上部署了英特尔 Gaudi 3人工智能加速器。戴尔科技正在利用 Gaudi 3 和 Xeon 6 联合设计基于检索增强生成的解决方案。