IBM率先导入英特尔Gaudi 3 AI加速器,有望带动高容量、高性能存储产品需求
Holly 2024-08-30 16:28IBM Cloud宣布引入英特尔的Gaudi 3 AI加速器。预计到2025年初,IBM Cloud将推出结合英特尔Gaudi 3 AI加速器和第五代至强处理器的先进云服务,专注于为生成式AI推理工作负载提供优化支持。
IBM Cloud计划在其AI与数据平台watsonx上实现对Gaudi 3的全面支持,为客户提供更丰富的AI基础设施资源,以便于在混合云环境中更有效地扩展其AI工作负载,并显著提升模型推理的成本效益。IBM Cloud总经理Alan Peacock强调,IBM Cloud致力于提供满足客户需求的解决方案,推动AI和混合云的创新,同时确保安全性和弹性。
英特尔Gaudi 3 AI加速器采用了尖端的5nm制程技术,集成了64个TPC(张量处理核心)和8个MME(矩阵乘法引擎),并配备了96MB SRAM缓存及128GB HBM内存。这些高端配置使得Gaudi 3在AI计算性能上实现了质的飞跃。IBM Cloud与英特尔的合作,不仅将为企业级用户提供灵活高效的AI解决方案,也将为AI云服务市场带来新的增长动力。
在全球科技企业纷纷加大AI建设投入的背景下,对高性能存储产品的需求日益增长,为存储市场的繁荣提供了坚实的基础。尽管面临服务器数据中心对存储产品的严苛性能要求和较长的design in周期,但随着北美和国内互联网厂商对AI服务器相关需求的积极表现,服务器领域的需求依然强劲。同时,存储原厂在资本支出和产能分配上更倾向于企业级市场,使得企业级数据中心领域成为当前市场中的亮点。CFM闪存市场数据显示,Q3服务器DDR5平均ASP涨幅约15%,NAND平均ASP涨幅约5%-10%。