据业界消息，英伟达已成立ASIC部门，以增强其定制芯片组能力，这是突显AI半导体市场快速发展格局的一项重大举措。ASIC部门的成立正值全球生成式AI和大型语言模型 (LLM) 蓬勃发展之际，据Omdia数据，推理AI芯片市场预计将从2023年的 60亿美元增长到2030年的1,430亿美元，指数级的增长正促使主要科技公司加速开发定制ASIC芯片。

目前亚马逊、微软、谷歌、Meta和苹果均积极致力于AI半导体项目。博通和Marvell等芯片组设计厂商股价飙升进一步凸显了半导体行业的竞争动态。博通已确认与三大云公司合作开发定制AI芯片，凸显数据中心对专用半导体解决方案的需求不断增长。

除了定制芯片设计方面的进展之外，存储器市场也正在发生重大变化。SK海力士将于今年下半年开始量产第六代HBM（HBM4），三星电子HBM4流片工作预计已于2024年第四季度开始，预计测试产品将于今年初左右发布，目标在今年6月之前完成12层HBM4量产的准备工作。

HBM4预计将具有2,048个信息入口点，是其前代产品的两倍。这一发展对于处理AI应用所需的大型数据集至关重要。此外，三星电子和SK海力士将从HBM4开始加强定制服务，这意味着详细的HBM设计将因每个客户而异。