英伟达在SC24超算大会上推出了2款新AI硬件，分别是H200 NVL PCIe GPU和 GB200 NVL4超级芯片，进一步拓展其数据中心产品线。

其中，H200 NVL非常适用于数据中心，能够在更小的空间中装入更多的计算能力，加速 AI 和 HPC 应用，同时通过降低功耗来提高能源效率。与前代产品H100 NVL相比，H200 NVL内存提高1.5倍，带宽增加1.2倍；大语言模型推理的性能最高可提升1.7倍；对于 HPC 工作负载，性能比 H100 NVL 提升了 1.3 倍，比 NVIDIA Ampere 架构一代提升了 2.5 倍。

搭载 H200 NVL 的平台将于 12 月开始由 NVIDIA 的全球系统合作伙伴提供。戴尔科技、惠普企业、联想和超微预计将提供支持 H200 NVL 的广泛配置。此外，H200 NVL 将适用于 Aivres、ASRock Rack、华硕、技嘉、Ingrasys、Inventec、MSI、和硕、QCT、纬创和 Wiwynn 的平台。

GB200 NVL4是单服务器解决方案，在单个主板上集成2个Grace CPU和4个Blackwell GPU，利用NVLink互连技术实现CPU和GPU的通信，搭载768GB的HBM3E和960GB的LPDDR5X内存，提供32TB/s的组合内存带宽，可为要求苛刻的 AI 工作负载的强大动力源。

与GH200 NVL4相比，GB200 NVL4提供2.2倍的模拟性能、1.8倍的AI训练性能和1.8倍的AI推理性能，预计将进入超大规模客户的服务器机架。