亚马逊发布升级版AI系统处理器Trainium2,并扩大与英伟达的伙伴关系
AVA 2023-11-29 11:25亚马逊云计算部门AWS发布升级款自研芯片Graviton4,其性能较上一代快30%,内核增加50%、存储频宽提升75%;应用Graitons4 的电脑将在未来数月内上市。
此外,还发布了面向AI系统的升级款处理器Trainium2,其速度比前代Trainium1 快4 倍,将能在亚马逊云服务器托管服务Amazon Elastic Compute Cloud(EC2) UltraCluster 中部署多达10 万个芯片,让使用者能在很短的时间内训练上兆参数的基础模型(PM) 和大语言模型(LLM),同时能源利用率较前代提高多达2 倍。这款产品将于2024年投入应用,以取代英伟达的AI加速器产品。
亚马逊扩大与英伟达的伙伴关系,AWS将是Grace Hopper Superchip升级款产品的第一个大客户。DGX Cloud 服务将在AWS平台上运行,将加速生成式AI 开发,并训练超过1 兆个参数的大型语言模型(LLM )。