Rebellion AI芯片Atom已获多家服务器厂商稳定性认证
Andy 2024-10-09 14:18Rebellion近日宣布,近期其AI芯片“ATOM”已获得Dell、HPE、Supermicro 、Lenovo、Gigabyte等全球服务器厂商的验证,并获得了Islam Korean等4家韩国服务器公司的认证。Rebellion已与各服务器公司进行了确认通信协议兼容性、优化固件等技术合作,确保在各种服务器环境下顺利运行。
Rebellion已在“多卡”环境下进行验证,以支持大规模AI模型,目前正在向客户提供的官方服务器环境中稳定运行“Llama 3.1 70B”等LLM。基于此,其目标是支持LLM的AI数据中心。
ATOM是Rebellions专为数据中心的AI推理任务设计的AI芯片,采用三星5nm工艺制造,具有高性能、低功耗的特点,支持16GB的GDDR6内存,以及PCIe Gen5接口。支持多种AI模型,包括计算机视觉、自然语言处理等。支持多实例功能,可同时处理多达16个独立的任务。ATOM芯片在MLPerf基准测试中性能优异,价格仅为英伟达GPU A100的十分之一。