英伟达推出AI Foundry服务,可配合Meta Llama 3.1提供客制化
Andy 2024-07-24 16:38Meta最新推出一款功能强大的AI模型「Llama 3.1」,具有广泛的新功能,包括改善推理帮助处理复杂的数学问题、或将文本即时整合成一本书,Llama 3.1 模型的最大版本是在16,000 个Nvidia H100 显示卡上训练的。据悉,Meta已经在开发Llama 4。
此外,Meta还与英伟达合作,英伟达AI代工服务(AI foundry service) 将为全球企业客制化Llama 3.1生成式AI模型,将企业客户数据与Llama 3.1 405B 和英伟达Nemotron 模型结合,创建「超级模型」。
英伟达AI Foundry将提供全面的生成式AI 模型服务,涵盖数据管理、合成数据产生、微调、检索、安全防护和评估,以部署客制化的Llama 3.1 NVIDIA NIM 微服务,并提供新的NVIDIA NeMo检索微服务以实现准确的响应。