NVIDIA AI Foundry 提供全面的生成式 AI 模型服务，涵盖集合管理、合成资料产生、微调、检索、防护和评估，以部署具备全新NVIDIA NeMo Retriever微服务，以提供精准回应的客制化Llama 3.1 NVIDIA NIM 微服务。NVIDIA AI Foundry 由 NVIDIA DGX Cloud AI 平台驱动，该平台是与世界领先的公有云共同设计的，可为企业提供重要的运算资源，并可根据 AI 需求的变化轻松扩展。
NVIDIA解释，NVIDIA AI Foundry是一项服务，能够让企业利用资料、加速运算及软体工具来创建和部署能够增强其生成式 AI 计划的客制化模型。
就像台积公司制造其他公司设计的晶片一样，NVIDIA AI Foundry 提供基础设施和工具，让其他公司能够透过使用 DGX Cloud、基础模型、NVIDIA NeMo 软体、NVIDIA 专业知识以及生态系工具和支援，开发和客制化 AI 模型。
关键差异在于产品：台积公司生产实体的半导体晶片，而 NVIDIA AI Foundry 则协助创建客制化模型。两者都促进创新，并连结到庞大的的工具和合作伙伴生态系。
NVIDIA 创办人暨执行长黄仁勋表示，「Meta 公开推出的 Llama 3.1 模型代表了全球企业采用生成式 AI 的关键时刻。Llama 3.1 为每个企业和产业打开了建构最先进的生成式人工智慧应用的闸门。 NVIDIA AI Foundry 已全面整合 Llama 3.1，并准备好协助企业建置和部署客制化 Llama 超级模型。」
Meta 创办人暨执行长马克．祖克伯（Mark Zuckerberg）表示，「全新的 Llama 3.1 系列模型为开源AI的超级重要一步。企业透过NVIDIA AI Foundry可以轻松创造和客制大家最想要的先进的AI服务，并透过 NVIDIA NIM 部署。我很高兴能把它交付到大家的手中。」
为了增强用于生产 AI 的 Llama 3.1 模型的企业部署，现在可从ai.nvidia.com下载适用于 Llama 3.1 模型的NVIDIA NIM推论微服务。 NIM 微服务是在生产环境中部署 Llama 3.1 模型的最快方式，与不使用 NIM 运行推理相比，吞吐量可提高 2.5 倍。
企业可以将 Llama 3.1 NIM 微服务与全新 NVIDIA NeMo Retriever NIM 微服务配对，为AI copilots、助理和数位人分身创建最先进的检索管道。
医疗保健、金融服务、零售、运输和电信领域的公司已经开始使用 NVIDIA NIM 微服务来支援 Llama。首批使用 Llama 3.1 新版 NIM 微服务的企业包括沙乌地阿拉伯国家石油公司、AT&T、Uber和其他产业领导者。
點擊閱讀下一則新聞
