当今的免费、开源大型语言模型环境对企业来说就像是无限自助餐,丰富选择对于正在开发客制化生成式人工智慧应用程式的开发者来说,可能让人不知所措,因为他们需要应对独特的专案和业务需求,包括相容性、安全性以及用来训练模型的资料。
NVIDIA AI Foundation Models是企业级预训练模型的精选集合,为开发人员提供将客制化生成式人工智慧带入他们企业的良好开端。NVIDIA最佳化的基础模式加速创新NVIDIA AI Foundation Models可以透过简单的使用者介面或 API 直接从浏览器体验。并测试企业应用程式中的效能。
此外,这些模型已经经过NVIDIA TensorRT-LLM的最佳化,以实现最高的吞吐量和最低的延迟,并且可以在任何NVIDIA GPU加速堆叠上大规模运行。例如,使用 TensorRT-LLM最佳化的 Llama 2 模型在 NVIDIA H100 上的运行速度提高了近 2 倍。
新的NVIDIA Nemotron-3 8B模型系列支援创建当今最先进的企业聊天和问答应用程式,适用于包括医疗保健、电信和金融服务等广泛的行业。这些模型是协助客户建立安全、可立即上线使用的生成式人工智慧应用程式的起始点。 这些模型在来源可靠的资料集上进行训练,并以与更大模型相媲美的效能运行,非常适合企业部署。
NVIDIA 在 Microsoft Azure 上为全球企业和新创公司推出人工智慧代工服务。这个端到端的解决方案包括一系列的NVIDIA AI Foundation Models、NVIDIA NeMo™框架和工具以及NVIDIA DGX™ Cloud人工智慧超级运算服务,让新创和企业可以在Microsoft Azure上顺畅的开发和部署客制化的人工智慧模型。
除此之外,NVIDIA也宣布加速企业客制化生成式AI模型开发、加速器车数位、为全球电信产业建立客制化大型语言模型等。
爆料信箱:news@nextapple.com
★加入《壹苹》Line,和我们做好友!
★下载《壹苹新闻网》APP
★Facebook 按赞追踪