JFrog 已将 NVIDIA NIM 微服务集成到其软件供应链平台中，从而能够安全高效地部署 Meta 的 Llama 3 和 Mistral AI 等 AI 模型。
此次集成旨在通过将 DevSecOps 工作流与增强的安全性和合规性措施相结合来简化 AI 部署。企业现在可以获得采用 AI 的安全途径，优化可扩展应用程序的性能并满足行业对更高安全标准的要求。
JFrog 首席战略官 Gal Marder 表示：“对安全高效的 AI 实施的需求持续增长，许多企业都计划在 2025 年扩大其 AI 战略。然而，由于存在重大安全挑战，AI 部署往往难以投入生产。AI 驱动的应用程序在保护、部署和管理方面本质上很复杂，人们对开源 AI 模型和平台安全性的担忧持续增长。”
“我们很高兴与 NVIDIA 合作提供易于部署的端到端解决方案，使企业能够以企业级安全性、合规性和出处加速交付其 AI/ML 模型。”
随着人工智能越来越成为软件应用程序不可或缺的一部分，数据科学家和机器学习工程师面临着扩展企业机器学习模型部署的挑战。将人工智能工作流与现有开发流程集成的复杂性，以及资产管理分散和合规性漏洞等问题，可能会导致部署周期延长。IDC 预测，到 2028 年，65% 的组织将采用结合多种 Ops 功能的 DevOps 工具来优化软件交付流程。
IDC 的 Jim Mercer 评论道：“开源 MLOps 平台的兴起让不同技能水平的开发人员能够更轻松地使用 AI，让他们能够快速构建出令人惊叹的 AI 应用程序，但这一过程需要以安全的方式进行，并符合当今快速发展的政府法规。”
“随着企业扩大其生成式人工智能部署，拥有一个预先批准、完全合规、性能优化的模型中央存储库，开发人员可以从中选择并快速部署，同时通过使用现有的 DevSecOps 工作流程保持高水平的可见性、可追溯性和控制力，这是非常有吸引力的。”
JFrog 与 NVIDIA NIM 的整合旨在促进基础 LLM 的无缝部署和管理，从而在整个软件供应链中保持安全性和治理。JFrog Artifactory 是 JFrog 平台的关键，它为在软件开发生命周期内管理软件工件（包括二进制文件和 ML 模型）提供了统一的解决方案。
该平台使开发人员能够访问 NVIDIA NGC，这是一个 GPU 优化的深度学习模型中心。它为软件模型和工具提供了统一的来源，同时通过 DevSecOps 最佳实践确保了可见性和控制力。
JFrog 平台的更新为 AI 开发人员和 DevSecOps 团队带来了多项优势，例如统一的 ML 和 DevOps 工作流程，让数据科学家可以使用熟悉的流程。该平台通过 JFrog Curation 提供自动合规性检查、审计跟踪和模型治理，无需单独的 ML 工具。
它还通过持续扫描容器和依赖项中的漏洞来增强安全性，提供智能威胁检测和主动防御威胁。
该集成声称通过利用 NVIDIA 的加速计算基础设施、适应低延迟部署以及促进 ML 模型与依赖项的捆绑来提高模型性能和可扩展性。
NVIDIA 企业战略合作伙伴副总裁 Pat Lee 表示：“性能和安全性对于成功部署企业 AI 至关重要。通过将 NVIDIA NIM 直接集成到 JFrog 平台中，开发人员可以通过统一的端到端解决方案来加速 AI 的采用，以大规模构建、部署和管理生产 AI 代理。”
