Iguazio和Nvidia合作，通过MLRUN和NIM增强AI部署

iguazio和Nvidia合作，通过MLRUN和NIM

Caroline Bishop

Iguazio之间的战略合作，现在是McKinsey＆Company的AI Arm Quantumblack的一部分，而NVIDIA标志着人工智能部署领域的重大进步。该合作伙伴关系旨在为组织提供创建生产级AI解决方案所需的工具，这些解决方案不仅是高性能且可扩展的根据Nvidia的说法。这些微服务支持广泛的AI模型，包括NVIDIA AI基金会，社区和自定义模型的模型，可确保使用行业标准API进行无缝且可扩展的AI推理过程。 NIM框架旨在动态地选择最佳的推理引擎，具体取决于基础模型，GPU和系统，从而提高了效率。

mlrun：AI编排框架

mlrun，一个开放式AI编排框架由Iguazio开发的开放式AI编排框架。它涵盖了企业级应用程序所需的所有元素，包括批处理和实时数据管道，CI/CD自动化，数据谱系跟踪，一个D模型监视。 MLRUN在支持自动化和无服务器体系结构的支持下，确保了资源优化，使其成为AI部署的全面解决方案。

现实世界中的应用程序和利益

在实用应用中，在一个大型金融机构中使用了大型金融机构来开发多方面的chatbot系统。该系统采用意图分类和实时监控，以提高操作效率并确保法规合规性。 The chatbot architecture, powered by NVIDIA NIM, demonstrates the framework's capability to support complex AI-driven tasks in financial services, including loan inquiries, investment advice, and general customer service.

The integration of MLRun with NVIDIA NIM provides a robust solution for AI deployment, offering features like serverless deployment, efficient GPU utilization, and comprehensive MLOps integration.这种协同作用使企业可以通过优化性能部署可扩展的AI应用程序

结论

通过MLRUN和NIM之间的合作是AI部署技术的重要一步。通过将优化的推断与强大的运营监督相结合，该合作伙伴关系使企业能够利用AI的全部潜力，在各个行业中提供可扩展有效的解决方案。

图像来源：Shutterstock