机器学习运维 (MLOps)

机器学习运维 (MLOps) 是一组旨在可靠且高效地在生产环境中部署和维护机器学习 (ML)模型的实践。MLOps 从DevOps 原则中汲取灵感，将类似的概念应用于整个AI模型生命周期，从数据收集和模型训练到部署和监控。其主要目标是自动化和简化将 ML 模型从研究原型转化为稳健、可扩展的生产应用程序所涉及的过程。这确保了模型不仅在初始阶段表现良好，而且随着新数据的出现，随着时间的推移仍然有效。

MLOps 与相关概念

区分 MLOps 与相关但不同的概念非常重要：

• MLOps 与 AutoML: 虽然它们可以协同工作，但它们的重点不同。自动化机器学习 (AutoML) 侧重于自动化模型创建过程，例如数据预处理、特征工程和超参数调整。另一方面，MLOps 涵盖整个生命周期，包括模型构建之后的内容，例如模型部署、监控和治理。AutoML 可以被认为是更大的 MLOps 框架中的一个工具，可以加速开发阶段。
• MLOps 与 DevOps: MLOps 是 DevOps 的一种专业化，专为满足机器学习的独特需求而定制。虽然 DevOps 侧重于通过持续集成和持续部署 (CI/CD) 来自动化软件交付，但 MLOps 将这种模式扩展到包括数据和模型管道。它解决了传统软件开发中通常不会遇到的挑战，例如数据漂移、模型版本控制以及持续再训练的需求。

实际应用

MLOps实践对于管理生产环境中的复杂机器学习系统至关重要。

1. 推荐系统：Netflix 或 Spotify 等公司使用 MLOps 根据新的用户交互数据持续重新训练其推荐系统模型。MLOps 管道使他们能够对不同的模型版本进行 A/B 测试，监控参与度指标，并快速回滚表现不佳的模型，确保推荐保持新鲜和个性化。
2. 欺诈检测: 金融机构部署 MLOps 来管理欺诈检测模型。这包括监控交易数据以查找新的欺诈活动模式，使用新数据自动重新训练模型，确保低推理延迟以进行实时检测，以及维护用于法规遵从性的审计跟踪。Ultralytics YOLO 模型用于视觉检测系统，该系统可以馈送到欺诈检测中，还可以从 MLOps 中受益，以在 边缘设备上进行部署和监控。

工具和平台

各种工具支持 MLOps 生命周期的不同阶段，使团队能够构建高效且可扩展的工作流程。

• 实验跟踪与版本控制：MLflow、Weights & Biases和数据版本控制 (DVC)是用于跟踪实验以及对数据和模型进行版本控制的常用工具。Ultralytics 提供了与许多这些工具的本机集成，包括Weights & Biases。
• 工作流编排: 诸如 Kubeflow Pipelines 和 Apache Airflow 等工具可帮助自动化和管理复杂的机器学习工作流程。
• 模型服务: 对于大规模部署模型，KServe、BentoML和NVIDIA Triton Inference Server等平台被广泛使用。 Ultralytics模型可以导出为ONNX等格式，以便与这些服务器兼容。
• 监控：Grafana和Prometheus通常用于创建仪表板，以监控模型性能和系统健康状况。
• 端到端平台：Amazon SageMaker、Google Cloud AI Platform、Microsoft Azure Machine Learning 和 Ultralytics HUB 等综合平台提供集成环境，涵盖大部分（如果不是全部）MLOps 阶段，从数据管理到模型部署和监控。这些平台利用云计算为训练自定义模型提供可扩展的资源。