Opérations d'apprentissage automatique (MLOps)

Les opérations d'apprentissage automatique (MLOps) sont un ensemble de pratiques visant à déployer et à maintenir des modèles d'apprentissage automatique (AA) en production de manière fiable et efficace. S'inspirant des principes DevOps, MLOps applique des concepts similaires à l'ensemble du cycle de vie des modèles d'IA, de la collecte de données et de l'entraînement des modèles au déploiement et à la surveillance. L'objectif principal est d'automatiser et de rationaliser les processus impliqués dans le passage d'un modèle d'AA d'un prototype de recherche à une application de production robuste et évolutive. Cela garantit que les modèles non seulement fonctionnent bien initialement, mais restent également efficaces au fil du temps à mesure que de nouvelles données deviennent disponibles.

MLOps vs. Concepts Connexes

Il est important de distinguer le MLOps des concepts connexes mais distincts :

• MLOps vs. AutoML : Bien qu'ils puissent fonctionner ensemble, leur objectif est différent. L'apprentissage automatique automatisé (AutoML) se concentre sur l'automatisation du processus de création de modèles, tel que le prétraitement des données, l'ingénierie des caractéristiques et le réglage des hyperparamètres. MLOps, d'autre part, couvre l'ensemble du cycle de vie, y compris ce qui vient après la construction du modèle, comme le déploiement du modèle, la surveillance et la gouvernance. AutoML peut être considéré comme un outil au sein d'un framework MLOps plus large qui accélère la phase de développement.
• MLOps vs. DevOps : MLOps est une spécialisation de DevOps adaptée aux besoins uniques de l'apprentissage automatique. Alors que DevOps se concentre sur l'automatisation de la livraison de logiciels par le biais de l'intégration continue et du déploiement continu (CI/CD), MLOps étend ce paradigme pour inclure les pipelines de données et de modèles. Il aborde des défis que l'on ne rencontre généralement pas dans le développement de logiciels traditionnels, tels que la dérive des données, le versionnage des modèles et la nécessité d'un réentraînement continu.

Applications concrètes

Les pratiques MLOps sont essentielles pour gérer des systèmes ML complexes dans des environnements de production.

1. Systèmes de recommandation : Des entreprises comme Netflix ou Spotify utilisent MLOps pour réentraîner continuellement leurs modèles de système de recommandation en fonction des nouvelles données d'interaction des utilisateurs. Les pipelines MLOps leur permettent de tester A/B différentes versions de modèles, de surveiller les métriques d'engagement et de revenir rapidement en arrière sur les modèles sous-performants, garantissant ainsi que les recommandations restent fraîches et personnalisées.
2. Détection de fraude : Les institutions financières déploient MLOps pour gérer les modèles de détection de fraude. Cela implique de surveiller les données de transaction pour détecter de nouveaux schémas d'activité frauduleuse, de réentraîner automatiquement les modèles avec de nouvelles données, de garantir une faible latence d'inférence pour la détection en temps réel et de maintenir des pistes d'audit pour la conformité réglementaire. Les modèles Ultralytics YOLO utilisés dans les systèmes d'inspection visuelle, qui peuvent alimenter la détection de fraude, bénéficient également de MLOps pour le déploiement et la surveillance sur les appareils périphériques.

Outils et plateformes

Une variété d'outils prennent en charge différentes étapes du cycle de vie MLOps, permettant aux équipes de construire des flux de travail efficaces et évolutifs.

• Suivi des expériences et gestion des versions : MLflow, Weights & Biases et Data Version Control (DVC) sont des outils populaires pour le suivi des expériences et la gestion des versions des données et des modèles. Ultralytics offre une intégration native avec bon nombre de ces outils, y compris Weights & Biases.
• Orchestration de flux de travail: Des outils comme Kubeflow Pipelines et Apache Airflow aident à automatiser et à gérer les flux de travail ML complexes.
• Service de modèles : Pour le déploiement de modèles à grande échelle, des plateformes telles que KServe, BentoML et NVIDIA Triton Inference Server sont largement utilisées. Les modèles Ultralytics peuvent être exportés vers des formats tels que ONNX pour assurer la compatibilité avec ces serveurs.
• Surveillance : Grafana et Prometheus sont souvent utilisés pour créer des tableaux de bord pour surveiller les performances du modèle et la santé du système.
• Plateformes de bout en bout : Les plateformes complètes comme Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning et Ultralytics HUB fournissent des environnements intégrés qui couvrent la plupart, sinon toutes, les étapes de MLOps, de la gestion des données au déploiement et à la surveillance des modèles. Ces plateformes tirent parti du cloud computing pour fournir des ressources évolutives pour l'entraînement de modèles personnalisés.