Operatives maschinelles Lernen (MLOps)

MLOps im Vergleich zu verwandten Konzepten

Es ist wichtig, MLOps von verwandten, aber unterschiedlichen Konzepten zu unterscheiden:

• MLOps vs. AutoML: Sie können zwar zusammenarbeiten, haben aber einen unterschiedlichen Schwerpunkt. Automatisiertes maschinelles Lernen (AutoML) konzentriert sich auf die Automatisierung des Modellerstellungsprozesses, z. B. Datenvorverarbeitung, Feature-Engineering und Abstimmung der Hyperparameter. MLOps hingegen deckt den gesamten Lebenszyklus ab, einschließlich dessen, was nach der Erstellung des Modells kommt, wie Modellbereitstellung, Überwachung und Governance. AutoML kann als ein Tool innerhalb eines größeren MLOps-Frameworks betrachtet werden, das die Entwicklungsphase beschleunigt.
• MLOps vs. DevOps: MLOps ist eine Spezialisierung von DevOps, die auf die besonderen Anforderungen des maschinellen Lernens zugeschnitten ist. Während sich DevOps auf die Automatisierung der Softwarebereitstellung durch Continuous Integration und Continuous Deployment (CI/CD) konzentriert, erweitert MLOps dieses Paradigma um die Daten- und Modellpipelines. Es befasst sich mit Herausforderungen, die in der traditionellen Softwareentwicklung nicht vorkommen, wie z. B. Datendrift, Modellversionierung und die Notwendigkeit einer kontinuierlichen Nachschulung.

Anwendungen in der realen Welt

MLOps-Verfahren sind für die Verwaltung komplexer ML-Systeme in Produktionsumgebungen unerlässlich.

1. Empfehlungssysteme: Unternehmen wie Netflix oder Spotify nutzen MLOps, um die Modelle ihrer Empfehlungssysteme auf der Grundlage neuer Nutzerinteraktionsdaten kontinuierlich neu zu trainieren. MLOps-Pipelines ermöglichen ihnen A/B-Tests verschiedener Modellversionen, die Überwachung von Interaktionsmetriken und das schnelle Zurücksetzen unzureichender Modelle, um sicherzustellen, dass die Empfehlungen aktuell und personalisiert bleiben.
2. Betrugsaufdeckung: Finanzinstitute setzen MLOps zur Verwaltung von Betrugserkennungsmodellen ein. Dazu gehört die Überwachung von Transaktionsdaten auf neue Muster betrügerischer Aktivitäten, die automatische Umschulung von Modellen mit neuen Daten, die Gewährleistung einer geringen Inferenzlatenz für die Echtzeiterkennung und die Pflege von Prüfprotokollen zur Einhaltung gesetzlicher Vorschriften. Die YOLO-Modelle von Ultralytics, die in visuellen Inspektionssystemen verwendet werden und in die Betrugserkennung einfließen können, profitieren ebenfalls von MLOps für die Bereitstellung und Überwachung auf Edge-Geräten.

Werkzeuge und Plattformen

Eine Vielzahl von Tools unterstützt die verschiedenen Phasen des MLOps-Lebenszyklus und ermöglicht den Teams den Aufbau effizienter und skalierbarer Arbeitsabläufe.

• Verfolgung und Versionierung von Experimenten: MLflow, Weights & Biases und Data Version Control (DVC) sind für die Verfolgung von Experimenten und die Versionierung von Daten und Modellen sehr beliebt. Ultralytics bietet eine native Integration mit vielen dieser Tools, einschließlich Weights & Biases.
• Workflow-Orchestrierung: Tools wie Kubeflow Pipelines und Apache Airflow helfen bei der Automatisierung und Verwaltung komplexer ML-Workflows.
• Model Serving: Für die Bereitstellung von Modellen in großem Umfang werden häufig Plattformen wie KServe, BentoML und NVIDIA Triton Inference Server verwendet. Ultralytics-Modelle können in Formate wie ONNX exportiert werden, um mit diesen Servern kompatibel zu sein.
• Überwachung: Grafana und Prometheus werden häufig verwendet, um Dashboards zur Überwachung der Modellleistung und des Systemzustands zu erstellen.
• End-to-End-Plattformen: Umfassende Plattformen wie Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning und Ultralytics HUB bieten integrierte Umgebungen, die die meisten, wenn nicht alle MLOps-Phasen abdecken, von der Datenverwaltung bis zur Modellbereitstellung und -überwachung. Diese Plattformen nutzen Cloud Computing, um skalierbare Ressourcen für das Training benutzerdefinierter Modelle bereitzustellen.