Operazioni di apprendimento automatico (MLOps)

Machine Learning Operations (MLOps) è un insieme di pratiche che mira a distribuire e mantenere i modelli di Machine Learning (ML) in produzione in modo affidabile ed efficiente. Ispirandosi ai principi di DevOps, MLOps applica concetti simili all'intero ciclo di vita dei modelli di intelligenza artificiale, dalla raccolta dei dati alla formazione dei modelli, fino alla distribuzione e al monitoraggio. L'obiettivo principale è automatizzare e semplificare i processi che portano un modello di ML da un prototipo di ricerca a un'applicazione di produzione robusta e scalabile. In questo modo si garantisce che i modelli non solo funzionino bene all'inizio, ma rimangano efficaci nel tempo, man mano che si rendono disponibili nuovi dati.

MLOps e concetti correlati

È importante distinguere gli MLOp da concetti correlati ma distinti:

• MLOps vs. AutoML: anche se possono lavorare insieme, il loro obiettivo è diverso. L 'Automated Machine Learning (AutoML) si concentra sull'automazione del processo di creazione del modello, come la preelaborazione dei dati, l'ingegnerizzazione delle caratteristiche e la regolazione degli iperparametri. MLOps, invece, copre l'intero ciclo di vita, compreso ciò che avviene dopo la creazione del modello, come la distribuzione del modello, il monitoraggio e la governance. AutoML può essere considerato uno strumento all'interno di un quadro più ampio di MLOps che accelera la fase di sviluppo.
• MLOps vs DevOps: MLOps è una specializzazione di DevOps adattata alle esigenze uniche del machine learning. Mentre DevOps si concentra sull'automazione della consegna del software attraverso la Continuous Integration e la Continuous Deployment (CI/CD), MLOps estende questo paradigma per includere le pipeline di dati e modelli. Questo approccio affronta sfide non tipiche dello sviluppo software tradizionale, come la deriva dei dati, il versioning dei modelli e la necessità di una riqualificazione continua.

Applicazioni del mondo reale

Le pratiche MLOps sono essenziali per gestire sistemi ML complessi in ambienti di produzione.

1. Sistemi di raccomandazione: Aziende come Netflix o Spotify utilizzano MLOps per riqualificare continuamente i modelli dei loro sistemi di raccomandazione in base ai nuovi dati di interazione con gli utenti. Le pipeline MLOps consentono loro di effettuare test A/B su diverse versioni del modello, di monitorare le metriche di coinvolgimento e di ripristinare rapidamente i modelli meno performanti, garantendo raccomandazioni sempre fresche e personalizzate.
2. Rilevazione delle frodi: Le istituzioni finanziarie impiegano gli MLOP per gestire i modelli di rilevamento delle frodi. Ciò comporta il monitoraggio dei dati delle transazioni per individuare nuovi modelli di attività fraudolente, la riqualificazione automatica dei modelli con nuovi dati, la garanzia di una bassa latenza di inferenza per il rilevamento in tempo reale e il mantenimento di audit trail per la conformità alle normative. Anche i modelli YOLO di Ultralytics utilizzati nei sistemi di ispezione visiva, che possono essere utilizzati per il rilevamento delle frodi, beneficiano di MLOps per l'implementazione e il monitoraggio sui dispositivi edge.

Strumenti e piattaforme

Una varietà di strumenti supporta diverse fasi del ciclo di vita MLOps, consentendo ai team di creare flussi di lavoro efficienti e scalabili.

• Tracciamento degli esperimenti e versionamento: MLflow, Weights & Biases e Data Version Control (DVC) sono strumenti molto diffusi per il tracciamento degli esperimenti e il versionamento di dati e modelli. Ultralytics offre un'integrazione nativa con molti di questi strumenti, tra cui Weights & Biases.
• Orchestrazione dei flussi di lavoro: Strumenti come Kubeflow Pipelines e Apache Airflow aiutano ad automatizzare e gestire flussi di lavoro ML complessi.
• Model Serving: Per la distribuzione dei modelli su scala, sono ampiamente utilizzate piattaforme come KServe, BentoML e NVIDIA Triton Inference Server. I modelli Ultralytics possono essere esportati in formati come ONNX per la compatibilità con questi server.
• Monitoraggio: Grafana e Prometheus sono spesso utilizzati per creare dashboard per il monitoraggio delle prestazioni del modello e della salute del sistema.
• Piattaforme end-to-end: Piattaforme complete come Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning e Ultralytics HUB forniscono ambienti integrati che coprono la maggior parte, se non tutte, le fasi di MLOps, dalla gestione dei dati alla distribuzione e al monitoraggio dei modelli. Queste piattaforme sfruttano il cloud computing per fornire risorse scalabili per la formazione di modelli personalizzati.