Machine Learning Operations (MLOps)

Le Operazioni di machine learning (MLOps) sono un insieme di pratiche, principi e tecnologie che semplificano il processo di portare i modelli di machine learning (ML) dallo sviluppo sperimentale alla distribuzione affidabile in produzione. Combinando la natura esplorativa della data science con la rigorosa disciplina del DevOps, le MLOps mirano a unificare il ciclo di rilascio delle applicazioni di Intelligenza artificiale (AI). Mentre lo sviluppo software tradizionale si concentra principalmente sul versionamento del codice, le MLOps introducono le complessità aggiuntive della gestione di grandi volumi di dati e dell'evoluzione del comportamento dei modelli. Questo approccio olistico garantisce che i sistemi di AI rimangano scalabili, accurati e soggetti a governance per tutto il loro ciclo di vita.

I pilastri delle MLOps#

Le implementazioni MLOps di successo si basano sul superamento del divario tra tre discipline distinte: ingegneria dei dati, machine learning e DevOps.

• Integrazione e distribuzione continue (CI/CD): proprio come il software standard utilizza le pipeline CI/CD per automatizzare i test e la distribuzione, le pipeline MLOps automatizzano l'addestramento e la validazione dei modelli. In questo modo, le modifiche al codice o ai dati attivano automaticamente i passaggi necessari per verificare le prestazioni del modello prima che gli aggiornamenti raggiungano la produzione.
• Versionamento dei dati e dei modelli: nella programmazione tradizionale si effettua il versionamento solo del codice sorgente. Nelle MLOps, i team devono utilizzare strumenti come DVC (Controllo delle versioni dei dati) per tenere traccia delle modifiche ai dati di addestramento insieme agli iperparametri del modello. Questo garantisce la riproducibilità, consentendo agli ingegneri di ricreare qualsiasi versione specifica del modello a partire dalla cronologia.
• Monitoraggio continuo: una volta distribuiti, i modelli possono degradarsi a causa del concept drift, ovvero quando le proprietà statistiche della variabile target cambiano nel tempo. Le MLOps prevedono la configurazione di sistemi di osservabilità per monitorare metriche come la latenza di inferenza e l'accuratezza, inviando automaticamente avvisi ai team quando è necessario un nuovo addestramento.

Applicazioni nel mondo reale#

Le MLOps sono la spina dorsale dell'AI aziendale moderna e consentono alle aziende di passare in modo affidabile da un singolo modello a migliaia di endpoint distribuiti.

1. Manutenzione predittiva nella produzione: le fabbriche utilizzano la computer vision per identificare i difetti sulle linee di assemblaggio. Una pipeline MLOps garantisce che, con l'introduzione di nuove linee di prodotti, i modelli di rilevamento degli oggetti vengano riaddestrati con nuove immagini, sottoposti a versionamento e distribuiti automaticamente sui dispositivi edge della fabbrica senza tempi di inattività. In questo modo, l'ispezione della qualità rimane coerente anche al variare delle condizioni di produzione.

2. Gestione intelligente dell'inventario nella vendita al dettaglio: i rivenditori installano telecamere per monitorare le scorte sugli scaffali. Poiché l'illuminazione dei negozi e le confezioni dei prodotti cambiano frequentemente, il model drift rappresenta un rischio costante. I sistemi MLOps monitorano i punteggi di confidenza; se la confidenza diminuisce, il sistema contrassegna le immagini per l'annotazione e avvia un ciclo di nuovo addestramento nel cloud, inviando ai negozi un modello aggiornato per mantenere la gestione automatizzata dell'inventario.

Implementare le MLOps con Ultralytics#

Un passaggio fondamentale in qualsiasi flusso di lavoro MLOps è il monitoraggio degli esperimenti. In questo modo, ogni esecuzione di addestramento viene registrata con la relativa configurazione, consentendo ai team di riprodurre i risultati o ripristinare versioni precedenti quando necessario.

L'esempio seguente mostra come addestrare un modello YOLO26—il più recente modello all'avanguardia di Ultralytics, consigliato per tutti i nuovi progetti—abilitando al contempo il monitoraggio del progetto. Questo crea in modo naturale gli artefatti necessari per una pipeline di produzione.

from ultralytics import YOLO

# Load the YOLO26 model (recommended for superior speed and accuracy)
model = YOLO("yolo26n.pt")

# Train the model while specifying project and name for organized logging
# This creates a structured directory of artifacts (weights, charts, args)
# which is essential for reproducibility in MLOps pipelines.
results = model.train(data="coco8.yaml", epochs=10, project="mlops_experiments", name="run_v1")

Organizzando le esecuzioni di addestramento in progetti specifici, i team possono integrare facilmente strumenti come MLflow o TensorBoard per visualizzare nel tempo le metriche delle prestazioni. Con la crescita delle organizzazioni, questi flussi di lavoro vengono spesso trasferiti sulla Ultralytics Platform, che offre un'interfaccia unificata per gestire i dataset, eseguire l'addestramento da remoto e distribuire i modelli in vari formati, come TensorRT, per ottimizzare la velocità di inferenza.

MLOps e concetti correlati#

Per implementare efficacemente queste pratiche, è importante distinguere le MLOps dai termini correlati dell'ecosistema.

• MLOps e DevOps: DevOps si concentra sulla distribuzione continua delle applicazioni software. Le MLOps estendono questi principi aggiungendo "Dati" e "Modello" come elementi di primo livello. Nel DevOps, una modifica al codice attiva una build; nelle MLOps, anche una variazione nella distribuzione dei dati o una riduzione della precisione può attivare una nuova esecuzione della pipeline.
• MLOps e model serving: il model serving si riferisce specificamente all'infrastruttura utilizzata per ospitare un modello ed elaborare le richieste di inferenza. Le MLOps sono il concetto più ampio che comprende il serving, ma includono anche le fasi di addestramento, governance e monitoraggio.
• MLOps e AutoML: il machine learning automatizzato (AutoML) si concentra sull'automazione del processo di creazione del modello, ad esempio sulla selezione degli algoritmi. Le MLOps gestiscono il ciclo di vita del modello dopo la sua creazione e rendono operativo il processo che esegue gli strumenti AutoML.