Machine Learning Operations (MLOps)

Machine Learning Operations (MLOps) è un insieme di pratiche, principi e tecnologie che ottimizza il processo per portare i modelli di machine learning (ML) dallo sviluppo sperimentale alla distribuzione affidabile in produzione. Combinando la natura esplorativa della data science con la disciplina rigorosa di DevOps, MLOps mira a unificare il ciclo di rilascio per le applicazioni di Intelligenza Artificiale (AI). Mentre lo sviluppo software tradizionale si concentra principalmente sul versionamento del codice, MLOps introduce le complessità aggiuntive legate alla gestione di dati su larga scala e al comportamento evolutivo dei modelli. Questo approccio olistico garantisce che i sistemi AI rimangano scalabili, accurati e governati durante l'intero ciclo di vita.

Link to this sectionI pilastri di MLOps#

Le implementazioni MLOps di successo si basano sul colmare il divario tra tre discipline distinte: data engineering, machine learning e DevOps.

• Continuous Integration and Delivery (CI/CD): Proprio come il software standard utilizza pipeline CI/CD per automatizzare test e distribuzione, le pipeline MLOps automatizzano l'addestramento e la validazione dei modelli. Ciò garantisce che le modifiche al codice o ai dati attivino automaticamente i passaggi per verificare le prestazioni del modello prima che gli aggiornamenti raggiungano la produzione.
• Versionamento di dati e modelli: Nella programmazione tradizionale, versioni solo il codice sorgente. In MLOps, i team devono utilizzare strumenti come DVC (Data Version Control) per tracciare le modifiche nei dati di addestramento insieme agli iperparametri del modello. Ciò garantisce la riproducibilità, consentendo agli ingegneri di ricreare qualsiasi versione specifica del modello dalla cronologia.
• Monitoraggio continuo: Una volta distribuiti, i modelli possono degradarsi a causa del concept drift, dove le proprietà statistiche della variabile target cambiano nel tempo. MLOps prevede la configurazione di sistemi di osservabilità per monitorare metriche come la latenza di inferenza e l'accuratezza, avvisando automaticamente i team quando è necessario un riaddestramento.

Link to this sectionApplicazioni nel mondo reale#

MLOps è la spina dorsale dell'AI aziendale moderna, consentendo alle aziende di passare in modo affidabile da un singolo modello a migliaia di endpoint distribuiti.

1. Manutenzione predittiva nella produzione: Le fabbriche utilizzano la computer vision per identificare i difetti sulle linee di assemblaggio. Una pipeline MLOps assicura che, con l'introduzione di nuove linee di prodotti, i modelli di object detection vengano riaddestrati con nuove immagini, versionati e distribuiti automaticamente sui dispositivi edge della fabbrica senza tempi di inattività. Ciò garantisce che l'ispezione della qualità rimanga coerente anche al variare delle condizioni di produzione.

2. Inventario retail intelligente: I rivenditori distribuiscono telecamere per monitorare le scorte sugli scaffali. Poiché l'illuminazione del negozio e il packaging dei prodotti cambiano frequentemente, il model drift è un rischio costante. I sistemi MLOps monitorano i punteggi di confidenza; se la confidenza scende, il sistema contrassegna le immagini per l'annotazione e avvia un ciclo di riaddestramento sul cloud, inviando un modello aggiornato ai negozi per mantenere la gestione automatizzata dell'inventario.

Link to this sectionImplementare MLOps con Ultralytics#

Un passaggio fondamentale in qualsiasi flusso di lavoro MLOps è il tracciamento degli esperimenti. Ciò garantisce che ogni sessione di addestramento venga registrata con la sua configurazione specifica, consentendo ai team di riprodurre i risultati o ripristinare le versioni precedenti, se necessario.

L'esempio seguente mostra come addestrare un modello YOLO26 — l'ultimo modello all'avanguardia di Ultralytics raccomandato per tutti i nuovi progetti — abilitando al contempo il tracciamento del progetto. Ciò crea naturalmente gli artefatti necessari per una pipeline di produzione.

from ultralytics import YOLO

# Load the YOLO26 model (recommended for superior speed and accuracy)
model = YOLO("yolo26n.pt")

# Train the model while specifying project and name for organized logging
# This creates a structured directory of artifacts (weights, charts, args)
# which is essential for reproducibility in MLOps pipelines.
results = model.train(data="coco8.yaml", epochs=10, project="mlops_experiments", name="run_v1")

Organizzando le sessioni di addestramento in progetti specifici, i team possono integrare facilmente strumenti come MLflow o TensorBoard per visualizzare le metriche delle prestazioni nel tempo. Man mano che le organizzazioni crescono, spesso migrano questi flussi di lavoro verso la Ultralytics Platform, che fornisce un'interfaccia unificata per gestire i dataset, addestrare da remoto e distribuire modelli in vari formati come TensorRT per una velocità di inferenza ottimizzata.

Link to this sectionMLOps vs. concetti correlati#

Per implementare queste pratiche in modo efficace, è importante distinguere MLOps dai termini correlati nell'ecosistema.

• MLOps vs. DevOps: DevOps si concentra sulla distribuzione continua di applicazioni software. MLOps estende questi principi aggiungendo "Dati" e "Modello" come elementi di primo piano. In DevOps, una modifica al codice attiva una build; in MLOps, anche una variazione nelle distribuzioni dei dati o un calo di precisione può attivare l'esecuzione di una nuova pipeline.
• MLOps vs. Model Serving: Il model serving si riferisce specificamente all'infrastruttura utilizzata per ospitare un modello ed elaborare le richieste di inferenza. MLOps è l'ombrello più ampio che comprende il serving, ma include anche le fasi di addestramento, governance e monitoraggio.
• MLOps vs. AutoML: L'Automated Machine Learning (AutoML) si concentra sull'automazione del processo di creazione del modello (ad esempio, la selezione degli algoritmi). MLOps gestisce il ciclo di vita di quel modello dopo che è stato creato e rende operativa la pipeline che esegue gli strumenti AutoML.