Machine Learning Operations (MLOps)

Il Machine Learning Operations (MLOps) è un insieme di pratiche che mirano a implementare e mantenere i modelli di Machine Learning (ML) in produzione in modo affidabile ed efficiente. Traendo ispirazione dai principi DevOps, MLOps applica concetti simili all'intero ciclo di vita del modello di AI, dalla raccolta dei dati e dall'addestramento del modello all'implementazione e al monitoraggio. L'obiettivo principale è automatizzare e semplificare i processi coinvolti nel portare un modello di ML da un prototipo di ricerca a un'applicazione di produzione robusta e scalabile. Ciò garantisce che i modelli non solo funzionino bene inizialmente, ma rimangano efficaci nel tempo man mano che diventano disponibili nuovi dati.

MLOps Vs. Concetti correlati

È importante distinguere MLOps da concetti correlati ma distinti:

• MLOps vs. AutoML: Sebbene possano lavorare insieme, il loro focus è diverso. L'Automated Machine Learning (AutoML) si concentra sull'automazione del processo di creazione del modello, come la preelaborazione dei dati, l'ingegneria delle feature e l'ottimizzazione degli iperparametri. MLOps, d'altra parte, copre l'intero ciclo di vita, incluso ciò che viene dopo la creazione del modello, come il deployment del modello, il monitoraggio e la governance. AutoML può essere considerato uno strumento all'interno di un framework MLOps più ampio che accelera la fase di sviluppo.
• MLOps vs. DevOps: MLOps è una specializzazione di DevOps adattata alle esigenze specifiche del machine learning. Mentre DevOps si concentra sull'automazione della distribuzione del software attraverso l'Integrazione Continua e la Distribuzione Continua (CI/CD), MLOps estende questo paradigma per includere le pipeline di dati e modelli. Affronta sfide che non si trovano tipicamente nello sviluppo software tradizionale, come la data drift, il versioning dei modelli e la necessità di un retraining continuo.

Applicazioni nel mondo reale

Le pratiche MLOps sono essenziali per la gestione di sistemi ML complessi in ambienti di produzione.

1. Sistemi di raccomandazione: Aziende come Netflix o Spotify utilizzano MLOps per riaddestrare continuamente i propri modelli di sistema di raccomandazione in base ai nuovi dati di interazione degli utenti. Le pipeline MLOps consentono loro di eseguire test A/B su diverse versioni del modello, monitorare le metriche di coinvolgimento e ripristinare rapidamente i modelli con prestazioni insufficienti, garantendo che i consigli rimangano aggiornati e personalizzati.
2. Rilevamento frodi: Gli istituti finanziari implementano MLOps per gestire i modelli di rilevamento frodi. Ciò implica il monitoraggio dei dati delle transazioni per nuovi schemi di attività fraudolente, il retraining automatico dei modelli con nuovi dati, la garanzia di una bassa latenza di inferenza per il rilevamento in tempo reale e la conservazione di audit trail per la conformità normativa. I modelli Ultralytics YOLO utilizzati nei sistemi di ispezione visiva, che possono alimentare il rilevamento frodi, beneficiano anche di MLOps per la distribuzione e il monitoraggio su dispositivi edge.

Strumenti e Piattaforme

Una varietà di strumenti supporta diverse fasi del ciclo di vita di MLOps, consentendo ai team di creare flussi di lavoro efficienti e scalabili.

• Monitoraggio degli esperimenti e controllo delle versioni: MLflow, Weights & Biases e Data Version Control (DVC) sono popolari per il monitoraggio degli esperimenti e il controllo delle versioni di dati e modelli. Ultralytics offre un'integrazione nativa con molti di questi strumenti, tra cui Weights & Biases.
• Orchestrazione del workflow: Strumenti come Kubeflow Pipelines e Apache Airflow aiutano ad automatizzare e gestire workflow di ML complessi.
• Distribuzione del modello (Model Serving): Per la distribuzione di modelli su larga scala, piattaforme come KServe, BentoML e NVIDIA Triton Inference Server sono ampiamente utilizzate. I modelli Ultralytics possono essere esportati in formati come ONNX per la compatibilità con questi server.
• Monitoraggio: Grafana e Prometheus sono spesso utilizzati per creare dashboard per il monitoraggio delle prestazioni del modello e dello stato del sistema.
• Piattaforme end-to-end: Piattaforme complete come Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning e Ultralytics HUB forniscono ambienti integrati che coprono la maggior parte, se non tutte, le fasi di MLOps, dalla gestione dei dati al deployment e monitoraggio del modello. Queste piattaforme sfruttano il cloud computing per fornire risorse scalabili per l'addestramento di modelli personalizzati.