Modello Ensemble

Un ensemble di modelli è una tecnica di apprendimento automatico (ML) che combina le previsioni di due o più modelli individuali per produrre una singola previsione finale, spesso superiore. Il principio fondamentale si basa sull'idea della "saggezza della folla": aggregando le "opinioni" di diversi modelli, l'ensemble può compensare gli errori individuali o le distorsioni di ogni singolo modello, portando a una maggiore precisione, a una maggiore robustezza e a un rischio ridotto di overfitting. Questo approccio è una pietra miliare del ML ad alte prestazioni e viene spesso utilizzato per vincere le competizioni di scienza dei dati.

Come funzionano i gruppi di modelli

L'efficacia di un insieme di modelli dipende dalla diversità dei modelli che lo compongono. Se tutti i modelli commettono gli stessi errori, la loro combinazione non offre alcun beneficio. Pertanto, la diversità viene incoraggiata addestrando i modelli su sottoinsiemi diversi di dati di addestramento, utilizzando algoritmi diversi o inizializzando i modelli con parametri diversi.

Le tecniche più comuni per creare e combinare gli ensemble includono:

• Bagging (aggregazione Bootstrap): Comporta l'addestramento di più istanze dello stesso modello su diversi sottoinsiemi casuali dei dati di addestramento. La previsione finale è in genere una media o un voto di maggioranza di tutte le previsioni del modello. Random Forest è un classico esempio di ensemble basato sul bagging.
• Boosting: I modelli vengono addestrati in sequenza e ogni nuovo modello si concentra sulla correzione degli errori commessi dai suoi predecessori. In questo modo si ottiene un modello composito potente e altamente accurato. Gli algoritmi di boosting più diffusi includono AdaBoost e Gradient Boosting, con implementazioni come XGBoost e LightGBM.
• Accatastamento: Questo metodo prevede l'addestramento di più modelli diversi (ad esempio, una rete neurale, una macchina a vettori di supporto e un albero decisionale) e l'utilizzo di un altro modello, chiamato meta-apprenditore, per combinare le loro previsioni e produrre l'output finale.

Concetti correlati

È utile distinguere un insieme di modelli da termini correlati:

• Metodi Ensemble: Questa è la categoria teorica più ampia di tecniche (come il bagging e il boosting) utilizzate nell'apprendimento automatico. Un "ensemble di modelli" è l'artefatto concreto - la collezione specifica di modelli addestrati - creato applicando un metodo di ensemble.
• Miscela di esperti (MoE): A differenza di un tipico ensemble, che combina i risultati di tutti i modelli, un MoE utilizza una rete di selezione per selezionare dinamicamente il modello "esperto" più adatto per un dato input. Un MoE sceglie un esperto, mentre un ensemble li consulta tutti.

Applicazioni del mondo reale

Gli ensemble di modelli sono ampiamente utilizzati in vari ambiti per ottenere prestazioni all'avanguardia.

1. Rilevamento di oggetti nella visione artificiale: Nei sistemi critici per la sicurezza, come i veicoli autonomi, o per compiti di alto valore, come la sorveglianza della sicurezza, gli ensemble possono migliorare l'affidabilità. Ad esempio, un ensemble può combinare diversi modelli di rilevamento degli oggetti, come diverse versioni di Ultralytics YOLO, come YOLOv8 e YOLOv10, o modelli addestrati con diverse strategie di incremento dei dati. La Guida all'assemblaggio dei modelli YOLOv5 dimostra come questo possa migliorare l'accuratezza del rilevamento. Anche tecniche come la Test-Time Augmentation (TTA) possono essere considerate una forma di ensembling, in quanto calcolano la media delle previsioni su più versioni aumentate di un'immagine.
2. Diagnosi medica: Gli ensemble sono fondamentali nell'analisi delle immagini mediche per compiti come la diagnosi di malattie da radiografie, risonanze magnetiche o vetrini patologici. Una CNN potrebbe eccellere nel rilevare determinate anomalie, mentre un'altra è più brava in altre. Unendo le loro previsioni, uno strumento diagnostico può ottenere una maggiore precisione e affidabilità, che è fondamentale per applicazioni come il rilevamento dei tumori.

Pur essendo potenti, gli ensemble aumentano la complessità e le esigenze computazionali sia per l'addestramento che per l'implementazione dei modelli. La gestione di più modelli richiede più risorse, un'attenta progettazione e solide pratiche MLOps. Tuttavia, i significativi guadagni di prestazioni spesso giustificano questi costi nelle applicazioni critiche. Piattaforme come Ultralytics HUB possono semplificare la gestione di più modelli costruiti con framework come PyTorch o TensorFlow.