Model Ensemble

Un ensemble di modelli è un approccio strategico al machine learning in cui le predizioni di più modelli individuali vengono combinate per produrre un output finale spesso più accurato e robusto di quello che qualsiasi singolo modello potrebbe ottenere da solo. Proprio come un comitato di esperti che discute per raggiungere una decisione migliore di quella di un singolo individuo, un ensemble di modelli sfrutta i punti di forza di architetture diverse per ridurre gli errori. Questa tecnica è ampiamente utilizzata per migliorare le prestazioni in attività complesse, ridurre il rischio di overfitting e gestire l'inevitabile [compromesso bias-varianza](https://ultralytics-translation-1.invalid presente nella modellazione statistica.

Il funzionamento degli ensemble#

Il principio fondamentale alla base di un ensemble di modelli è la "diversità". Addestrando più modelli—spesso chiamati "modelli di base" o "modelli deboli"—su diversi sottoinsiemi dei dati di addestramento o utilizzando algoritmi diversi, l'ensemble garantisce che gli errori commessi da un modello vengano probabilmente corretti dagli altri. Nel contesto del deep learning, ciò spesso comporta l'esecuzione in parallelo di più reti neurali durante l'inferenza.

I metodi più comuni per combinare queste predizioni includono:

• Votazione: utilizzata nella classificazione delle immagini, dove la classe selezionata dalla maggioranza dei modelli diventa la predizione finale.
• Media: spesso utilizzata nelle attività di regressione, in cui gli output numerici vengono mediati per attenuare il rumore.
• Fusione pesata: nella rilevazione degli oggetti, tecniche come Weighted Box Fusion (WBF) combinano i riquadri di delimitazione provenienti da rilevatori diversi in base ai punteggi di confidenza.

Applicazioni nel mondo reale#

Gli ensemble di modelli sono essenziali negli ambienti ad alto rischio, dove massimizzare l'accuratezza è fondamentale e le risorse computazionali consentono di eseguire più modelli.

1. Diagnostica medica: nell'analisi delle immagini mediche, una diagnosi mancata può avere conseguenze gravi. I radiologi utilizzano spesso ensemble che combinano una rete neurale convoluzionale (CNN) standard con un Transformer della visione (ViT). La CNN eccelle nell'analisi delle texture locali, mentre il ViT coglie il contesto globale, consentendo al sistema di rilevare i tumori con una sensibilità superiore rispetto a quella di ciascuna architettura singolarmente.

2. Guida autonoma: i sistemi di percezione dei veicoli autonomi devono essere a prova di guasto. Gli ingegneri implementano spesso un ensemble di modelli di rilevamento, ad esempio fondendo la velocità in tempo reale di YOLO26 con l'accuratezza basata sui Transformer di RT-DETR. In questo modo, i pedoni o gli ostacoli vengono rilevati anche se un modello ha difficoltà in specifiche condizioni di illuminazione, come bagliori o ombre.

Implementazione di ensemble con Python#

Sebbene sia possibile creare strategie di ensemble complesse utilizzando librerie come Scikit-learn, puoi creare un ensemble di base per l'inferenza nella computer vision semplicemente caricando più modelli ed elaborando lo stesso input. L'esempio seguente mostra come caricare due modelli Ultralytics YOLO distinti per generare predizioni sulla stessa immagine.

from ultralytics import YOLO

# Load two different model variants to create a diverse ensemble
model_a = YOLO("yolo26n.pt")  # Nano model (Speed focused)
model_b = YOLO("yolo26s.pt")  # Small model (Higher accuracy)

# Perform inference on an image with both models
# In production, results are typically merged programmatically
results_a = model_a("https://ultralytics.com/images/bus.jpg")
results_b = model_b("https://ultralytics.com/images/bus.jpg")

print(f"Model A detected {len(results_a[0].boxes)} objects.")
print(f"Model B detected {len(results_b[0].boxes)} objects.")

Ensemble di modelli vs. mixture of experts#

È utile distinguere un ensemble di modelli standard da una miscela di esperti (MoE), un termine spesso presente nella ricerca moderna sui modelli linguistici di grandi dimensioni (LLM).

• Ensemble di modelli: in genere interroga ogni modello della raccolta per ogni input e aggrega i risultati. Ciò massimizza metriche come la precisione media (mAP), ma aumenta significativamente la latenza di inferenza e il costo computazionale. È un approccio alla qualità basato sulla forza bruta.
• Miscela di esperti: utilizza una "rete di instradamento" per indirizzare i dati solo verso alcuni specifici sottomodelli "esperti", più adatti all'input corrente. Ciò consente una scalabilità enorme nei modelli fondazionali senza il costo computazionale di eseguire ogni parametro per ogni token.

Vantaggi e considerazioni#

Il principale vantaggio dell'utilizzo di un ensemble di modelli è l'aumento delle prestazioni. Gli ensemble dominano spesso le classifiche nelle competizioni di data science, come le competizioni Kaggle, perché possono modellare pattern complessi che i singoli modelli non riescono a cogliere. Tuttavia, questo comporta un costo: la distribuzione degli ensemble richiede più memoria e potenza di calcolo.

Per i team che desiderano gestire in modo efficiente queste esigenze di risorse, la Ultralytics Platform offre strumenti per addestrare, monitorare e confrontare le prestazioni di diverse architetture di modelli. Confrontando facilmente le metriche delle prestazioni, gli sviluppatori possono decidere se il guadagno in accuratezza derivante da un ensemble giustifica l'infrastruttura aggiuntiva necessaria per la distribuzione in scenari di edge AI.