L'impatto del design più veloce ed edge-first di Ultralytics YOLO26

All'inizio di questa settimana, Ultralytics ha lanciato ufficialmente Ultralytics YOLO26, un modello YOLO più veloce, leggero e compatto che mira a ridefinire il funzionamento dei sistemi di computer vision sull'edge. YOLO26 supporta le stesse attività fondamentali di computer vision dei precedenti modelli YOLO, tra cui il rilevamento degli oggetti e la segmentazione delle istanze.

Fig. 1. Un esempio di utilizzo di Ultralytics YOLO26 per segmentare un oggetto.

La differenza fondamentale tra Ultralytics YOLO26 e i modelli precedenti è l'ambiente per cui è stato progettato. Anziché ottimizzare principalmente per le unità di elaborazione grafica (GPUs) del cloud o per prestazioni guidate dai benchmark, YOLO26 è stato progettato da zero per la distribuzione nel mondo reale su dispositivi edge e hardware embedded.

Man mano che la computer vision passa dalla ricerca alla produzione, la realtà dei vincoli prestazionali diventa sempre più evidente. Gli ambienti edge sono caratterizzati da budget di latenza ridotti, memoria limitata, vincoli energetici e termici stringenti e dalla necessità di un comportamento prevedibile su piattaforme diverse.

In questi contesti, le prestazioni complessive del sistema dipendono non solo dalla velocità grezza dell'inferenza, ma anche dall'efficienza con cui opera l'intera pipeline. L'overhead del post-processing, la pressione sulla memoria e i percorsi di esecuzione specifici della piattaforma sono spesso colli di bottiglia.

Ultralytics YOLO26 affronta queste sfide con un approccio più veloce e pensato prima di tutto per l'edge, che considera l'intera pipeline di inferenza anziché le singole metriche del modello. Concentrandosi sull'ottimizzazione per l'edge, semplificando la pipeline di inferenza e rimuovendo i passaggi di post-processing non necessari, YOLO26 offre miglioramenti della velocità che si traducono in una latenza inferiore e in un comportamento più affidabile in produzione.

In questo articolo vedremo come le scelte architetturali di Ultralytics YOLO26 si traducano in miglioramenti delle prestazioni nel mondo reale e perché essere più veloci sull'edge cambi radicalmente ciò che è possibile fare con le applicazioni di computer vision di nuova generazione.

La realtà della distribuzione sull'edge#

Eseguire modelli di computer vision sull'edge è molto diverso dall'eseguirli nel cloud. Negli ambienti cloud, i sistemi hanno generalmente accesso a GPU potenti, grandi quantità di memoria e hardware stabile. Sull'edge, gli stessi presupposti non valgono.

La maggior parte delle distribuzioni edge viene eseguita su architetture hardware diverse, non su GPU. I dispositivi utilizzano generalmente più processori specializzati per attività differenti, ottimizzati per l'efficienza e i bassi consumi anziché per la capacità di calcolo grezza delle GPU cloud.

La latenza è un altro vincolo importante. I sistemi edge spesso operano entro limiti stringenti di tempo reale, in cui anche piccoli ritardi possono influire sulla reattività o sulla sicurezza. In questi casi, la latenza end-to-end è più importante della velocità grezza dell'inferenza. Un modello può essere veloce sulla carta, ma non raggiungere comunque l'obiettivo una volta aggiunti il post-processing e lo spostamento dei dati.

Anche la memoria svolge un ruolo importante. Molti dispositivi edge hanno memoria limitata e cache condivise. Tensor intermedi di grandi dimensioni e un uso inefficiente della memoria possono rallentare i sistemi, anche quando il modello è efficiente.

I limiti energetici e termici aggiungono ulteriori vincoli. I dispositivi edge spesso funzionano senza raffreddamento attivo e rispettando budget energetici fissi. Le prestazioni devono essere efficienti e sostenibili, non solo elevate per brevi intervalli.

Inoltre, le distribuzioni edge richiedono coerenza. I modelli devono comportarsi allo stesso modo su dispositivi e runtime diversi. Il codice specifico della piattaforma o passaggi di post-processing complessi possono introdurre differenze sottili che rendono i sistemi più difficili da distribuire e mantenere.

Fig. 2. Uno sguardo ai vincoli della distribuzione sull'edge. Immagine dell'autore.

Questi vincoli definiscono il reale significato delle prestazioni sull'edge. In altre parole, le prestazioni sono definite dall'intera pipeline, non da una singola metrica.

Perché la computer vision sull'edge richiede un modello prestazionale diverso#

Quindi, in che modo i vincoli della distribuzione sull'edge sono collegati ai requisiti di un modello di computer vision progettato per l'edge? Il collegamento diventa chiaro quando i modelli passano dagli ambienti di ricerca ai sistemi del mondo reale.

Negli ambienti cloud, le prestazioni vengono spesso misurate usando benchmark come la velocità e l'accuratezza dell'inferenza. Sull'edge, queste metriche raccontano solo una parte della storia. I sistemi di computer vision vengono generalmente eseguiti su hardware eterogeneo, dove l'inferenza delle reti neurali viene demandata ad acceleratori specializzati, mentre altre parti della pipeline vengono eseguite su processori general purpose.

In questo contesto, la velocità del modello non è sufficiente. È fondamentale valutare le prestazioni dell'intero sistema una volta distribuito il modello. Un modello può sembrare veloce da solo, ma non raggiungere comunque l'obiettivo se il post-processing, lo spostamento dei dati o i passaggi specifici della piattaforma aggiungono overhead.

Per questo la computer vision sull'edge richiede un modello prestazionale incentrato sull'efficienza a livello di sistema, anziché su benchmark isolati. Ultralytics YOLO26 riflette questo cambiamento concentrandosi sull'ottimizzazione edge-first, su un'inferenza semplificata e su un'esecuzione end-to-end progettata per la distribuzione nel mondo reale.

Le basi della velocità: un design pensato prima di tutto per l'edge#

Sull'edge, le prestazioni sono definite da quanto bene un modello si adatta all'effettiva architettura hardware del dispositivo. Progettare prima di tutto per l'edge garantisce che i sistemi di computer vision funzionino in modo affidabile sulle piattaforme del mondo reale, indipendentemente dalla specifica combinazione di unità di elaborazione disponibili.

Un approccio edge-first privilegia un'esecuzione prevedibile ed efficiente su hardware eterogeneo, anziché adattare a posteriori modelli ottimizzati per le GPU cloud. In parole semplici, significa privilegiare le operazioni che si traducono bene sugli acceleratori per reti neurali, ridurre al minimo il lavoro non neurale esterno al modello e diminuire la complessità non necessaria che può rallentare l'esecuzione end-to-end.

Ultralytics YOLO26 è stato progettato tenendo presenti questi vincoli. La sua architettura si concentra su prestazioni costanti invece che sul throughput di picco in condizioni ideali. Semplificando i percorsi di esecuzione ed eliminando i calcoli non necessari, YOLO26 riduce l'overhead nell'intera pipeline di inferenza e sfrutta meglio l'accelerazione e la gerarchia di memoria disponibili sul dispositivo.

Questo approccio migliora anche l'affidabilità. L'ottimizzazione edge-first porta a tempi più prevedibili e a meno picchi di prestazioni, un aspetto fondamentale per i sistemi in tempo reale. Anziché affidarsi a hardware specializzato o a un post-processing pesante per raggiungere la velocità desiderata, Ultralytics YOLO26 enfatizza l'efficienza lungo tutta la pipeline di inferenza.

L'inferenza end-to-end e il costo del post-processing#

Potresti chiederti cosa significhi eliminare i passaggi di post-processing non necessari. Per capirlo, facciamo un passo indietro e vediamo come funzionano i sistemi tradizionali di rilevamento degli oggetti.

In molte pipeline di rilevamento degli oggetti, l'inferenza non termina quando il modello produce le sue predizioni. Il modello restituisce invece un gran numero di riquadri di delimitazione sovrapposti, che devono poi essere filtrati e perfezionati prima di poter essere utilizzati. Questa pulizia avviene attraverso passaggi di post-processing eseguiti al di fuori del modello.

Uno dei passaggi di post-processing più comuni è la soppressione non massima, o NMS. NMS confronta i riquadri di delimitazione sovrapposti e conserva solo i rilevamenti con la maggiore confidenza, rimuovendo i duplicati che si riferiscono allo stesso oggetto. Sebbene questo approccio sia efficace, introduce calcoli aggiuntivi dopo il completamento dell'inferenza.

Fig. 3. Comprendere NMS. Immagine dell'autore.

Sull'edge, questo lavoro aggiuntivo ha un costo. I passaggi di post-processing come NMS non sono adatti agli acceleratori specializzati utilizzati per l'inferenza delle reti neurali, ottimizzati per calcoli neurali densi anziché per operazioni ad alta intensità di controllo o di memoria.

Di conseguenza, NMS introduce ulteriore latenza e overhead di memoria, e il suo costo cresce all'aumentare del numero di rilevamenti. Anche quando il modello è veloce, NMS può comunque consumare una parte significativa del tempo di esecuzione complessivo.

Il post-processing aumenta anche la complessità del sistema. Poiché si trova al di fuori del modello, deve essere implementato separatamente per runtime e target hardware diversi. Questo porta spesso a percorsi di codice specifici della piattaforma, comportamenti incoerenti tra i dispositivi e pipeline di distribuzione più fragili.

Soprattutto, il post-processing contraddice l'idea di vere prestazioni end-to-end. Misurare la velocità di inferenza del modello non riflette il comportamento del sistema in produzione. Ciò che conta in definitiva è il tempo totale dall'input all'output finale, includendo ogni passaggio della pipeline.

In queste situazioni, il post-processing diventa un collo di bottiglia nascosto sull'edge. Aggiunge latenza, consuma risorse della CPU e complica la distribuzione, pur rimanendo esterno al modello.

Come Ultralytics YOLO26 rimuove NMS e perché questo lo rende più veloce#

YOLO26 rimuove NMS affrontando la causa principale dei rilevamenti duplicati invece di eliminarli dopo l'inferenza. Anziché produrre molte predizioni sovrapposte da filtrare, il modello viene addestrato per generare direttamente un insieme più piccolo di rilevamenti finali affidabili.

Questo è possibile modificando il modo in cui i rilevamenti vengono appresi durante l'addestramento. Ultralytics YOLO26 favorisce una relazione uno-a-uno più chiara tra oggetti e predizioni, riducendo la ridondanza alla sua origine. Di conseguenza, i rilevamenti duplicati vengono risolti direttamente nella rete anziché attraverso un post-processing esterno.

La rimozione di NMS ha un impatto immediato sulle prestazioni sull'edge. Poiché NMS non si adatta bene agli acceleratori per reti neurali, eliminarlo riduce lo spostamento dei dati in memoria ed evita costosi passaggi di elaborazione non neurale. Questo abbassa la latenza end-to-end e rende le prestazioni più prevedibili, soprattutto sui dispositivi edge, dove il post-processing può altrimenti consumare una parte significativa del tempo di esecuzione complessivo.

Semplifica anche la pipeline di inferenza. Con meno passaggi esterni al modello, si riducono lo spostamento dei dati e i passaggi di consegne tra i componenti. L'output del modello è già il risultato finale, rendendo l'esecuzione più prevedibile.

La rimozione di DFL per abilitare vere prestazioni end-to-end#

Un'altra innovazione di Ultralytics YOLO26 è la rimozione della perdita focale della distribuzione, o DFL, utilizzata nei precedenti modelli YOLO per la regressione dei riquadri di delimitazione. Anziché prevedere direttamente una singola coordinata, i modelli che usano DFL apprendono una distribuzione di valori possibili e ricavano quindi un riquadro di delimitazione finale da tale distribuzione. Questo approccio ha contribuito a migliorare l'accuratezza della localizzazione e ha rappresentato un importante passo avanti nelle generazioni precedenti.

Nel tempo, tuttavia, DFL ha introdotto anche alcuni compromessi. La previsione delle distribuzioni aumenta i calcoli e aggiunge complessità all'architettura del modello, rallentando l'inferenza sulle CPU e rendendo più difficile esportare i modelli tra diversi formati di distribuzione. DFL imponeva inoltre intervalli di regressione fissi, che potevano limitare la flessibilità nel rilevamento di oggetti molto grandi.

Ultralytics YOLO26 rimuove DFL nell'ambito del passaggio a un design più semplice ed end-to-end. La regressione dei riquadri di delimitazione è stata riprogettata per essere più diretta, riducendo i calcoli non necessari e mantenendo al contempo l'accuratezza. Questa modifica è in linea con l'approccio senza NMS di YOLO26.

Da dove deriva l'inferenza sulla CPU più veloce del 43%#

Nei benchmark basati sulla CPU, YOLO26 mostra un netto miglioramento delle prestazioni rispetto ai precedenti modelli YOLO. Rispetto a Ultralytics YOLO11, il modello nano di YOLO26 offre un'inferenza sulla CPU fino al 43% più veloce, una differenza che ha un impatto significativo nelle distribuzioni edge del mondo reale.

Fig. 4. Benchmark della velocità di YOLO26 sulla CPU.

Questo guadagno deriva dalla semplificazione dell'intera pipeline di inferenza, anziché dall'ottimizzazione di un singolo componente. L'esecuzione end-to-end elimina l'overhead del post-processing, un metodo più diretto di regressione dei riquadri di delimitazione riduce i calcoli e le scelte progettuali CPU-first migliorano l'efficienza di esecuzione sui processori general purpose.

Nel complesso, queste modifiche riducono la latenza, diminuiscono il carico sulla CPU e portano a prestazioni più veloci e coerenti sull'hardware edge del mondo reale.

L'impatto di Ultralytics YOLO26 sulla distribuzione e sulle esportazioni edge#

I miglioramenti delle prestazioni di Ultralytics YOLO26 vanno oltre una maggiore velocità di inferenza. Semplificando il modello e riducendo l'overhead di memoria, diventa più facile distribuirlo e più affidabile eseguirlo negli ambienti edge.

Il design end-to-end di Ultralytics YOLO26 semplifica anche l'esportazione. Con meno componenti ausiliari e senza passaggi di post-processing esterni, i modelli esportati sono completamente autonomi. Questo riduce le dipendenze specifiche della piattaforma e contribuisce a garantire un comportamento coerente tra runtime e target hardware diversi.

In pratica, ciò significa che Ultralytics YOLO26 può essere distribuito più facilmente su dispositivi edge come telecamere, robot e sistemi embedded, utilizzando diversi formati di esportazione. Ciò che esporti è ciò che esegui, con meno passaggi di integrazione e meno rischi di deriva durante la distribuzione.

Un'inferenza edge più veloce abilita la robotica e l'AI industriale per la computer vision#

Finora abbiamo visto come il design edge-first di Ultralytics YOLO26 migliori le prestazioni a livello di sistema. Il vero impatto, tuttavia, consiste nel rendere più semplice integrare la computer vision AI nelle applicazioni del mondo reale.

Per esempio, nella robotica e negli ambienti industriali, i sistemi di computer vision operano spesso entro rigidi vincoli di tempo reale. Le decisioni devono essere prese rapidamente e in modo coerente, utilizzando risorse di calcolo limitate e senza dipendere dalla connettività cloud. Con Ultralytics YOLO26, soddisfare questi requisiti diventa pratico.

Applicazioni come la navigazione dei robot e la manipolazione degli oggetti traggono vantaggio da una latenza inferiore e da un'inferenza più prevedibile, consentendo ai robot di rispondere senza problemi ai cambiamenti dell'ambiente. Analogamente, negli ambienti industriali, i modelli di computer vision possono essere eseguiti direttamente sulle linee di produzione per rilevare difetti, tracciare componenti e monitorare i processi senza introdurre ritardi o complessità aggiuntive.

Consentendo un'inferenza rapida e affidabile sull'hardware edge, Ultralytics YOLO26 contribuisce a rendere la computer vision AI una parte naturale dei sistemi robotici e industriali, anziché una soluzione difficile da distribuire e mantenere.

Punti chiave#

Ultralytics YOLO26 è stato realizzato per l'edge, dove vincoli del mondo reale come latenza, memoria e affidabilità definiscono ciò che è possibile fare. Progettando il modello attorno a un'esecuzione CPU-first, a un'inferenza end-to-end e a una distribuzione più semplice, YOLO26 rende pratica l'integrazione della computer vision AI nei sistemi reali. Questo approccio edge-first abilita un'ampia gamma di applicazioni, dalla robotica e dalla computer vision industriale all'AI embedded e on-device, dove prestazioni e prevedibilità sono fondamentali.

Unisciti alla nostra community in crescita ed esplora il nostro repository GitHub per risorse AI pratiche. Per sviluppare oggi con la computer vision AI, scopri le nostre opzioni di licenza. Scopri come l'AI nell'agricoltura sta trasformando il settore agricolo e come la computer vision AI nell'assistenza sanitaria sta plasmando il futuro visitando le nostre pagine dedicate alle soluzioni.