L'impatto del design più veloce e incentrato sull'edge di Ultralytics YOLO26

All'inizio di questa settimana, Ultralytics ha lanciato ufficialmente Ultralytics YOLO26, un modello YOLO più veloce, leggero e piccolo che mira a ridefinire il modo in cui i sistemi di computer vision operano all'edge. YOLO26 supporta le stesse attività di visione fondamentali dei modelli YOLO precedenti, tra cui il rilevamento di oggetti e la segmentazione di istanze.

Fig 1. Un esempio di utilizzo di Ultralytics YOLO26 per segmentare un oggetto.

La differenza fondamentale tra Ultralytics YOLO26 e i modelli precedenti è l'ambiente in cui è stato progettato per operare. Anziché ottimizzare principalmente per le unità di elaborazione grafica (GPU) cloud o per le prestazioni orientate ai benchmark, YOLO26 è stato progettato fin dalle fondamenta per l'implementazione nel mondo reale su dispositivi edge e hardware embedded.

Mentre la computer vision passa dalla ricerca alla produzione, la realtà dei vincoli di performance sta diventando più evidente. Gli ambienti edge sono definiti da rigidi limiti di latenza, memoria limitata, vincoli di alimentazione e termici, e dalla necessità di un comportamento prevedibile su diverse piattaforme.

In queste impostazioni, le prestazioni complessive del sistema dipendono non solo dalla velocità di inferenza grezza, ma anche dall'efficienza con cui opera l'intera pipeline. Il sovraccarico di post-elaborazione, la pressione sulla memoria e i percorsi di esecuzione specifici della piattaforma sono spesso dei colli di bottiglia.

Ultralytics YOLO26 affronta queste sfide adottando un approccio più rapido e incentrato sull'edge che esamina l'intera pipeline di inferenza anziché le singole metriche del modello. Focalizzandosi sull'ottimizzazione edge, semplificando la pipeline di inferenza e rimuovendo passaggi di post-elaborazione non necessari, YOLO26 offre miglioramenti di velocità che si traducono in una minore latenza e in un comportamento più affidabile in produzione.

In questo articolo esploreremo come le scelte architetturali di Ultralytics YOLO26 si traducano in miglioramenti delle prestazioni nel mondo reale e perché una maggiore velocità all'edge cambi radicalmente ciò che è possibile per le applicazioni di computer vision di nuova generazione.

La realtà dell'implementazione edge#

Eseguire model di computer vision all'edge è molto diverso dall'eseguirli nel cloud. Negli ambienti cloud, i sistemi hanno tipicamente accesso a potenti GPU, grandi quantità di memoria e hardware stabile. All'edge, le stesse assunzioni non valgono.

La maggior parte delle implementazioni edge viene eseguita su diverse architetture hardware, non su GPU. I dispositivi utilizzano solitamente più processori specializzati per compiti diversi, ottimizzati per l'efficienza e il basso consumo energetico piuttosto che per la capacità di calcolo grezza delle GPU cloud.

La latenza è un altro vincolo importante. I sistemi edge operano spesso entro rigidi limiti di tempo reale, dove anche piccoli ritardi possono influenzare la reattività o la sicurezza. In questi casi, la latenza end-to-end conta più della velocità di inferenza grezza. Un modello può essere veloce sulla carta ma non essere all'altezza una volta aggiunti la post-elaborazione e il movimento dei dati.

Anche la memoria gioca un ruolo importante. Molti dispositivi edge hanno memoria limitata e cache condivise. Grandi tensori intermedi e un uso inefficiente della memoria possono rallentare i sistemi, anche quando il modello stesso è efficiente.

I limiti di potenza e termici aggiungono ulteriori vincoli. I dispositivi edge funzionano spesso senza raffreddamento attivo e con budget energetici fissi. Le prestazioni devono essere efficienti e sostenibili, non solo veloci in brevi picchi.

Oltre a tutto questo, le implementazioni edge richiedono coerenza. I modelli devono comportarsi allo stesso modo su diversi dispositivi e runtime. Codice specifico per la piattaforma o complessi passaggi di post-elaborazione possono introdurre sottili differenze che rendono i sistemi più difficili da implementare e mantenere.

Fig 2. Uno sguardo ai vincoli dell'implementazione edge. Immagine dell'autore.

Questi vincoli definiscono cosa significano davvero le prestazioni all'edge. In altre parole, le prestazioni sono definite dall'intera pipeline, non da una singola metrica.

Perché la visione edge richiede un modello di prestazione diverso#

Quindi, come sono correlati i vincoli dell'implementazione edge ai requisiti di un modello di computer vision costruito per l'edge? La connessione diventa chiara una volta che i modelli passano dagli ambienti di ricerca ai sistemi del mondo reale.

Negli ambienti cloud, le prestazioni vengono spesso misurate utilizzando benchmark come la velocità di inferenza e l'accuratezza. All'edge, quelle metriche raccontano solo una parte della storia. I sistemi di visione solitamente vengono eseguiti su hardware eterogeneo, dove l'inferenza della rete neurale viene scaricata su acceleratori specializzati mentre altre parti della pipeline vengono eseguite su processori di uso generale.

In questo contesto, la velocità del modello non è sufficiente. È fondamentale come si comporta l'intero sistema una volta che il modello è stato distribuito. Un modello può apparire veloce di per sé, ma non essere all'altezza se la post-elaborazione, il movimento dei dati o i passaggi specifici della piattaforma aggiungono un sovraccarico.

Ecco perché la visione all'edge richiede un modello di prestazioni che si concentri sull'efficienza a livello di sistema anziché su benchmark isolati. Ultralytics YOLO26 riflette questo cambiamento puntando sull'ottimizzazione edge-first, sull'inferenza snella e sull'esecuzione end-to-end creata per il deployment nel mondo reale.

La base per la velocità: un design edge-first#

All'edge, le prestazioni sono definite da quanto bene un modello si adatta all'architettura hardware reale del dispositivo. Progettare prima per l'edge garantisce che i sistemi di visione funzionino in modo affidabile su piattaforme reali, indipendentemente dal mix specifico di unità di elaborazione disponibili.

Un approccio edge-first dà priorità a un'esecuzione prevedibile ed efficiente su hardware eterogeneo, piuttosto che adattare modelli ottimizzati per le GPU cloud dopo il fatto. In poche parole, questo significa favorire le operazioni che si traducono bene negli acceleratori di rete neurale, riducendo al minimo il lavoro non neurale al di fuori del modello e diminuendo la complessità non necessaria che può rallentare l'esecuzione end-to-end.

Ultralytics YOLO26 è stato progettato tenendo a mente questi vincoli. La sua architettura si concentra su prestazioni coerenti anziché sul throughput di picco in condizioni ideali. Semplificando i percorsi di esecuzione ed eliminando i calcoli superflui, YOLO26 riduce l'overhead nell'intera pipeline di inferenza e sfrutta al meglio l'accelerazione disponibile e la gerarchia di memoria del dispositivo.

Questo approccio migliora anche l'affidabilità. L'ottimizzazione edge-first porta a tempi più prevedibili e a un minor numero di picchi di prestazioni, il che è fondamentale per i sistemi in tempo reale. Invece di affidarsi a hardware specializzato o a una pesante post-elaborazione per raggiungere la velocità, Ultralytics YOLO26 enfatizza l'efficienza in tutto la pipeline di inferenza.

Inferenza end-to-end e il costo della post-elaborazione#

Potresti chiederti cosa significhi eliminare i passaggi di post-elaborazione non necessari. Per capirlo, facciamo un passo indietro e guardiamo come funzionano i sistemi di rilevamento oggetti tradizionali.

In molte pipeline di rilevamento oggetti, l'inferenza non termina quando il modello produce le sue previsioni. Invece, il modello emette un gran numero di riquadri di delimitazione sovrapposti, che devono quindi essere filtrati e rifiniti prima di poter essere utilizzati. Questa pulizia avviene attraverso passaggi di post-elaborazione che vengono eseguiti al di fuori del modello stesso.

Una delle fasi di post-elaborazione più comuni è la Non-Maximum Suppression, o NMS. NMS confronta i bounding box sovrapposti e mantiene solo i rilevamenti con maggiore confidenza, rimuovendo i duplicati che fanno riferimento allo stesso oggetto. Sebbene questo approccio sia efficace, introduce calcoli extra dopo il completamento dell'inferenza.

Fig 3. Capire NMS. Immagine dell'autore.

All'edge, questo lavoro extra ha un costo. I passaggi di post-elaborazione come NMS non sono ben adatti agli acceleratori specializzati utilizzati per l'inferenza della rete neurale, che sono ottimizzati per il calcolo neurale denso piuttosto che per operazioni pesanti in termini di controllo o memoria.

Di conseguenza, NMS introduce latenza aggiuntiva e sovraccarico di memoria, e il suo costo aumenta all'aumentare del numero di rilevamenti. Anche quando il modello stesso è veloce, NMS può comunque consumare una parte significativa del runtime totale.

La post-elaborazione aumenta anche la complessità del sistema. Poiché vive al di fuori del modello, deve essere implementata separatamente per diversi runtime e target hardware. Questo porta spesso a percorsi di codice specifici per la piattaforma, comportamenti incoerenti tra i dispositivi e pipeline di implementazione più fragili.

Ancora più importante, la post-elaborazione rompe l'idea di una vera prestazione end-to-end. Misurare la velocità di inferenza del modello non riflette come il sistema si comporta in produzione. Ciò che conta alla fine è il tempo totale dall'input all'output finale, incluso ogni passaggio nella pipeline.

In queste situazioni, la post-elaborazione diventa un collo di bottiglia nascosto all'edge. Aggiunge latenza, consuma risorse CPU e complica l'implementazione, il tutto restando al di fuori del modello stesso.

Come Ultralytics YOLO26 rimuove NMS e perché questo lo rende più veloce#

YOLO26 rimuove NMS affrontando la causa principale dei rilevamenti duplicati invece di ripulirli dopo l'inferenza. Invece di produrre molte predizioni sovrapposte che devono essere filtrate, il modello è addestrato a generare direttamente un set più piccolo di rilevamenti finali e sicuri.

Ciò è reso possibile modificando il modo in cui i rilevamenti vengono appresi durante il training. Ultralytics YOLO26 incoraggia una relazione uno a uno più chiara tra oggetti e predizioni, riducendo la ridondanza alla fonte. Di conseguenza, i rilevamenti duplicati vengono risolti all'interno della rete stessa anziché tramite una post-elaborazione esterna.

La rimozione di NMS ha un impatto immediato sulle prestazioni edge. Poiché NMS non si traduce bene negli acceleratori di rete neurale, eliminarlo riduce il movimento di memoria ed evita costosi passaggi di elaborazione non neurale. Ciò riduce la latenza end-to-end e rende le prestazioni più prevedibili, specialmente sui dispositivi edge dove la post-elaborazione può altrimenti consumare una parte notevole del runtime totale.

Semplifica anche la pipeline di inferenza. Con meno passaggi al di fuori del modello, c'è meno movimento di dati e meno passaggi di mano tra i componenti. L'output del modello è già il risultato finale, il che rende l'esecuzione più prevedibile.

Rimozione di DFL per consentire una vera prestazione end-to-end#

Un'altra innovazione in Ultralytics YOLO26 è la rimozione della Distribution Focal Loss, o DFL, che veniva utilizzata nei modelli YOLO precedenti per la regressione dei bbox. Invece di predire direttamente una singola coordinata, i modelli che utilizzano la DFL apprendevano una distribuzione di valori possibili e quindi derivavano un bbox finale da tale distribuzione. Questo approccio ha contribuito a migliorare l'accuratezza della localizzazione ed è stato un importante passo avanti nelle generazioni precedenti.

Nel corso del tempo, tuttavia, DFL ha anche introdotto dei compromessi. La previsione delle distribuzioni aumenta il calcolo e aggiunge complessità all'architettura del modello, il che può rallentare l'inferenza su CPU e rendere i modelli più difficili da esportare attraverso i formati di deployment. DFL ha anche imposto intervalli di regressione fissi, che potrebbero limitare la flessibilità nel rilevare oggetti molto grandi.

Ultralytics YOLO26 rimuove DFL come parte del suo passaggio verso un design più semplice e end-to-end. La regressione del bounding box è riprogettata per essere più diretta, riducendo i calcoli non necessari pur mantenendo la precisione. Questo cambiamento si allinea con l'approccio NMS-free di YOLO26.

Da dove deriva il 43% di inferenza CPU più veloce#

Nei benchmark basati su CPU, YOLO26 mostra un chiaro miglioramento delle prestazioni rispetto ai precedenti modelli YOLO. Rispetto a Ultralytics YOLO11, il modello nano YOLO26 offre un'inferenza su CPU fino al 43% più veloce, una differenza che ha un impatto significativo nei deployment edge del mondo reale.

Fig 4. Benchmark della velocità CPU di Ultralytics YOLO26.

Questo guadagno deriva dalla semplificazione dell'intera pipeline di inferenza piuttosto che dall'ottimizzazione di un singolo componente. L'esecuzione end-to-end rimuove il sovraccarico di post-elaborazione, un metodo di regressione dei riquadri di delimitazione più diretto riduce i calcoli e le scelte di design incentrate sulla CPU migliorano l'efficienza di esecuzione sui processori di uso generale.

Insieme, questi cambiamenti riducono la latenza, diminuiscono il carico di lavoro della CPU e portano a prestazioni più veloci e coerenti su hardware edge del mondo reale.

L'impatto di Ultralytics YOLO26 sul deployment edge e sugli export#

I guadagni di prestazioni di Ultralytics YOLO26 vanno oltre un'inferenza più rapida. Semplificando il modello e riducendo l'overhead di memoria, diventa più facile da distribuire e più affidabile da eseguire negli ambienti edge.

Il design end-to-end di Ultralytics YOLO26 semplifica anche l'export. Con un minor numero di componenti ausiliari e nessuna fase di post-elaborazione esterna, i modelli esportati sono completamente autonomi. Ciò riduce le dipendenze specifiche della piattaforma e aiuta a garantire un comportamento coerente tra i runtime e gli obiettivi hardware.

In azione, ciò significa che Ultralytics YOLO26 può essere distribuito più facilmente su dispositivi edge come telecamere, robot e sistemi embedded, utilizzando vari formati di export. Ciò che esporti è ciò che esegui, con meno passaggi di integrazione e minor rischio di deriva del deployment.

L'inferenza edge più veloce abilita la robotica e la visione industriale AI#

Finora abbiamo esaminato come il design edge-first di Ultralytics YOLO26 migliori le prestazioni a livello di sistema. Il vero impatto, tuttavia, sta nel modo in cui rende la visione AI più facile da integrare nelle applicazioni del mondo reale.

Ad esempio, nella robotica e negli ambienti industriali, i sistemi di visione operano spesso in condizioni di rigidi vincoli in tempo reale. Le decisioni devono essere prese rapidamente e in modo coerente, utilizzando risorse di calcolo limitate e senza fare affidamento sulla connettività cloud. Con Ultralytics YOLO26, soddisfare questi requisiti diventa pratico.

Applicazioni come la navigazione robotica e la manipolazione degli oggetti beneficiano di una latenza inferiore e di un'inferenza più prevedibile, consentendo ai robot di rispondere senza problemi ai cambiamenti nel loro ambiente. Allo stesso modo, negli ambienti industriali, i modelli di visione possono essere eseguiti direttamente sulle linee di produzione per rilevare difetti, tracciare componenti e monitorare i processi senza introdurre ritardi o ulteriore complessità.

Consentendo un'inferenza rapida e affidabile su hardware edge, Ultralytics YOLO26 aiuta a rendere la visione AI una parte naturale della robotica e dei sistemi industriali, piuttosto che una sfida da distribuire e mantenere.

Punti chiave#

Ultralytics YOLO26 è stato realizzato per l'edge, dove i vincoli del mondo reale come latenza, memoria e affidabilità definiscono ciò che è possibile fare. Progettando il modello attorno all'esecuzione CPU-first, all'inferenza end-to-end e a un'implementazione più semplice, YOLO26 rende l'IA di visione pratica da integrare nei sistemi reali. Questo approccio edge-first consente un'ampia gamma di applicazioni, dalla robotica e la visione industriale all'IA embedded e on-device, dove prestazioni e prevedibilità contano di più.

Unisciti alla nostra crescente community ed esplora il nostro repository GitHub per risorse di AI pratiche. Per sviluppare con la vision AI oggi, esplora le nostre opzioni di licenza. Scopri come l'AI in agricoltura sta trasformando l'agricoltura e come la vision AI nella sanità sta plasmando il futuro visitando le nostre pagine delle soluzioni.