Scaleout riduce gli aggiornamenti dei modelli da settimane a ore con Ultralytics YOLO

L'addestramento di modelli di machine learning presuppone solitamente la possibilità di raccogliere tutti i dati in un unico posto, inviarli al cloud e distribuire un modello finito. In molti scenari reali, questo presupposto non è valido. In settori come la difesa, l'industria e gli ambienti regolamentati, i dati sono vincolati alla loro posizione da leggi sulla privacy, classificazioni di sicurezza o semplici costi di banda, e la rete che collega tali sedi non è sempre affidabile.

Scaleout crea l'infrastruttura esattamente per queste condizioni. La sua piattaforma, Scaleout Edge, usa l'apprendimento federato per portare l'addestramento dei modelli dove risiedono i dati, anziché spostare i dati verso il modello. Per i progetti di computer vision, Scaleout personalizza e ottimizza i modelli Ultralytics YOLO su Vision Ground Nodes, stazioni edge accelerate da GPU distribuite in ogni sede, in modo che il rilevamento continui a migliorare sul campo senza che immagini sensibili lascino mai il dispositivo.

Portare il machine learning dove risiedono i dati#

Fondata nel 2018 da ricercatori dell'Università di Uppsala che lavoravano su sistemi distribuiti su larga scala, Scaleout si è posta l'obiettivo di rendere possibile il machine learning dove i dati non possono essere centralizzati. Il suo focus è su contesti in cui centralizzare i dati in un unico luogo è difficile o impossibile, e l'apprendimento federato è il meccanismo fondamentale che lo rende possibile.

L'apprendimento federato distribuisce l'addestramento su molti dispositivi, per poi raccogliere i relativi aggiornamenti dei modelli in un piano di controllo centrale che li aggrega in un nuovo modello globale. Ciascun dispositivo trae vantaggio dalla comprensione del proprio ambiente locale, mentre l'intera flotta beneficia dell'intelligenza collettiva. I dati rimangono dove devono stare, e viaggia solo ciò che il modello ha imparato.

Il lavoro di Scaleout abbraccia difesa, industria, trasporti e altri settori regolamentati, e include collaborazioni come il programma acceleratore NATO DIANA e una partnership con BAE Systems. In tutti questi casi, il modello è lo stesso: dati che non possono spostarsi e modelli che devono continuare a migliorare.

Le complessità del machine learning edge#

Ecco uno sguardo più approfondito ai vincoli che Scaleout ha dovuto affrontare nell'addestramento dei modelli sul campo:

• Hardware limitato: Le implementazioni sul campo non dispongono di server data-center, ma solo di piccoli dispositivi a basso consumo, come il computer a bordo di un drone. Eseguire un modello finito su di essi è fattibile, ma riaddestrarlo richiede molta più potenza di calcolo.

• Dati vincolati al dispositivo: Il materiale video necessario per il nuovo addestramento è spesso proprietario e non può essere inviato a un server centrale, quindi il modello deve imparare da dati che non lasciano mai l'edge.

• Nessuno specialista in loco: Gli operatori che acquisiscono dati sul campo sono raramente ingegneri di machine learning, quindi il riaddestramento non può dipendere dalla presenza di esperti di data science.

• Condizioni in costante mutamento: Gli ambienti sul campo cambiano rapidamente, quindi il modello deve essere aggiornato continuamente invece che tramite lenti cicli di riaddestramento periodici.

Ottimizzazione dei modelli Ultralytics YOLO sull'edge#

Per operare entro questi vincoli, Scaleout ha creato un loop di addestramento che gira interamente sul campo, con i modelli Ultralytics YOLO al centro.

In ogni sito, un Vision Ground Node, una stazione edge accelerata da GPU con calcolo e archiviazione propri, si trova accanto a una flotta di droni. Mentre i droni acquisiscono filmati, il nodo seleziona i frame più utili, un operatore li etichetta e il modello YOLO viene ottimizzato su quell'hardware locale.

Dopo alcune epoche di addestramento, solo il modello aggiornato viene inviato al piano di controllo, mai il filmato grezzo. Questo loop viene fornito tramite il modulo vision di Scaleout, un'estensione della piattaforma Scaleout Edge che raggruppa gli strumenti necessari per un progetto di computer vision in un unico pacchetto.

Riunisce selezione dei frame, annotazione, addestramento e distribuzione, con Ultralytics YOLO che gestisce il rilevamento, così i team possono costruire su una base funzionante invece di assemblare questi componenti da soli.

Scaleout ha applicato per la prima volta questo approccio nel programma acceleratore NATO DIANA, utilizzando YOLOv8 per ottimizzare il rilevamento su dati raccolti sul campo. Quei dati non potevano essere spostati su reti campali o centralizzati per motivi di proprietà, quindi il team ha decentralizzato l'ottimizzazione, permettendo al modello di apprendere localmente da nuovi esempi.

Il loop è anche pensato per gli operatori piuttosto che per i data scientist. Il sistema guida chi non è specialista attraverso la revisione e l'etichettatura dei frame rilevanti, in modo che le persone sul campo possano mantenere il miglioramento del modello autonomamente.

Gli strumenti di supporto rispecchiano tutto ciò, con la versione open source di Label Studio per le annotazioni, un server di streaming per acquisire i feed dei droni e il pacchetto Python di Ultralytics per il fine-tuning. Il tutto viene eseguito su hardware che spazia dai moduli NVIDIA Jetson a una robusta unità da campo o a un computer portatile, a seconda del deployment.

Perché scegliere i modelli Ultralytics YOLO?#

Per Scaleout, il vantaggio principale di Ultralytics YOLO è la leggerezza dei modelli, ovvero ciò che rende pratico l'addestramento federato su connessioni scadenti. Anziché spostare dati grezzi, Scaleout sposta solo l'aggiornamento del modello. Il modello che usa di più, Ultralytics YOLOv8 nano, pesa circa 10,7 MB, quindi un aggiornamento completo è un pacchetto piccolo da inviare, anche quando la larghezza di banda è scarsa.

Il pacchetto Python di Ultralytics offre inoltre agli ingegneri di Scaleout la flessibilità di addestrare e distribuire su hardware diversi. Il modello compatto YOLOv8 nano viene eseguito agevolmente su dispositivi edge limitati, mentre le opzioni di esportazione del pacchetto supportano il deployment nei diversi ambienti in cui opera Scaleout. Poiché i team possono effettuare il fine-tuning dei modelli in modo semplice, possono iterare rapidamente al variare delle condizioni sul campo.

Ultralytics YOLO aiuta Scaleout ad aggiornare i modelli più velocemente#

Con Ultralytics YOLO, la parte più pesante del lavoro rimane sul dispositivo. L'addestramento avviene su centinaia di gigabyte di riprese sul campo, ma ciò che effettivamente viaggia è un modello di circa 10 MB. Ciò equivale a una riduzione di circa dieci volte dei dati che devono essere spostati, il che rende l'addestramento federato praticabile sulle reti limitate su cui queste implementazioni fanno affidamento.

L'approccio cambia anche la velocità con cui un modello migliorato torna sul campo. Ciò che altrimenti richiederebbe settimane o mesi, tra raccolta dati, spedizione verso un centro, riaddestramento e nuova distribuzione, si riduce a giorni e ore quando il loop viene eseguito sull'edge.

Questo aspetto emerge chiaramente nel lavoro di Scaleout con i droni. Nelle ricognizioni della difesa, un drone segue uno schema di ricerca e utilizza un modello Ultralytics YOLO a bordo per rilevare, identificare e geolocalizzare oggetti di interesse in tempo reale, gestendo tutta l'elaborazione sul computer del drone stesso anziché inviarla all'esterno per l'analisi.

Mentre i droni raccolgono nuove riprese, tali dati alimentano un Vision Ground Node dove YOLO viene ottimizzato sui nuovi frame, e un modello aggiornato viene reinviato, il tutto senza che le riprese lascino mai il sito. I modelli di rilevamento devono stare al passo con condizioni che cambiano rapidamente e con dati che non possono essere spostati, e un modello riaddestrato localmente rimane utile laddove uno statico, addestrato centralmente, resterebbe indietro.

Fig 1. Un esempio di come Scaleout e Ultralytics YOLO alimentano i droni IA (Fonte)

Lo stesso schema si estende ben oltre i droni. In contesti industriali come siti energetici e strutture remote, dove i dati di ogni luogo sono sensibili, la piattaforma migliora i modelli di rilevamento in molti siti senza che alcun dato grezzo superi il confine della struttura. Che i dati risiedano su un drone o su un'installazione fissa, Scaleout mantiene le riprese in loco e sposta solo ciò che il modello ha appreso.

Costruire un'AI adattiva per ambienti in cui i dati non possono spostarsi#

Mentre Scaleout cresce, continua a estendere la sua computer vision federata basata sull'edge in più contesti e hardware. I suoi moduli predefiniti sono progettati per comprimere mesi di integrazione in giorni, così i clienti possono portare il proprio hardware e adottare il loop di apprendimento adattivo senza ricostruire il codice di machine learning sottostante.

Con Ultralytics YOLO al centro della sua pipeline di rilevamento, Scaleout rende possibile addestrare e migliorare l'AI esattamente negli ambienti in cui gli approcci convenzionali falliscono, mantenendo i dati sul posto, rimanendo operativi quando le reti falliscono e trasformando flotte di dispositivi edge in un sistema che continua a imparare nel suo complesso.

Pronto a scoprire cosa può fare la Vision AI per te? Visita il nostro repository GitHub per scoprire in che modo i modelli YOLO stanno trasformando settori quali l'IA nella produzione e la computer vision nella robotica. Dai un'occhiata alle nostre opzioni di licenza e inizia il tuo viaggio verso un'automazione più intelligente.