Scaleout riduce gli aggiornamenti dei modelli da settimane a ore con Ultralytics YOLO

L'addestramento di modelli di machine learning presuppone solitamente la possibilità di raccogliere tutti i dati in un unico posto, inviarli al cloud e distribuire un modello finito. In molti scenari reali, questo presupposto non è valido. In settori come la difesa, l'industria e gli ambienti regolamentati, i dati sono vincolati alla loro posizione da leggi sulla privacy, classificazioni di sicurezza o semplici costi di banda, e la rete che collega tali sedi non è sempre affidabile.

Scaleout crea infrastrutture esattamente per queste condizioni. La sua piattaforma, Scaleout Edge, utilizza l'apprendimento federato per portare l'addestramento del modello dove risiedono i dati, anziché spostare i dati verso il modello. Per i progetti di computer vision, Scaleout addestra e ottimizza in modo personalizzato i modelli Ultralytics YOLO sui Vision Ground Nodes, stazioni edge accelerate da GPU distribuite in ogni sito, così che il rilevamento continui a migliorare sul campo senza che immagini sensibili lascino mai il dispositivo.

Link to this sectionPortare il machine learning dove risiedono i dati#

Fondata nel 2018 da ricercatori dell'Università di Uppsala che lavoravano su sistemi distribuiti su larga scala, Scaleout si è posta l'obiettivo di rendere possibile il machine learning dove i dati non possono essere centralizzati. Il suo focus è su contesti in cui centralizzare i dati in un unico luogo è difficile o impossibile, e l'apprendimento federato è il meccanismo fondamentale che lo rende possibile.

L'apprendimento federato distribuisce l'addestramento su molti dispositivi, quindi raccoglie gli aggiornamenti del modello in un piano di controllo centrale che li aggrega in un nuovo modello globale. Ogni dispositivo beneficia della comprensione del proprio ambiente locale, mentre l'intera flotta trae vantaggio dall'intelligenza collettiva. I dati rimangono dove devono stare e viaggia solo ciò che il modello ha appreso.

Il lavoro di Scaleout abbraccia difesa, industria, trasporti e altri settori regolamentati, e include collaborazioni come il programma acceleratore NATO DIANA e una partnership con BAE Systems. In tutti questi casi, il modello è lo stesso: dati che non possono spostarsi e modelli che devono continuare a migliorare.

Link to this sectionLe complessità del machine learning edge#

Ecco uno sguardo più approfondito ai vincoli che Scaleout ha dovuto affrontare nell'addestramento dei modelli sul campo:

• Hardware limitato: Le implementazioni sul campo non dispongono di server data-center, ma solo di piccoli dispositivi a basso consumo, come il computer a bordo di un drone. Eseguire un modello finito su di essi è fattibile, ma riaddestrarlo richiede molta più potenza di calcolo.

• Dati bloccati sul dispositivo: I filmati necessari per il riaddestramento sono spesso proprietari e non possono essere inviati a un server centrale, quindi il modello deve imparare da dati che non lasciano mai l'edge.

• Nessuno specialista in loco: Gli operatori che acquisiscono dati sul campo sono raramente ingegneri di machine learning, quindi il riaddestramento non può dipendere dalla presenza di esperti di data science.

• Condizioni in costante mutamento: Gli ambienti sul campo cambiano rapidamente, quindi il modello deve essere aggiornato continuamente invece che tramite lenti cicli di riaddestramento periodici.

Link to this sectionOttimizzazione dei modelli Ultralytics YOLO sull'edge#

Per operare entro questi vincoli, Scaleout ha creato un loop di addestramento che gira interamente sul campo, con i modelli Ultralytics YOLO al centro.

In ogni sito, un Vision Ground Node, una stazione edge accelerata da GPU con calcolo e archiviazione propri, si trova accanto a una flotta di droni. Mentre i droni acquisiscono filmati, il nodo seleziona i frame più utili, un operatore li etichetta e il modello YOLO viene ottimizzato su quell'hardware locale.

Dopo alcune epoche di addestramento, solo il modello aggiornato viene inviato al piano di controllo, mai il filmato grezzo. Questo loop viene fornito tramite il modulo vision di Scaleout, un'estensione della piattaforma Scaleout Edge che raggruppa gli strumenti necessari per un progetto di computer vision in un unico pacchetto.

Riunisce selezione dei frame, annotazione, addestramento e distribuzione, con Ultralytics YOLO che gestisce il rilevamento, così i team possono costruire su una base funzionante invece di assemblare questi componenti da soli.

Scaleout ha applicato per la prima volta questo approccio nel programma acceleratore NATO DIANA, utilizzando YOLOv8 per ottimizzare il rilevamento su dati raccolti sul campo. Quei dati non potevano essere spostati su reti campali o centralizzati per motivi di proprietà, quindi il team ha decentralizzato l'ottimizzazione, permettendo al modello di apprendere localmente da nuovi esempi.

Il loop è anche pensato per gli operatori piuttosto che per i data scientist. Il sistema guida chi non è specialista attraverso la revisione e l'etichettatura dei frame rilevanti, in modo che le persone sul campo possano mantenere il miglioramento del modello autonomamente.

Gli strumenti di supporto riflettono questa filosofia, con la versione open-source di Label Studio per l'annotazione, un server di streaming per ricevere i feed dei droni e il pacchetto Python di Ultralytics per l'ottimizzazione. Tutto ciò viene eseguito su hardware che varia da moduli NVIDIA Jetson a un'unità da campo robusta o un laptop, a seconda dell'implementazione.

Link to this sectionPerché scegliere i modelli Ultralytics YOLO?#

Per Scaleout, il vantaggio principale di Ultralytics YOLO è quanto siano leggeri i modelli, caratteristica che rende pratico l'addestramento federato su connessioni scarse. Piuttosto che spostare dati grezzi, Scaleout sposta solo l'aggiornamento del modello. Il modello utilizzato maggiormente, Ultralytics YOLOv8 nano, pesa circa 10.7 MB, rendendo l'intero aggiornamento un pacchetto leggero da inviare, anche quando la larghezza di banda è limitata.

Il pacchetto Python di Ultralytics offre inoltre agli ingegneri di Scaleout la flessibilità di addestrare e distribuire su hardware variegato. Il compatto modello YOLOv8 nano funziona agevolmente su dispositivi edge limitati, mentre le opzioni di esportazione del pacchetto supportano la distribuzione nei diversi ambienti in cui lavora Scaleout. Poiché i modelli sono semplici da ottimizzare, i team possono iterare rapidamente al mutare delle condizioni sul campo.

Link to this sectionUltralytics YOLO aiuta Scaleout ad aggiornare i modelli più velocemente#

Con Ultralytics YOLO, la parte più pesante del lavoro rimane sul dispositivo. L'addestramento avviene su centinaia di gigabyte di riprese sul campo, ma ciò che effettivamente viaggia è un modello di circa 10 MB. Ciò equivale a una riduzione di circa dieci volte dei dati che devono essere spostati, il che rende l'addestramento federato praticabile sulle reti limitate su cui queste implementazioni fanno affidamento.

L'approccio cambia anche la velocità con cui un modello migliorato torna sul campo. Ciò che altrimenti richiederebbe settimane o mesi, tra raccolta dati, spedizione verso un centro, riaddestramento e nuova distribuzione, si riduce a giorni e ore quando il loop viene eseguito sull'edge.

Questo appare più chiaramente nel lavoro di Scaleout sui droni. Nella ricognizione della difesa, un drone esegue un pattern di ricerca e utilizza un modello Ultralytics YOLO a bordo per rilevare, identificare e geolocalizzare oggetti di interesse in tempo reale, con tutta l'elaborazione gestita dal computer stesso del drone invece che inviata all'esterno per l'analisi.

Mentre i droni raccolgono nuove riprese, tali dati alimentano un Vision Ground Node dove YOLO viene ottimizzato sui nuovi frame, e un modello aggiornato viene reinviato, il tutto senza che le riprese lascino mai il sito. I modelli di rilevamento devono stare al passo con condizioni che cambiano rapidamente e con dati che non possono essere spostati, e un modello riaddestrato localmente rimane utile laddove uno statico, addestrato centralmente, resterebbe indietro.

Fig 1. Un esempio di come Scaleout e Ultralytics YOLO potenziano i droni AI (Fonte)

Lo stesso schema si estende ben oltre i droni. In contesti industriali come siti energetici e strutture remote, dove i dati di ogni luogo sono sensibili, la piattaforma migliora i modelli di rilevamento in molti siti senza che alcun dato grezzo superi il confine della struttura. Che i dati risiedano su un drone o su un'installazione fissa, Scaleout mantiene le riprese in loco e sposta solo ciò che il modello ha appreso.

Link to this sectionCostruire un'AI adattiva per ambienti in cui i dati non possono spostarsi#

Mentre Scaleout cresce, continua a estendere la sua computer vision federata basata sull'edge in più contesti e hardware. I suoi moduli predefiniti sono progettati per comprimere mesi di integrazione in giorni, così i clienti possono portare il proprio hardware e adottare il loop di apprendimento adattivo senza ricostruire il codice di machine learning sottostante.

Con Ultralytics YOLO al centro della sua pipeline di rilevamento, Scaleout rende possibile addestrare e migliorare l'AI esattamente negli ambienti in cui gli approcci convenzionali falliscono, mantenendo i dati sul posto, rimanendo operativi quando le reti falliscono e trasformando flotte di dispositivi edge in un sistema che continua a imparare nel suo complesso.

Pronto a esplorare cosa può fare per te la Vision AI? Vai al nostro repository GitHub per scoprire come i modelli YOLO stanno trasformando aree come l'AI nella produzione e la computer vision nella robotica. Dai un'occhiata alle nostre opzioni di licenza e inizia il tuo viaggio verso un'automazione più intelligente.