Mettendo a punto i modelli Ultralytics YOLO sui dispositivi edge, Scaleout mantiene i dati in sede, lavora offline e distribuisce nuovi modelli di rilevamento in poche ore anziché settimane.
L'addestramento dei modelli di machine learning presuppone solitamente che tu possa riunire tutti i dati in un unico luogo, inviarli al cloud e distribuire un modello completo. In molti contesti reali, questa ipotesi non regge. Negli ambienti della difesa, industriali e regolamentati, i dati sono vincolati alla propria posizione da leggi sulla privacy, classificazioni di sicurezza o semplicemente dai costi elevati della larghezza di banda, e non sempre ci si può fidare della rete che collega queste sedi.
Scaleout sviluppa infrastrutture pensate esattamente per queste condizioni. La sua piattaforma, Scaleout Edge, utilizza il federated learning per portare l'addestramento dei modelli là dove risiedono i dati, anziché spostare i dati verso il modello. Per i progetti di computer vision, Scaleout addestra e mette a punto modelli Ultralytics YOLO personalizzati sui Vision Ground Node, stazioni edge con accelerazione GPU distribuite in ogni sede, così il rilevamento continua a migliorare sul campo senza che le immagini sensibili lascino mai il dispositivo.
Portare il machine learning là dove risiedono i dati#
Fondata nel 2018 da ricercatori dell'Università di Uppsala che lavoravano su sistemi distribuiti su larga scala, Scaleout si è posta l'obiettivo di rendere possibile il machine learning dove i dati non possono essere centralizzati. Si concentra sui contesti in cui riunire i dati in un unico luogo è difficile o impossibile, e il federated learning è il meccanismo fondamentale che lo rende possibile.
Il federated learning distribuisce l'addestramento tra numerosi dispositivi, quindi raccoglie gli aggiornamenti dei loro modelli in un piano di controllo centrale che li aggrega in un nuovo modello globale. Ogni dispositivo trae vantaggio dalla conoscenza del proprio ambiente locale, mentre l'intera flotta beneficia dell'intelligenza collettiva. I dati restano dove devono essere e viaggia solo ciò che il modello ha appreso.
Il lavoro di Scaleout abbraccia i settori della difesa, industriale, dei trasporti e altri settori regolamentati, e comprende collaborazioni come il programma di accelerazione NATO DIANA e una collaborazione con BAE Systems. In tutti questi casi, lo schema è lo stesso: dati che non possono essere spostati e modelli che devono comunque migliorare.
Le complessità del machine learning edge#
Ecco uno sguardo più ravvicinato ai vincoli che Scaleout ha dovuto affrontare nell'addestramento dei modelli sul campo:
-
Hardware limitato: Le implementazioni sul campo non dispongono di server da data center, ma solo di dispositivi piccoli e a basso consumo, come il computer di un drone. Eseguire un modello completo su questi dispositivi è fattibile, ma riaddestrarlo richiede molta più potenza di calcolo.
-
Dati vincolati al dispositivo: I filmati necessari per il riaddestramento sono spesso proprietari e non possono essere inviati a un server centrale, quindi il modello deve apprendere da dati che non lasciano mai l'edge.
-
Nessuno specialista sul posto: Gli operatori che raccolgono i dati sul campo raramente sono ingegneri di machine learning, quindi il riaddestramento non può dipendere dalla presenza di competenze di data science.
-
Condizioni in costante cambiamento: Gli ambienti sul campo cambiano rapidamente, quindi il modello deve essere aggiornato continuamente anziché attraverso cicli di riaddestramento lenti e periodici.
Messa a punto dei modelli Ultralytics YOLO sull'edge#
Per operare entro questi vincoli, Scaleout ha sviluppato un ciclo di addestramento che viene eseguito interamente sul campo, con i modelli Ultralytics YOLO al centro.
In ogni sede, un Vision Ground Node, una stazione edge con accelerazione GPU e dotata di capacità di calcolo e archiviazione proprie, opera insieme a una flotta di droni. Mentre i droni acquisiscono i filmati, il nodo seleziona i fotogrammi più utili, un operatore li annota e il modello YOLO viene messo a punto sull'hardware locale.
Dopo alcuni cicli di addestramento, solo il modello aggiornato viene inviato al piano di controllo, mai i filmati grezzi. Questo ciclo viene fornito tramite il modulo di visione di Scaleout, un'estensione della piattaforma Scaleout Edge che riunisce in un unico pacchetto gli strumenti necessari a un progetto di computer vision.
Riunisce selezione dei fotogrammi, annotazione, addestramento e distribuzione, con Ultralytics YOLO che gestisce il rilevamento, così i team possono partire da una base funzionante invece di assemblare autonomamente questi componenti.
Scaleout ha applicato per la prima volta questo approccio nel programma di accelerazione NATO DIANA, utilizzando YOLOv8 per mettere a punto il rilevamento sui dati raccolti sul campo. Questi dati non potevano essere trasferiti attraverso le reti sul campo né centralizzati per motivi di proprietà, quindi il team ha decentralizzato la messa a punto, consentendo al modello di apprendere localmente dai nuovi esempi.
Il ciclo è progettato anche per gli operatori, non solo per i data scientist. Il sistema guida un utente non specialista nella revisione e nell'annotazione dei fotogrammi rilevanti, così le persone sul campo possono continuare autonomamente a migliorare il modello.
Gli strumenti di supporto riflettono questa impostazione: la versione open source di Label Studio per l'annotazione, un server di streaming per acquisire i flussi dei droni e il pacchetto Python di Ultralytics per la messa a punto. Tutto viene eseguito su hardware che va dai moduli NVIDIA Jetson a un'unità da campo robusta o a un laptop, a seconda dell'implementazione.
Perché scegliere i modelli Ultralytics YOLO?#
Per Scaleout, il principale vantaggio di Ultralytics YOLO è la leggerezza dei modelli, che rende pratico l'addestramento federato su connessioni instabili. Anziché spostare i dati grezzi, Scaleout trasferisce solo l'aggiornamento del modello. Il modello utilizzato più spesso, Ultralytics YOLOv8 nano, occupa circa 10,7 MB, quindi un aggiornamento completo è un pacchetto di piccole dimensioni da inviare, anche quando la larghezza di banda è scarsa.
Il pacchetto Python di Ultralytics offre inoltre agli ingegneri di Scaleout la flessibilità necessaria per addestrare e distribuire i modelli su hardware diversi. Il modello compatto YOLOv8 nano funziona agevolmente sui dispositivi edge con risorse limitate, mentre le opzioni di esportazione del pacchetto supportano la distribuzione nei diversi ambienti in cui opera Scaleout. Poiché i modelli sono semplici da mettere a punto, i team possono iterare rapidamente al variare delle condizioni sul campo.
Ultralytics YOLO aiuta Scaleout ad aggiornare più rapidamente i modelli#
Con Ultralytics YOLO, la parte più onerosa del lavoro resta sul dispositivo. L'addestramento viene eseguito su centinaia di gigabyte di filmati raccolti sul campo, ma ciò che viene effettivamente trasferito è un modello di circa 10 MB. Questo si traduce in una riduzione di circa dieci volte dei dati da spostare, rendendo possibile l'addestramento federato sulle reti limitate da cui dipendono queste implementazioni.
L'approccio cambia anche la rapidità con cui un modello migliorato torna sul campo. Quello che altrimenti potrebbe richiedere settimane o mesi — raccogliere i dati, inviarli a una sede centrale, riaddestrare il modello e ridistribuirlo — si riduce a giorni e ore quando il ciclo viene eseguito sull'edge.
Questo emerge con maggiore chiarezza nel lavoro di Scaleout con i droni. Nella ricognizione per la difesa, un drone segue un percorso di ricerca e utilizza un modello Ultralytics YOLO di bordo per rilevare, identificare e geolocalizzare in tempo reale gli oggetti di interesse, elaborando tutto sul computer del drone anziché inviarlo altrove per l'analisi.
Mentre i droni raccolgono nuovi filmati, questi dati alimentano un Vision Ground Node, dove YOLO viene messo a punto sui nuovi fotogrammi, e un modello aggiornato viene ridistribuito, senza che i filmati lascino mai la sede. I modelli di rilevamento devono stare al passo con condizioni che cambiano rapidamente e con dati che non possono essere spostati; un modello riaddestrato localmente resta utile là dove uno statico, addestrato centralmente, rimarrebbe indietro.
Fig. 1. Un esempio di come Scaleout e Ultralytics YOLO potenziano i droni dotati di AI (Fonte)
Lo stesso schema si estende ben oltre i droni. In contesti industriali, come siti energetici e strutture remote, dove i dati di ogni sede sono sensibili, la piattaforma migliora i modelli di rilevamento in numerose sedi senza che alcun dato grezzo oltrepassi i confini di una struttura. Che i dati risiedano su un drone o su un'installazione fissa, Scaleout mantiene i filmati in sede e trasferisce solo ciò che il modello ha appreso.
Sviluppare un'AI adattiva per gli ambienti in cui i dati non possono essere spostati#
Con la crescita di Scaleout, l'azienda continua a estendere la propria computer vision federata ed edge-based a un numero maggiore di contesti e hardware. I suoi moduli preconfigurati sono progettati per ridurre mesi di integrazione a pochi giorni, così i clienti possono utilizzare il proprio hardware e adottare il ciclo di apprendimento adattivo senza ricostruire il codice di machine learning sottostante.
Con Ultralytics YOLO al centro della sua pipeline di rilevamento, Scaleout sta rendendo possibile addestrare e migliorare l'AI proprio negli ambienti in cui gli approcci convenzionali non sono all'altezza: mantenendo i dati in sede, restando operativa quando le reti si interrompono e trasformando flotte di dispositivi edge in un sistema che continua ad apprendere nel suo insieme.
Vuoi scoprire cosa può fare la Vision AI per te? Vai al nostro repository GitHub per scoprire come i modelli YOLO stanno trasformando ambiti come l'AI nella produzione e la computer vision nella robotica. Dai un'occhiata alle nostre opzioni di licenza e inizia il tuo percorso verso un'automazione più intelligente.
