Ottimizzando i modelli Ultralytics YOLO direttamente sui dispositivi edge, Scaleout mantiene i dati nella loro sede, funziona offline e distribuisce nuovi modelli di rilevamento in poche ore anziché in settimane.
L’addestramento dei modelli di machine learning presuppone di solito che sia possibile raccogliere tutti i dati in un unico posto, inviarli al cloud e distribuire un modello finito. In molti contesti reali, questa ipotesi non regge. Nei settori della difesa, industriali e regolamentati, la posizione dei dati è vincolata da leggi sulla privacy, classificazioni di sicurezza o costi elevati di larghezza di banda; inoltre, non sempre è possibile fidarsi della rete che collega queste sedi.
Scaleout sviluppa infrastrutture pensate proprio per queste condizioni. La sua piattaforma, Scaleout Edge, usa il federated learning per portare l'addestramento dei modelli dove risiedono i dati, anziché trasferire i dati ai modelli. Per i progetti di visione artificiale, Scaleout addestra modelli personalizzati e li ottimizza con modelli Ultralytics YOLO su Vision Ground Nodes, stazioni edge con accelerazione GPU installate in ogni sito. In questo modo, il rilevamento continua a migliorare sul campo senza che immagini sensibili lascino mai il dispositivo.
Portare il machine learning dove si trovano i dati#
Fondata nel 2018 da ricercatori dell’Università di Uppsala che lavoravano su sistemi distribuiti su larga scala, Scaleout si è posta l’obiettivo di rendere possibile il machine learning nei contesti in cui i dati non possono essere centralizzati. Si concentra sulle situazioni in cui raccogliere i dati in un unico posto è difficile o impossibile e usa l’apprendimento federato come meccanismo fondamentale per riuscirci.
L’apprendimento federato distribuisce l’addestramento su molti dispositivi e poi raccoglie gli aggiornamenti dei loro modelli in un piano di controllo centrale, che li aggrega in un nuovo modello globale. Ogni dispositivo trae vantaggio dalla conoscenza del proprio ambiente locale, mentre l’intero insieme beneficia dell’intelligenza collettiva. I dati restano dove devono essere e viaggia solo ciò che il modello ha appreso.
Scaleout opera nei settori della difesa, dell’industria, dei trasporti e in altri settori regolamentati; tra le sue collaborazioni figurano il programma di accelerazione NATO DIANA e una collaborazione con BAE Systems. In tutti questi casi il quadro è lo stesso: i dati non possono essere spostati, ma i modelli devono comunque migliorare.
Le complessità del machine learning edge#
Ecco un’analisi più approfondita dei vincoli che Scaleout ha dovuto affrontare per addestrare modelli sul campo:
- Hardware limitato: le installazioni sul campo non dispongono di server da data center, ma solo di dispositivi piccoli e a basso consumo, come il computer di un drone. Eseguirvi un modello già addestrato è fattibile, ma riaddestrarlo richiede molta più potenza di calcolo.
- Dati vincolati al dispositivo: i filmati necessari per il riaddestramento sono spesso proprietari e non possono essere inviati a un server centrale, quindi il modello deve apprendere da dati che non lasciano mai il dispositivo edge.
- Nessuno specialista sul posto: gli operatori che acquisiscono dati sul campo raramente sono ingegneri di machine learning, perciò il riaddestramento non può dipendere dalla presenza di competenze di data science.
- Condizioni in costante cambiamento: gli ambienti sul campo cambiano rapidamente, quindi il modello deve essere aggiornato di continuo anziché seguire cicli di riaddestramento lenti e periodici.
Ottimizzare i modelli Ultralytics YOLO sui dispositivi edge#
Per operare entro questi vincoli, Scaleout ha creato un ciclo di addestramento che si svolge interamente sul campo e ha i modelli Ultralytics YOLO al centro.
In ogni sede, un Vision Ground Node, una stazione edge con accelerazione GPU dotata di risorse di calcolo e archiviazione proprie, opera accanto a una flotta di droni. Man mano che i droni acquisiscono filmati, il nodo seleziona i fotogrammi più utili, un operatore li etichetta e il modello YOLO viene ottimizzato sull’hardware locale.
Dopo alcune epoche di addestramento, viene inviato al piano di controllo solo il modello aggiornato, mai i filmati originali. Questo ciclo viene gestito tramite il modulo di visione di Scaleout, un’estensione della piattaforma Scaleout Edge che riunisce in un unico pacchetto gli strumenti necessari per un progetto di visione artificiale.
Il modulo integra selezione dei fotogrammi, annotazione, addestramento e distribuzione, affidando il rilevamento a Ultralytics YOLO, così i team possono partire da una base già funzionante anziché assemblare da soli tutti questi componenti.
Scaleout ha applicato per la prima volta questo approccio al programma di accelerazione NATO DIANA, usando YOLOv8 per ottimizzare il rilevamento sui dati raccolti sul campo. Per ragioni di proprietà, quei dati non potevano essere trasferiti tramite le reti sul campo né centralizzati, quindi il team ha decentralizzato l’ottimizzazione, consentendo al modello di apprendere localmente da nuovi esempi.
Il ciclo è progettato anche per gli operatori, non solo per i data scientist. Il sistema guida chi non è specialista nella revisione e nell’etichettatura dei fotogrammi più importanti, così chi lavora sul campo può continuare a migliorare il modello in autonomia.
Gli strumenti di supporto riflettono questo approccio: la versione open source di Label Studio per le annotazioni, un server di streaming per acquisire i flussi dei droni e il pacchetto Ultralytics per Python per l’ottimizzazione. Tutto funziona su hardware che va dai moduli NVIDIA Jetson a un’unità da campo rinforzata o a un laptop, a seconda dell’installazione.
Perché scegliere i modelli Ultralytics YOLO?#
Per Scaleout, il vantaggio principale di Ultralytics YOLO è la leggerezza dei modelli, che rende pratico l'addestramento federato anche con connessioni scadenti. Invece di trasferire dati grezzi, Scaleout trasferisce solo l'aggiornamento del modello. Il modello più usato, Ultralytics YOLOv8 nano, pesa circa 10,7 MB: anche quando la larghezza di banda è limitata, inviare un aggiornamento completo richiede quindi pochi dati.
Il pacchetto Ultralytics per Python offre inoltre agli ingegneri di Scaleout la flessibilità necessaria per addestrare e distribuire i modelli su hardware diversi. Il modello compatto YOLOv8 nano funziona agevolmente su dispositivi edge con risorse limitate, mentre le opzioni di esportazione del pacchetto supportano la distribuzione nei diversi ambienti in cui opera Scaleout. Poiché i modelli sono semplici da ottimizzare, i team possono iterare rapidamente al variare delle condizioni sul campo.
Ultralytics YOLO aiuta Scaleout ad aggiornare i modelli più rapidamente#
Con Ultralytics YOLO, la parte più impegnativa del lavoro resta sul dispositivo. L'addestramento avviene su centinaia di gigabyte di riprese sul campo, ma ciò che viene effettivamente trasferito è un modello di circa 10 MB. Questo riduce notevolmente la quantità di dati da trasferire e rende possibile l'addestramento federato sulle reti limitate su cui si basano queste implementazioni.
Questo approccio cambia anche la rapidità con cui un modello migliorato torna sul campo. Attività che altrimenti potrebbero richiedere settimane o mesi — raccogliere i dati, spedirli a una sede centrale, riaddestrare il modello e ridistribuirlo — si riducono a giorni o ore quando il ciclo viene eseguito sul dispositivo edge.
Questo aspetto emerge con particolare chiarezza nel lavoro di Scaleout con i droni. Nelle missioni di ricognizione per la difesa, un drone segue un percorso di ricerca e usa un modello Ultralytics YOLO installato a bordo per rilevare, identificare e geolocalizzare in tempo reale gli oggetti di interesse; tutta l’elaborazione avviene sul computer del drone anziché essere inviata altrove per l’analisi.
Quando i droni acquisiscono nuovi filmati, i dati vengono inviati a un Vision Ground Node, dove YOLO viene ottimizzato sui nuovi fotogrammi e il modello aggiornato viene ridistribuito, senza che i filmati lascino mai la sede. I modelli di rilevamento devono adattarsi a condizioni che cambiano rapidamente e a dati che non possono essere trasferiti; un modello riaddestrato localmente continua a essere utile nei casi in cui un modello statico addestrato centralmente non riuscirebbe a tenere il passo.
Fig. 1. Esempio di come Scaleout e Ultralytics YOLO alimentano i droni AI (Fonte).
Lo stesso approccio si applica ben oltre i droni. In contesti industriali come gli impianti energetici e le strutture remote, dove i dati di ogni sede sono sensibili, la piattaforma migliora i modelli di rilevamento in più sedi senza che i dati originali oltrepassino i confini di un impianto. Che i dati si trovino su un drone o su un’installazione fissa, Scaleout conserva i filmati nella sede e trasferisce solo ciò che il modello ha appreso.
Creare IA adattiva per ambienti in cui i dati non possono essere trasferiti#
Con la crescita di Scaleout, la visione artificiale federata e basata su edge viene estesa ad altri contesti e hardware. I moduli preconfigurati sono progettati per ridurre mesi di integrazione a pochi giorni, così i clienti possono usare il proprio hardware e adottare il ciclo di apprendimento adattivo senza ricostruire il codice di machine learning sottostante.
Con Ultralytics YOLO al centro della pipeline di rilevamento, Scaleout rende possibile addestrare e migliorare l’IA proprio negli ambienti in cui gli approcci convenzionali non sono efficaci: i dati restano nella loro sede, le operazioni proseguono anche quando le reti non funzionano e le flotte di dispositivi edge diventano un sistema che apprende costantemente nel suo insieme.
Vuoi scoprire cosa può fare l’IA per la visione per te? Visita il nostro repository GitHub per scoprire come i modelli YOLO stanno trasformando ambiti come l’IA nella produzione e la visione artificiale nella robotica. Scopri le nostre opzioni di licenza e inizia il tuo percorso verso un’automazione più intelligente.
Scritto da
Digital Content Manager · Ultralytics
