Edge AI

Edge AI si riferisce all'implementazione di algoritmi e modelli di intelligenza artificiale (AI) direttamente su dispositivi hardware locali, come smartphone, sensori IoT, droni e veicoli connessi, invece di affidarsi a centri di cloud computing centralizzati. Questo approccio decentralizzato consente di elaborare i dati alla fonte in cui vengono creati, riducendo significativamente la latenza associata all'invio di informazioni avanti e indietro verso server remoti. Eseguendo localmente attività di apprendimento automatico (ML), i dispositivi possono prendere decisioni istantanee, funzionare in modo affidabile senza connessione a Internet e migliorare la privacy dei dati mantenendo le informazioni sensibili direttamente sul dispositivo.

Come funziona Edge AI#

Il fulcro di Edge AI consiste nell'eseguire un motore di inferenza su un sistema embedded. Poiché i dispositivi edge hanno in genere una durata della batteria e una potenza di calcolo limitate rispetto ai server cloud, i modelli di AI devono essere altamente efficienti. Gli sviluppatori utilizzano spesso tecniche come la quantizzazione dei modelli o il pruning dei modelli per comprimere le reti neurali di grandi dimensioni senza sacrificare significativamente la precisione.

Per gestire questi carichi di lavoro in modo efficiente, vengono spesso utilizzati acceleratori hardware specializzati. Tra gli esempi figurano la piattaforma NVIDIA Jetson per la robotica e il Google Coral Edge TPU per l'inferenza a basso consumo. Anche i framework software svolgono un ruolo fondamentale; strumenti come TensorRT e TFLite ottimizzano i modelli specificamente per questi ambienti con risorse limitate, garantendo una rapida inferenza in tempo reale.

Edge AI e Edge Computing#

Sebbene i termini siano spesso usati in modo intercambiabile, è utile distinguerli:

• Edge Computing: descrive l'infrastruttura fisica e la topologia di rete più ampie in cui l'elaborazione dei dati avviene vicino alla fonte dei dati. Rappresenta il "dove" dell'equazione.
• Edge AI: si riferisce nello specifico alle applicazioni intelligenti in esecuzione su tale infrastruttura. Rappresenta il "cosa". Ad esempio, una telecamera di sicurezza funge da dispositivo di edge computing, ma quando utilizza la visione artificiale (CV) per riconoscere una persona specifica, sta eseguendo Edge AI.

Applicazioni nel mondo reale#

Edge AI sta trasformando i settori industriali consentendo di prendere decisioni autonome in scenari critici:

• Veicoli autonomi: le auto a guida autonoma generano terabyte di dati ogni giorno. Non possono affidarsi al cloud per identificare pedoni o ostacoli a causa della latenza del segnale. Utilizzano invece Edge AI a bordo per il rilevamento degli oggetti istantaneo, così da garantire la sicurezza dei passeggeri.
• Produzione intelligente: nell'IoT industriale (IIoT), i sensori presenti negli stabilimenti utilizzano Edge AI per la manutenzione predittiva. Analizzando localmente i dati relativi a vibrazioni e temperatura, il sistema può rilevare anomalie e prevedere in tempo reale i guasti alle apparecchiature, evitando costosi periodi di inattività.
• Sanità: i dispositivi medici portatili dotati di Vision AI possono analizzare immagini mediche o parametri vitali dei pazienti direttamente presso il punto di assistenza, fornendo un supporto diagnostico immediato in aree remote con connettività scarsa.

Distribuzione dei modelli sull'edge#

L'implementazione di un modello sull'edge prevede in genere l'addestramento in un ambiente con elevate risorse di calcolo e la successiva esportazione in un formato compatibile con i dispositivi edge, come ONNX o OpenVINO. La Ultralytics Platform semplifica questo flusso di lavoro, consentendo agli utenti di addestrare ed esportare automaticamente i modelli per diversi dispositivi edge di destinazione.

L'esempio seguente mostra come esportare un modello YOLO26 leggero, progettato specificamente per l'efficienza, in un formato adatto all'implementazione su dispositivi mobili e edge.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Le implementazioni edge avanzate utilizzano spesso tecnologie di containerizzazione come Docker per impacchettare le applicazioni, garantendo che vengano eseguite in modo coerente su architetture di dispositivi diverse, dalle unità Raspberry Pi ai gateway industriali.