Edge AI

L'Edge AI si riferisce alla distribuzione di algoritmi e modelli di intelligenza artificiale (AI) direttamente su dispositivi hardware locali, come smartphone, sensori IoT, droni e veicoli connessi, anziché affidarsi a centri di cloud computing centralizzati. Questo approccio decentralizzato consente di elaborare i dati alla fonte della loro creazione, riducendo notevolmente la latenza dovuta all'invio di informazioni avanti e indietro verso server remoti. Eseguendo attività di machine learning (ML) in locale, i dispositivi possono prendere decisioni istantanee, funzionare in modo affidabile senza connettività a internet e migliorare la privacy dei dati mantenendo le informazioni sensibili direttamente sul dispositivo.

Come funziona l'Edge AI#

Il nucleo dell'Edge AI consiste nell'eseguire un motore di inferenza su un sistema embedded. Poiché i dispositivi edge presentano in genere una durata della batteria e una potenza di calcolo limitate rispetto ai server cloud, i modelli AI devono essere estremamente efficienti. Gli sviluppatori impiegano spesso tecniche come la quantizzazione del modello o la potatura del modello per comprimere grandi reti neurali senza sacrificare in modo significativo la precisione.

Gli acceleratori hardware specializzati vengono utilizzati di frequente per gestire questi carichi di lavoro in modo efficiente. Esempi includono la piattaforma NVIDIA Jetson per la robotica e Google Coral Edge TPU per l'inferenza a basso consumo. Anche i framework software svolgono un ruolo fondamentale; strumenti come TensorRT e TFLite ottimizzano i modelli in modo specifico per questi ambienti vincolati, garantendo una rapida inferenza in tempo reale.

Edge AI vs. Edge Computing#

Sebbene i termini siano spesso usati in modo intercambiabile, è utile distinguerli:

• Edge Computing: Descrive l'infrastruttura fisica e la topologia di rete più ampie in cui l'elaborazione dei dati avviene vicino alla fonte dei dati. È il "dove" dell'equazione.
• Edge AI: Si riferisce nello specifico alle applicazioni intelligenti eseguite su tale infrastruttura. È il "cosa". Ad esempio, una telecamera di sicurezza funge da dispositivo edge computing, ma quando utilizza la computer vision (CV) per riconoscere una persona specifica, sta eseguendo Edge AI.

Applicazioni nel mondo reale#

L'Edge AI sta trasformando le industrie abilitando il processo decisionale autonomo in scenari critici:

• Veicoli autonomi: Le auto a guida autonoma generano terabyte di dati ogni giorno. Non possono fare affidamento sul cloud per identificare pedoni o ostacoli a causa della latenza del segnale. Utilizzano invece l'Edge AI a bordo per il rilevamento degli oggetti istantaneo al fine di garantire la sicurezza dei passeggeri.
• Manutenzione intelligente: Nell'Industrial IoT (IIoT), i sensori sulle linee di produzione utilizzano l'Edge AI per la manutenzione predittiva. Analizzando i dati di vibrazione e temperatura in locale, il sistema può rilevare anomalie e prevedere guasti alle apparecchiature in tempo reale, prevenendo costosi tempi di inattività.
• Sanità: I dispositivi medici portatili dotati di Vision AI possono analizzare immagini mediche o parametri vitali dei pazienti direttamente nel punto di cura, fornendo un supporto diagnostico immediato in aree remote con scarsa connettività.

Distribuzione dei modelli sull'edge#

Distribuire un modello sull'edge comporta in genere l'addestramento di un modello in un ambiente ad alto potere di calcolo e la successiva esportazione in un formato compatibile con i dispositivi edge, come ONNX o OpenVINO. La piattaforma Ultralytics semplifica questo flusso di lavoro, consentendo agli utenti di addestrare ed esportare automaticamente modelli per vari destinatari edge.

Il seguente esempio mostra come esportare un modello YOLO26 leggero, progettato specificamente per l'efficienza, in un formato adatto alla distribuzione su dispositivi mobili e edge.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Le distribuzioni edge avanzate utilizzano spesso tecnologie di containerizzazione come Docker per pacchettizzare le applicazioni, garantendo che vengano eseguite in modo coerente su diverse architetture di dispositivi, dalle unità Raspberry Pi ai gateway industriali.