Edge Computing

Perché l'Edge Computing è importante per l'AI/ML

L'edge computing è particolarmente trasformativo per l'intelligenza artificiale (AI) e il ML, soprattutto nel campo della computer vision (CV). Molte applicazioni di AI, come quelle che prevedono l'analisi di immagini o flussi video, richiedono l'elaborazione immediata dei dati dei sensori per consentire un processo decisionale tempestivo. L'invio di grandi volumi di dati al cloud introduce ritardi(latenza) spesso inaccettabili per scenari che richiedono un'inferenza in tempo reale. L'edge computing affronta direttamente questa sfida consentendo ai modelli di ML, compresi quelli sofisticati di rilevamento degli oggetti come Ultralytics YOLO, di essere eseguiti direttamente sulla fonte dei dati o in prossimità di essa. Questo riduce drasticamente i tempi di risposta, conserva la larghezza di banda della rete e può migliorare significativamente la privacy dei dati mantenendo le informazioni sensibili localizzate, in linea con le normative come il GDPR. Il progresso di hardware potente ma efficiente dal punto di vista energetico, come le GPU specializzate come la serie NVIDIA Jetson e gli acceleratori come le TPU (ad esempio, Google Coral Edge TPU), progettati specificamente per i dispositivi edge, alimenta ulteriormente questa tendenza. Per saperne di più sull'implementazione di applicazioni di computer vision su dispositivi AI edge.

Edge Computing vs. Edge AI

È importante distinguere tra Edge Computing e Edge AI.

• Edge Computing: Si riferisce all'infrastruttura più ampia e alla pratica di spostare le attività di calcolo più vicino alla fonte dei dati. Comprende l'hardware (dispositivi edge, server, gateway), la rete e i sistemi di gestione necessari per l'elaborazione distribuita. Si tratta di un palcoscenico.
• Edge AI: si tratta in particolare di eseguire algoritmi di intelligenza artificiale e di ML direttamente su questi dispositivi edge. Sfrutta l'infrastruttura di edge computing per eseguire attività come l'inferenza a livello locale. L'Edge AI è la performance che avviene sul palcoscenico.

In sostanza, l'Edge AI è un sottoinsieme o un'applicazione specifica del paradigma dell'edge computing, incentrato sull'implementazione di funzionalità AI al di fuori dei data center centralizzati. È possibile esplorare in dettaglio le applicazioni di Edge AI del mondo reale.

Applicazioni AI/ML nel mondo reale

L'edge computing consente una vasta gamma di applicazioni innovative di AI/ML che si basano sull'elaborazione locale:

• Veicoli autonomi: Le auto a guida autonoma richiedono l'elaborazione istantanea dei dati dei sensori (telecamere, LiDAR) per la navigazione, l'evitamento degli ostacoli e il processo decisionale. Affidarsi al cloud introdurrebbe una latenza inaccettabile. L'edge computing consente a veicoli come quelli sviluppati da Tesla o Waymo di eseguire calcoli critici di intelligenza artificiale a bordo per un funzionamento sicuro. I modelli Ultralytics possono svolgere un ruolo nelle soluzioni di AI nel settore automobilistico.
• Produzione intelligente: Nelle fabbriche, i dispositivi edge dotati di telecamere e modelli AI come YOLO11 possono eseguire ispezioni di qualità in tempo reale sulle linee di produzione, rilevare istantaneamente i difetti, monitorare la sicurezza dei lavoratori e ottimizzare i processi senza inviare grandi quantità di dati video al cloud. Questo migliora l'efficienza e consente un intervento immediato. Scoprite come l 'intelligenza artificiale migliora la produzione.
• L'intelligenza artificiale nell'assistenza sanitaria: L'edge computing consente il monitoraggio in tempo reale dei pazienti tramite sensori indossabili o telecamere in camera, l'analisi immediata dei dati di imaging medico su dispositivi locali e alimenta strumenti medici intelligenti che forniscono un feedback immediato durante le procedure, migliorando la cura del paziente e la privacy dei dati.
• Analitica del commercio al dettaglio: I negozi utilizzano i dispositivi edge per una gestione più intelligente dell'inventario di vendita al dettaglio, analizzando il comportamento dei clienti in forma anonima attraverso le telecamere per ottimizzare il layout e alimentando i sistemi di cassa senza cassiere come Amazon Go.

Considerazioni chiave per l'implementazione Edge

L'implementazione di successo dei modelli di IA nell'edge spesso richiede tecniche e strumenti specifici:

• Ottimizzazione dei modelli: Tecniche come la quantizzazione del modello e il pruning del modello sono fondamentali per ridurre le dimensioni del modello e i requisiti computazionali, assicurando un'esecuzione efficiente su hardware edge con risorse limitate. Framework come TensorRT e OpenVINO aiutano a ottimizzare i modelli per hardware specifici.
• Selezione dell'hardware: La scelta del dispositivo edge più adatto(Raspberry Pi, NVIDIA Jetson, Google Coral) dipende dalle esigenze di prestazioni dell'applicazione, dal budget energetico e dalle condizioni ambientali.
• Gestione e orchestrazione: La gestione di migliaia di dispositivi edge distribuiti richiede strumenti robusti per la distribuzione, il monitoraggio e gli aggiornamenti, spesso con piattaforme come Kubernetes adattate all'edge(K3s, MicroK8s) o piattaforme MLOps specializzate come Ultralytics HUB.
• Sicurezza: Se da un lato l'elaborazione edge può migliorare la privacy dei dati, dall'altro gli stessi dispositivi edge possono presentare nuove vulnerabilità di sicurezza che devono essere gestite con attenzione attraverso l'avvio sicuro, la comunicazione crittografata e il controllo degli accessi. Per saperne di più sulle migliori pratiche di sicurezza.