Mostra e racconta: distribuzione di Ultralytics YOLOv8 su dispositivi embedded

Show and tell: implementazione di Ultralytics YOLOv8 su dispositivi embedded#

A YOLO Vision 2023 (YV23), Lakshantha Dissanayake ha illustrato i dettagli della distribuzione dei modelli Ultralytics YOLOv8 su dispositivi embedded, in particolare su piattaforme NVIDIA Jetson e MCU. Ecco i punti principali del suo intervento al Google for Startups Campus di Madrid.

Conosci Lakshantha Dissanayake#

Lakshantha Dissanayake, Application Engineer presso Seeed Studio, si occupa delle iniziative AIoT dell'azienda. Nel suo intervento ha sottolineato l'impegno di Seeed Studio nel promuovere partnership con sviluppatori, ISV e SI, puntando a rendere la tecnologia più accessibile.

L'evoluzione dell'edge#

Il passaggio all'edge computing segna una svolta verso l'elaborazione decentralizzata dei dati. Eseguire i carichi di lavoro sui dispositivi edge consente di elaborare i dati in tempo reale, riduce la latenza e rende i sistemi più reattivi in diversi settori.

Durante la presentazione, Lakshantha ha discusso le sfide e l'evoluzione dei dispositivi edge e il ruolo che svolgono nel rendere la tecnologia accessibile. Ha approfondito gli aspetti dell'ottimizzazione delle prestazioni edge, in particolare per le applicazioni di analisi video.

Superare le sfide dell'implementazione#

Stanno arrivando sul mercato numerosi nuovi dispositivi GPU, ma i loro prezzi sono piuttosto elevati. D'altra parte, i dispositivi embedded come la serie Jetson offrono diverse funzionalità di distribuzione che facilitano agli utenti finali l'esecuzione delle analisi di cui hanno bisogno. Se vuoi scoprire come iniziare a usare i dispositivi Jetson di Seeed Studio, leggi il nostro articolo su come aggiornare qualsiasi telecamera con Ultralytics YOLOv8 e i dispositivi edge di Seeed Studio.

Lakshantha ha condiviso soluzioni pratiche per affrontare le sfide legate alla distribuzione di Ultralytics YOLOv8 sui dispositivi edge. Dalla scrittura del sistema operativo (OS) alla configurazione dell'ambiente, l'intervento ha illustrato ogni passaggio, rendendo il processo di distribuzione più accessibile agli sviluppatori.

TensorRT e DeepStream#

TensorRT è un motore di inferenza ad alte prestazioni per i dispositivi embedded NVIDIA. Può quantizzare e ottimizzare il modello Ultralytics YOLOv8, migliorandone le prestazioni sui dispositivi edge.

Lakshantha ha inoltre mostrato come TensorRT migliori le prestazioni di inferenza e come DeepStream aumenti l'efficienza delle applicazioni multi-stream. Le dimostrazioni pratiche hanno mostrato come questi strumenti aiutino i modelli YOLO a funzionare in modo efficiente sui dispositivi embedded.

Presentazione della piattaforma MCU#

Un altro momento saliente è stata la dimostrazione dal vivo di Lakshantha, che ha mostrato come distribuire modelli YOLO sulla piattaforma MCU usando SenseCraft Model Assistant. La dimostrazione ha dato al pubblico un'idea della direzione in cui si sta muovendo l'IA edge.

In conclusione#

Oggi gran parte dell'attenzione è rivolta ai dispositivi embedded, per i quali i clienti cercano soluzioni convenienti e che richiedano una manutenzione minima. I dispositivi embedded di Seeed Studio includono funzionalità di preavvio, che semplificano l'operatività per sviluppatori e utenti finali.

Nel complesso, la sessione ha approfondito gli aspetti tecnici della distribuzione edge e messo in evidenza lo spirito di collaborazione della community dell'IA.

Guarda l'intero intervento sulla distribuzione di Ultralytics YOLOv8 su dispositivi embedded.