Démonstration : déploiement d’Ultralytics YOLOv8 sur des appareils embarqués

Présentation : déploiement d’Ultralytics YOLOv8 sur des appareils embarqués#

À YOLO Vision 2023 (YV23), Lakshantha Dissanayake a présenté les détails du déploiement des modèles Ultralytics YOLOv8 sur des appareils embarqués, notamment sur NVIDIA Jetson et des plateformes MCU. Voici les points clés de son intervention au Google for Startups Campus de Madrid.

Découvre Lakshantha Dissanayake#

Lakshantha Dissanayake, ingénieur d’application chez Seeed Studio, travaille sur les initiatives AIoT de l’entreprise. Son intervention a souligné l’engagement de Seeed Studio à favoriser les partenariats avec les développeurs, les ISV et les intégrateurs de systèmes (SI), en mettant l’accent sur une technologie plus accessible.

L’évolution de l’edge computing#

Le passage à la périphérie marque une évolution de l’informatique vers le traitement décentralisé des données. L’exécution de charges de travail sur des appareils en périphérie permet le traitement en temps réel, réduit la latence et rend les systèmes plus réactifs dans divers secteurs.

Lors de sa présentation, Lakshantha a abordé les défis et l’évolution des appareils en périphérie, ainsi que leur rôle pour rendre la technologie accessible. Il a traité des particularités de l’optimisation des performances en périphérie, notamment pour les applications d’analyse vidéo.

Surmonter les défis du déploiement#

De nombreux nouveaux GPU arrivent sur le marché, mais leur prix est assez élevé. En revanche, les appareils embarqués comme la série Jetson offrent diverses fonctionnalités de déploiement qui permettent aux utilisateurs finaux d’effectuer plus facilement les analyses dont ils ont besoin. Si tu veux savoir comment démarrer avec les appareils Jetson de Seeed Studio, lis notre article sur la mise à niveau de n’importe quelle caméra avec Ultralytics YOLOv8 et les appareils en périphérie de Seeed Studio.

Pour répondre aux défis du déploiement d’Ultralytics YOLOv8 sur des appareils en périphérie, Lakshantha a présenté des solutions pratiques. Du flashage du système d’exploitation (OS) à la configuration de l’environnement, son intervention a détaillé chaque étape afin de rendre le processus de déploiement plus accessible aux développeurs.

TensorRT et DeepStream#

TensorRT est un moteur d’inférence haute performance pour les appareils embarqués NVIDIA. Il peut quantifier et optimiser le modèle Ultralytics YOLOv8 afin d’améliorer ses performances sur les appareils en périphérie.

Lakshantha a également montré comment TensorRT améliore les performances d’inférence et comment DeepStream accroît l’efficacité des applications à flux multiples. Des démonstrations pratiques ont montré comment ces outils permettent aux modèles YOLO de fonctionner efficacement sur des appareils embarqués.

Présentation de la plateforme MCU#

Un autre temps fort a été la démonstration en direct de Lakshantha, qui a déployé des modèles YOLO sur la plateforme MCU à l’aide de SenseCraft Model Assistant. La démonstration a donné au public un aperçu de l’avenir de l’IA en périphérie.

Pour conclure#

Aujourd’hui, l’accent est largement mis sur les appareils embarqués, pour lesquels les clients recherchent des solutions économiques nécessitant peu de maintenance. Les appareils embarqués de Seeed Studio intègrent une fonctionnalité de préamorçage qui facilite leur utilisation par les développeurs et les utilisateurs finaux.

Dans l’ensemble, la session a abordé les détails techniques du déploiement en périphérie et mis en lumière l’esprit de collaboration au sein de la communauté de l’IA.

Regarde l’intervention complète sur le déploiement d’Ultralytics YOLOv8 sur des appareils embarqués.