Déployer Ultralytics YOLO11 sur Rockchip pour une IA Edge efficace

L’un des mots à la mode récents dans la communauté de l’IA est l’IA de périphérie, en particulier lorsqu’il s’agit de vision par ordinateur. À mesure que les applications basées sur l’IA se développent, il devient de plus en plus nécessaire d’exécuter efficacement les modèles sur des appareils embarqués disposant de ressources limitées en énergie et en calcul.

Par exemple, les drones utilisent la vision par IA pour la navigation en temps réel, les caméras intelligentes détectent instantanément les objets et les systèmes d’automatisation industrielle effectuent des contrôles qualité sans dépendre du cloud. Ces applications nécessitent un traitement IA rapide et efficace directement sur les appareils de périphérie afin de garantir des performances en temps réel et une faible latence. Cependant, l’exécution de modèles d’IA sur des appareils de périphérie n’est pas toujours simple. Les modèles d’IA nécessitent souvent plus de puissance et de mémoire que ne peuvent en fournir de nombreux appareils de périphérie.

Le RKNN Toolkit de Rockchip contribue à résoudre ce problème en optimisant les modèles d’apprentissage profond pour les appareils équipés de Rockchip. Il utilise des unités de traitement neuronal (NPUs) dédiées pour accélérer l’inférence et réduire la latence ainsi que la consommation d’énergie par rapport à un traitement sur CPU ou GPU.

La communauté de la vision par IA souhaitait vivement exécuter Ultralytics YOLO11 sur des appareils basés sur Rockchip, et nous t’avons entendu. Nous avons ajouté la prise en charge de l’exportation de YOLO11 au format de modèle RKNN. Dans cet article, nous allons voir comment fonctionne l’exportation vers RKNN et pourquoi le déploiement de YOLO11 sur des appareils équipés de Rockchip change la donne.

Qu’est-ce que Rockchip et le RKNN Toolkit ?#

Rockchip est une entreprise qui conçoit des systèmes sur puce (SoCs), des processeurs minuscules mais puissants qui équipent de nombreux appareils embarqués. Ces puces combinent un CPU, un GPU et une unité de traitement neuronal (NPU) pour gérer aussi bien les tâches informatiques générales que les applications de vision par IA reposant sur la détection d’objets et le traitement d’images.

Les SoCs Rockchip sont utilisés dans divers appareils, notamment les ordinateurs monocartes (SBCs), les cartes de développement, les systèmes d’IA industriels et les caméras intelligentes. De nombreux fabricants de matériel connus, comme Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas et Banana Pi, construisent des appareils équipés de SoCs Rockchip. Ces cartes sont populaires pour l’IA de périphérie et les applications de vision par ordinateur, car elles offrent un équilibre entre performances, efficacité énergétique et prix abordable.

Fig. 1. Exemple d’appareil équipé de Rockchip.

Pour aider les modèles d’IA à fonctionner efficacement sur ces appareils, Rockchip fournit le RKNN Toolkit. Il permet aux développeurs de convertir et d’optimiser des modèles d’apprentissage profond afin qu’ils utilisent les unités de traitement neuronal (NPUs) de Rockchip.

Les modèles RKNN sont optimisés pour une inférence à faible latence et une consommation d’énergie efficace. En convertissant les modèles au format RKNN, les développeurs peuvent obtenir des vitesses de traitement plus élevées, une consommation d’énergie réduite et une meilleure efficacité sur les appareils équipés de Rockchip.

Les modèles RKNN sont optimisés#

Examinons de plus près comment les modèles RKNN améliorent les performances de l’IA sur les appareils compatibles avec Rockchip.

Contrairement aux CPU et aux GPU, qui gèrent un large éventail de tâches informatiques, les NPU de Rockchip sont conçues spécifiquement pour l’apprentissage profond. En convertissant les modèles d’IA au format RKNN, les développeurs peuvent exécuter les inférences directement sur le NPU. Les modèles RKNN sont ainsi particulièrement utiles pour les tâches de vision par ordinateur en temps réel, qui nécessitent un traitement rapide et efficace.

Les NPU sont plus rapides et plus efficaces que les CPU et les GPU pour les tâches d’IA, car elles sont conçues pour traiter en parallèle les calculs des réseaux neuronaux. Alors que les CPU traitent les tâches une étape à la fois et que les GPU répartissent les charges de travail sur plusieurs cœurs, les NPU sont optimisées pour effectuer plus efficacement les calculs propres à l’IA.

Par conséquent, les modèles RKNN s’exécutent plus rapidement et consomment moins d’énergie, ce qui les rend idéaux pour les appareils alimentés par batterie, les caméras intelligentes, l’automatisation industrielle et d’autres applications d’IA de périphérie nécessitant une prise de décision en temps réel.

Présentation des modèles Ultralytics YOLO#

Les modèles Ultralytics YOLO (You Only Look Once) sont conçus pour des tâches de vision par ordinateur en temps réel telles que la détection d’objets, la segmentation d’instances et la classification d’images. Ils sont réputés pour leur vitesse, leur précision et leur efficacité, et sont largement utilisés dans des secteurs comme l’agriculture, l’industrie manufacturière, la santé et les systèmes autonomes.

Ces modèles se sont considérablement améliorés au fil du temps. Par exemple, Ultralytics YOLOv5 a facilité l’utilisation de la détection d’objets avec PyTorch. Ensuite, Ultralytics YOLOv8 a ajouté de nouvelles fonctionnalités comme l’estimation de la pose et la classification d’images. Désormais, YOLO11 va encore plus loin en augmentant la précision tout en utilisant moins de ressources. En fait, YOLO11m obtient de meilleurs résultats sur le jeu de données COCO tout en utilisant 22 % de paramètres en moins que YOLOv8m, ce qui le rend à la fois plus précis et plus efficace.

Fig. 2. Détection d’objets avec Ultralytics YOLO11.

Les modèles Ultralytics YOLO prennent également en charge l’exportation vers plusieurs formats, ce qui permet un déploiement flexible sur différentes plateformes. Ces formats incluent ONNX, TensorRT, CoreML et OpenVINO, donnant aux développeurs la liberté d’optimiser les performances en fonction du matériel cible.

Grâce à la prise en charge ajoutée de l’exportation de YOLO11 au format de modèle RKNN, YOLO11 peut désormais tirer parti des NPU de Rockchip. Le plus petit modèle, YOLO11n au format RKNN, atteint un temps d’inférence impressionnant de 99,5 ms par image, permettant un traitement en temps réel même sur des appareils embarqués.

Exporter ton modèle Ultralytics YOLO11 au format RKNN#

Actuellement, les modèles Ultralytics YOLO11 de détection d’objets peuvent être exportés au format RKNN. Reste également à l’écoute : nous travaillons à l’ajout de la prise en charge d’autres tâches de vision par ordinateur et de la quantification INT8 dans de prochaines mises à jour.

L’exportation d’Ultralytics YOLO11 au format RKNN est un processus simple. Tu peux charger ton modèle YOLO11 entraîné sur mesure, spécifier la plateforme Rockchip cible et le convertir au format RKNN en quelques lignes de code. Le format RKNN est compatible avec différents SoCs Rockchip, notamment RK3588, RK3566 et RK3576, ce qui garantit une large prise en charge matérielle.

Fig. 3. Exportation d’Ultralytics YOLO11 au format de modèle RKNN.

Déployer Ultralytics YOLO11 sur des appareils basés sur Rockchip#

Une fois exporté, le modèle RKNN peut être déployé sur des appareils basés sur Rockchip. Pour déployer le modèle, il te suffit de charger le fichier RKNN exporté sur ton appareil Rockchip et d’exécuter l’inférence, c’est-à-dire d’utiliser le modèle d’IA entraîné pour analyser de nouvelles images ou vidéos et détecter des objets en temps réel. En quelques lignes de code, tu peux commencer à identifier des objets dans des images ou des flux vidéo.

Fig. 4. Exécution d’une inférence avec le modèle RKNN exporté.

Applications de l’IA de périphérie avec Ultralytics YOLO11 et Rockchip#

Pour mieux comprendre où Ultralytics YOLO11 peut être déployé dans le monde réel sur des appareils compatibles avec Rockchip, examinons quelques applications clés de l’IA de périphérie.

Les processeurs Rockchip sont largement utilisés dans les tablettes basées sur Android, les cartes de développement et les systèmes d’IA industriels. Grâce à la prise en charge d’Android, de Linux et de Python, tu peux facilement créer et déployer des solutions de vision par IA pour divers secteurs.

Tablettes durcies intégrant Ultralytics YOLO11#

Une application courante d’Ultralytics YOLO11 sur des appareils équipés de Rockchip concerne les tablettes durcies. Ce sont des tablettes robustes et performantes, conçues pour des environnements exigeants comme les entrepôts, les chantiers et les environnements industriels. Elles peuvent exploiter la détection d’objets pour améliorer l’efficacité et la sécurité.

Par exemple, dans la logistique d’entrepôt, les opérateurs peuvent utiliser une tablette équipée de Rockchip et de YOLO11 pour scanner et détecter automatiquement les stocks, réduisant ainsi les erreurs humaines et accélérant les délais de traitement. De même, sur les chantiers, ces tablettes peuvent servir à vérifier si les travailleurs portent les équipements de sécurité requis, comme des casques et des gilets, afin d’aider les entreprises à faire respecter les réglementations et à prévenir les accidents.

Fig. 5. Détection d’équipements de sécurité avec Ultralytics YOLO11.

IA industrielle pour le contrôle qualité#

Dans le domaine de la fabrication et de l’automatisation, les cartes industrielles équipées de Rockchip peuvent jouer un rôle important dans le contrôle qualité et la surveillance des processus. Une carte industrielle est un module informatique compact et performant, conçu pour les systèmes embarqués en environnement industriel. Ces cartes incluent généralement des processeurs, de la mémoire, des interfaces d’E/S et des options de connectivité pouvant s’intégrer à des capteurs, des caméras et des machines automatisées.

L’exécution de modèles Ultralytics YOLO11 sur ces cartes permet d’analyser les lignes de production en temps réel, de repérer instantanément les problèmes et d’améliorer l’efficacité. Par exemple, dans la fabrication automobile, un système d’IA utilisant du matériel Rockchip et YOLO11 peut détecter les rayures, les pièces mal alignées ou les défauts de peinture au fur et à mesure que les voitures avancent sur la chaîne de montage. En identifiant ces défauts en temps réel, les fabricants peuvent réduire les déchets, diminuer les coûts de production et garantir des normes de qualité plus élevées avant que les véhicules n’atteignent les clients.

Avantages de l’exécution d’Ultralytics YOLO11 sur des appareils basés sur Rockchip#

Les appareils basés sur Rockchip offrent un bon équilibre entre performances, coût et efficacité, ce qui en fait un excellent choix pour déployer Ultralytics YOLO11 dans des applications d’IA de périphérie.

Voici quelques avantages de l’exécution d’Ultralytics YOLO11 sur des appareils basés sur Rockchip :

• Amélioration des performances de l’IA : les appareils compatibles avec Rockchip gèrent l’inférence IA plus efficacement que les cartes basées sur CPU comme Raspberry Pi, offrant une détection d’objets plus rapide et une latence réduite.
• Solution économique : si tu expérimentes avec l’IA et que tu as besoin d’une option abordable offrant tout de même de bonnes performances, Rockchip est un excellent choix. Il permet d’exécuter Ultralytics YOLO11 à moindre coût sans compromettre la vitesse ni l’efficacité.
• Efficacité énergétique : l’exécution de modèles de vision par ordinateur sur des appareils équipés de Rockchip consomme moins d’énergie que sur des GPU, ce qui est idéal pour les appareils alimentés par batterie et les applications d’IA embarquée.

Points clés à retenir#

Ultralytics YOLO11 peut fonctionner efficacement sur des appareils basés sur Rockchip en tirant parti de l’accélération matérielle et du format RKNN. Cela réduit le temps d’inférence et améliore les performances, ce qui le rend idéal pour les tâches de vision par ordinateur en temps réel et les applications d’IA de périphérie.

Le RKNN Toolkit fournit des outils d’optimisation essentiels comme la quantification et l’ajustement fin, afin de garantir de bonnes performances aux modèles Ultralytics YOLO11 sur les plateformes Rockchip. L’optimisation des modèles pour un traitement efficace sur l’appareil sera essentielle à mesure que l’adoption de l’IA de périphérie progressera. Avec les bons outils et le matériel adapté, les développeurs peuvent ouvrir de nouvelles possibilités pour les solutions de vision par ordinateur dans divers secteurs.

Rejoins notre communauté et consulte notre dépôt GitHub pour en apprendre davantage sur l’IA. Découvre comment la vision par ordinateur dans l’agriculture et l’IA dans le secteur de la santé stimulent l’innovation en visitant nos pages consacrées aux solutions. Consulte également nos options de licence pour commencer dès aujourd’hui à créer tes solutions de vision par IA !