Exporter des modèles Ultralytics YOLO11 au format de modèle NCNN

Les solutions d’IA sont de plus en plus courantes, y compris dans des secteurs où les enjeux sont importants comme la gestion des catastrophes, la gestion des déchets et la lutte contre les incendies. À mesure que leur adoption progresse, les modèles d’IA sont déployés dans des environnements toujours plus variés — pas seulement sur des serveurs ou dans le cloud, mais directement sur des appareils utilisés sur le terrain.

Par exemple, les drones et les équipements dotés de composants de périphérie et alimentés par de petits processeurs peuvent jouer un rôle crucial dans les zones sinistrées. Équipés de caméras thermiques, ces appareils peuvent recueillir et analyser des données sur place pour localiser les personnes piégées sous les décombres. Cela est rendu possible par la vision par ordinateur, une branche de l’intelligence artificielle qui interprète les informations visuelles provenant d’images et de vidéos.

Cependant, déployer des modèles d’IA visuelle sur des appareils périphériques n’est pas aussi simple qu’il y paraît. Les modèles d’IA doivent être optimisés pour fonctionner efficacement sur du matériel dont la puissance de calcul et la mémoire sont limitées. C’est pourquoi les frameworks d’IA comme NCNN sont indispensables. Ils permettent de convertir et d’optimiser les modèles pour obtenir des performances en temps réel sur des appareils à faible consommation, avec une perte de précision minimale.

En particulier, les modèles Ultralytics YOLO, comme Ultralytics YOLO11, peuvent facilement être exportés au format NCNN grâce à l’intégration NCNN prise en charge par Ultralytics. Convertir YOLO11 au format NCNN permet au modèle de s’exécuter plus vite, d’utiliser moins de mémoire et de fonctionner efficacement sur différents appareils, avec une perte de précision minimale.

Dans cet article, nous allons explorer l’intégration NCNN prise en charge par Ultralytics et voir comment exporter ton modèle YOLO11 au format NCNN.

Présentation de NCNN : un framework de réseau neuronal léger#

NCNN est un framework open source d’inférence de réseaux neuronaux développé par Tencent. Il a été spécialement conçu pour les environnements mobiles et en périphérie, afin d’assurer une inférence performante avec une empreinte minimale. Il est ainsi idéal pour les appareils aux ressources limitées, comme les smartphones, les drones et les appareils de l’Internet des objets (IoT).

Le framework NCNN a gagné en popularité dans la communauté de l’IA et de l’apprentissage profond grâce à son efficacité, sa portabilité et son optimisation pour les unités centrales de traitement (CPU) mobiles. Il permet aux développeurs d’exécuter des modèles de réseaux neuronaux sur des appareils abordables disposant d’une mémoire et d’une puissance de calcul limitées. Conçu pour être simple et flexible, NCNN prend en charge une grande variété de modèles de vision par ordinateur et fonctionne sur plusieurs plateformes, notamment Android, Linux, iOS et macOS.

Fig. 1. Les modèles au format NCNN peuvent être déployés sur de nombreuses plateformes.

Principales fonctionnalités d’optimisation des performances de NCNN#

Voici quelques-unes des principales fonctionnalités qui font de NCNN un framework d’inférence de réseaux neuronaux puissant et largement utilisé :

• Environnement d’exécution léger et indépendant du matériel : le framework NCNN est optimisé pour exécuter des modèles sur des CPU standard et ne nécessite pas de matériel spécialisé comme des GPU ou des NPU.
• Quantification des modèles : pour les applications où la mémoire et la vitesse sont essentielles, NCNN prend en charge des méthodes de quantification qui réduisent la taille des modèles et améliorent le temps d’inférence. Cela permet d’exécuter les modèles d’IA sans difficulté sur des appareils mobiles et embarqués.
• Open source et accessible : en tant que framework open source, NCNN est librement accessible à tous pour l’utiliser, le modifier et l’améliorer. Cela favorise l’innovation et son adoption à grande échelle pour une grande variété de cas d’usage.
• Développement actif et communauté : NCNN est activement maintenu sur GitHub par Tencent et une communauté de développeurs en pleine croissance, avec des mises à jour régulières et des améliorations de la compatibilité des modèles.

Exporter Ultralytics YOLO11 au format de modèle NCNN : guide rapide#

Maintenant que nous avons vu ce qu’est NCNN, examinons de plus près comment exporter des modèles Ultralytics YOLO11 au format NCNN.

Étape 1 : installer le package Python Ultralytics#

Avant d’exporter le modèle, la première étape consiste à installer le package Python Ultralytics à l’aide du programme d’installation de paquets pip. Pour ce faire, exécute pip install ultralytics dans ton terminal ou ton invite de commandes. Si tu utilises un Notebook Jupyter ou Google Colab, ajoute un point d’exclamation devant la commande, comme ceci : !pip install ultralytics.

Le package Ultralytics fournit des outils pour entraîner, tester, affiner et exporter des modèles d’IA visuelle destinés à diverses tâches de vision par ordinateur. Si tu rencontres des problèmes lors de l’installation ou de l’exportation d’un modèle, la documentation officielle Ultralytics et le guide des problèmes courants sont d’excellentes ressources pour les résoudre.

Étape 2 : exporter Ultralytics YOLO11#

Après avoir installé le package Ultralytics, tu peux charger ton modèle YOLO11 et l’exporter au format NCNN. L’exemple ci-dessous utilise un modèle YOLO11n préentraîné (yolo11n.pt) et l’exporte au format NCNN en enregistrant la sortie dans un dossier nommé yolo11n_ncnn_model.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

Tu peux ensuite déployer le modèle Ultralytics YOLO11 exporté sur divers appareils légers, comme des smartphones, des systèmes embarqués ou des plateformes IoT. Le processus de déploiement est également très simple.

Considère l’extrait de code ci-dessous : il montre comment charger le modèle exporté et exécuter l’inférence. L’inférence désigne le processus consistant à utiliser un modèle entraîné pour effectuer des prédictions sur de nouvelles données qu’il n’a jamais vues. Dans cet exemple, le modèle est testé sur une image d’un homme à vélo, récupérée depuis une URL accessible au public.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Après avoir exécuté le code, tu trouveras l’image de sortie dans le dossier runs/detect/predict.

Fig. 2. Détection d’objets à l’aide d’un modèle Ultralytics YOLO11 exporté au format NCNN. Image de l’auteur.

Pourquoi choisir la détection en temps réel avec NCNN#

En explorant les différentes intégrations prises en charge par Ultralytics, tu remarqueras peut-être que plusieurs options d’exportation sont disponibles. Alors, quand choisir le format NCNN ?

Le format d’exportation NCNN est un choix fiable lorsque tu dois déployer des modèles Ultralytics YOLO11 sur des appareils aux ressources limitées. Il est particulièrement utile pour les applications en temps réel qui s’exécutent directement sur l’appareil, comme les appareils edge, sans connexion au cloud. Le modèle peut ainsi effectuer des tâches telles que la détection d’objets directement sur place.

Voici quelques cas courants où NCNN est particulièrement adapté :

• Déploiement mobile : le format NCNN est optimisé pour Android et iOS, ce qui facilite l’intégration des modèles dans des applications mobiles et permet une inférence rapide sur l’appareil, avec une latence minimale.
• Systèmes embarqués et appareils IoT : si tu déploies ton modèle sur des appareils comme Raspberry Pi ou NVIDIA Jetson, l’exportation au format NCNN peut améliorer les performances et la réactivité.
• Déploiement sur ordinateur et serveur : NCNN convient très bien aux appareils basse consommation, mais prend également en charge Linux, Windows et macOS pour les environnements de bureau et de serveur. Les développeurs disposent ainsi d’options de déploiement flexibles.

Fig. 3. Options de déploiement d’un modèle Ultralytics YOLO11 avec NCNN. Image de l’auteur.

Cas d’utilisation du déploiement d’un modèle Ultralytics YOLO11 avec NCNN#

Voyons maintenant quelques cas d’usage concrets dans lesquels l’exportation de modèles Ultralytics YOLO11 au format NCNN peut faire une réelle différence.

Casques d’IA visuelle pour les pompiers#

Les casques de sécurité équipés de caméras et de micro-ordinateurs embarqués peuvent être utilisés dans des domaines comme la construction et la lutte contre les incendies pour améliorer la sécurité et la vigilance. Des modèles d’IA visuelle en temps réel, comme Ultralytics YOLO11, peuvent s’exécuter sur ces appareils pour détecter différents types d’objets et d’équipements. Par exemple, ces casques peuvent aider les pompiers à repérer des personnes, des obstacles ou des dangers dans des conditions de faible visibilité.

Cependant, l’exécution de modèles complets directement sur des appareils portables peut ralentir les performances et épuiser rapidement la batterie. Dans ce cas, l’intégration NCNN est un choix judicieux. Elle permet une inférence à faible latence et économe en énergie.

Tri des déchets et poubelles intelligentes#

De même, les poubelles intelligentes peuvent être équipées de caméras et de processeurs compacts d’IA en périphérie pour identifier et trier les matériaux au moment où ils sont jetés. Les modèles d’IA visuelle comme YOLO11 peuvent être entraînés sur mesure pour détecter différents types de déchets, comme le papier, le plastique, le caoutchouc, etc.

Une fois les déchets identifiés, ils peuvent être automatiquement triés dans des compartiments distincts selon leur potentiel de réutilisation. Grâce à l’IA edge et aux modèles Ultralytics YOLO11 exportés au format NCNN, ces poubelles peuvent traiter les données localement, sans connexion Internet. Elles peuvent ainsi fonctionner de manière autonome et prendre des décisions de tri en temps réel, avec un délai minimal.

Fig. 4. Détection de déchets plastiques à l’aide de YOLO11.

Suivi du bétail à l’aide de drones et de la vision par ordinateur#

Dans les zones agricoles isolées, l’accès à une connexion Internet stable, voire à une alimentation électrique constante, fait parfois défaut, ce qui limite la possibilité d’exécuter des applications d’IA en ligne. Dans ce type de situation, des appareils edge et des drones peuvent servir à effectuer diverses tâches.

Le suivi du bétail, notamment des bovins, des moutons et de la volaille, en est un bon exemple. Il peut être réalisé à l’aide de modèles d’IA visuelle comme YOLO11, qui permettent de suivre les déplacements des animaux, de repérer des signes de blessure, de maladie ou de comportement anormal et d’alerter les agriculteurs en cas de disparition. L’intégration NCNN permet également d’exécuter et de traiter ces données directement sur des appareils edge, ce qui en fait une solution idéale pour l’analyse d’images et de vidéos dans des exploitations agricoles isolées ou hors réseau.

Fig. 5. Exemple d’utilisation de YOLO11 pour suivre le bétail.

Points clés à retenir#

L’exportation de modèles YOLO11 à l’aide de l’intégration NCNN prise en charge par Ultralytics est un moyen simple d’apporter l’IA visuelle aux environnements à faible consommation. Qu’il s’agisse de drones dans des zones sinistrées, de poubelles intelligentes de tri ou de surveillance du bétail dans des exploitations isolées, YOLO et NCNN permettent une inférence d’IA en temps réel, rapide, efficace et portable. Cette approche rend les systèmes d’IA plus accessibles et plus fiables quand cela compte le plus.

Tu veux en savoir plus sur l’IA ? Explore notre dépôt GitHub, rejoins notre communauté et consulte nos options de licence pour lancer ton projet de vision par ordinateur. Découvre comment des innovations comme l’IA dans le commerce de détail et la vision par ordinateur dans le secteur de la santé façonnent l’avenir sur nos pages consacrées à nos solutions.