Exporter les modèles Ultralytics YOLO11 au format de modèle NCNN

Les solutions d’IA deviennent de plus en plus courantes, même dans des secteurs à forts enjeux comme la gestion des catastrophes, la gestion des déchets et la lutte contre les incendies. À mesure que leur adoption progresse, les modèles d’IA sont déployés dans des environnements de plus en plus variés : non seulement sur des serveurs ou dans le cloud, mais aussi directement sur des appareils utilisés sur le terrain.

Par exemple, les drones et les équipements dotés de composants edge alimentés par de petits processeurs peuvent jouer un rôle crucial dans les zones sinistrées. Équipés de caméras thermiques, ces appareils peuvent collecter et analyser des données sur place afin de localiser des personnes prisonnières des décombres. Cela est rendu possible par la vision par ordinateur, une branche de l’intelligence artificielle qui interprète les informations visuelles issues d’images et de vidéos.

Cependant, le déploiement de modèles d’IA pour la vision sur des appareils edge n’est pas aussi simple qu’il y paraît. Les modèles d’IA doivent être optimisés pour fonctionner efficacement sur du matériel disposant de capacités de calcul et d’une mémoire limitées. C’est pourquoi les frameworks d’IA comme NCNN sont essentiels. Ils contribuent à convertir et à optimiser les modèles afin d’obtenir des performances en temps réel sur des appareils peu énergivores, sans sacrifier la précision.

En particulier, les modèles Ultralytics YOLO comme Ultralytics YOLO11 peuvent être facilement exportés au format de modèle NCNN grâce à l’intégration NCNN prise en charge par Ultralytics. La conversion de YOLO11 au format de modèle NCNN permet au modèle de s’exécuter plus rapidement, d’utiliser moins de mémoire et de fonctionner efficacement sur différents appareils sans perdre en précision.

Dans cet article, nous allons examiner l’intégration NCNN prise en charge par Ultralytics et voir comment exporter ton modèle YOLO11 au format de modèle NCNN. C’est parti !

Présentation de NCNN : un framework de réseaux neuronaux léger#

NCNN est un framework open source d’inférence de réseaux neuronaux développé par Tencent. Il a été spécialement conçu pour les environnements mobiles et edge, afin d’offrir des performances d’inférence élevées avec une empreinte minimale. Il est ainsi idéal pour un déploiement sur des appareils aux ressources limitées, comme les smartphones, les drones et les appareils IoT (Internet des objets).

Le framework NCNN a gagné en popularité dans la communauté de l’IA et de l’apprentissage profond grâce à son efficacité, sa portabilité et son optimisation pour les CPU mobiles (unités centrales de traitement). Il permet aux développeurs d’exécuter des modèles de réseaux neuronaux sur des appareils abordables disposant d’une mémoire et d’une puissance de traitement limitées. Conçu pour être simple et flexible, NCNN prend en charge un large éventail de modèles de vision par ordinateur et fonctionne sur plusieurs plateformes, notamment Android, Linux, iOS et macOS.

Fig. 1. Les modèles au format NCNN peuvent être déployés sur de nombreuses plateformes.

Principales fonctionnalités d’optimisation des performances de NCNN#

Voici quelques-unes des principales fonctionnalités qui font de NCNN un framework d’inférence de réseaux neuronaux performant et largement utilisé :

• Runtime léger et indépendant du matériel : le framework NCNN est optimisé pour exécuter des modèles sur des CPU standard et ne nécessite pas de matériel spécialisé comme des GPU (unités de traitement graphique) ou des NPU (unités de traitement neuronal).
• Quantification des modèles : pour les applications où la mémoire et la vitesse sont essentielles, NCNN prend en charge des méthodes de quantification qui réduisent la taille des modèles et améliorent le temps d’inférence. Cela permet d’exécuter efficacement des modèles d’IA sur des appareils mobiles et embarqués.
• Open source et accessible : en tant que framework open source, NCNN est librement accessible à toute personne souhaitant l’utiliser, le modifier ou l’améliorer. Cela favorise l’innovation et son adoption à grande échelle dans une grande variété de cas d’usage.
• Développement actif et communauté : NCNN est activement maintenu sur GitHub par Tencent et une communauté de développeurs grandissante, avec des mises à jour régulières et des améliorations de la compatibilité des modèles.

Exporter Ultralytics YOLO11 au format de modèle NCNN : guide rapide#

Maintenant que nous avons vu ce qu’est NCNN, examinons de plus près comment exporter des modèles Ultralytics YOLO11 au format NCNN.

Étape 1 : installer le package Python Ultralytics#

Avant d’exporter le modèle, la première étape consiste à installer le package Python Ultralytics à l’aide de l’installateur de packages pip. Pour cela, exécute "pip install ultralytics" dans ton terminal ou ton invite de commandes. Si tu travailles dans un notebook Jupyter ou Google Colab, ajoute un point d’exclamation avant la commande, comme ceci : "!pip install ultralytics".

Le package Ultralytics fournit des outils pour entraîner, tester, affiner et exporter des modèles d’IA pour la vision dans le cadre de diverses tâches de vision par ordinateur. Si tu rencontres des problèmes pendant l’installation ou l’exportation d’un modèle, la documentation officielle d’Ultralytics et le guide des problèmes courants sont d’excellentes ressources de dépannage.

Étape 2 : exporter Ultralytics YOLO11#

Après avoir installé le package Ultralytics, tu peux charger ton modèle YOLO11 et l’exporter au format NCNN. L’exemple ci-dessous utilise un modèle préentraîné ("yolo11n.pt") et l’exporte au format NCNN, en enregistrant le résultat dans un dossier nommé "/yolo11n_ncnn_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

Le modèle Ultralytics YOLO11 exporté peut ensuite être déployé sur divers appareils légers, comme des smartphones, des systèmes embarqués ou des plateformes IoT. Le processus de déploiement est également très fluide.

Par exemple, examinons l’extrait de code ci-dessous, qui montre comment charger le modèle exporté et exécuter une inférence. L’inférence désigne le processus consistant à utiliser un modèle entraîné pour effectuer des prédictions sur de nouvelles données inédites. Dans cet exemple, le modèle est testé sur une image d’un homme à vélo, récupérée depuis une URL accessible au public.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Après avoir exécuté le code, tu trouveras l’image produite dans le dossier "runs/detect/predict".

Fig. 2. Détection d’objets à l’aide d’un modèle Ultralytics YOLO11 exporté au format NCNN. Image de l’auteur.

Pourquoi choisir la détection en temps réel avec NCNN#

En explorant les différentes intégrations prises en charge par Ultralytics, tu constateras peut-être que plusieurs options d’exportation sont disponibles. Alors, quand choisir le format NCNN ?

Le format d’exportation NCNN est un choix fiable lorsque tu dois déployer des modèles Ultralytics YOLO11 sur des appareils aux ressources limitées. Il est particulièrement utile pour les applications en temps réel qui s’exécutent directement sur l’appareil, comme les appareils edge, sans nécessiter de connexion au cloud. Le modèle peut ainsi effectuer des tâches telles que la détection d’objets directement sur place.

Voici quelques scénarios courants dans lesquels NCNN convient parfaitement :

• Déploiement mobile : le format NCNN est optimisé pour Android et iOS, ce qui facilite l’intégration de modèles dans des applications mobiles afin d’obtenir une inférence rapide sur l’appareil avec une latence minimale.

• Systèmes embarqués et appareils IoT : si tu déploies sur des appareils comme Raspberry Pi ou NVIDIA Jetson, l’exportation au format NCNN peut contribuer à améliorer les performances et la réactivité.

• Déploiement sur ordinateur et serveur : bien que NCNN soit particulièrement adapté aux appareils peu énergivores, il prend également en charge Linux, Windows et macOS pour les environnements de bureau et de serveur. Les développeurs disposent ainsi d’options de déploiement flexibles.

Fig. 3. Options de déploiement d’un modèle Ultralytics YOLO11 avec NCNN. Image de l’auteur.

Cas d’usage du déploiement de modèles Ultralytics YOLO11 avec NCNN#

Examinons maintenant quelques cas d’usage pratiques dans lesquels l’exportation de modèles Ultralytics YOLO11 au format NCNN peut faire une réelle différence.

Casques de vision par IA pour la lutte contre les incendies#

Des casques de sécurité équipés de caméras et de micro-ordinateurs embarqués peuvent être utilisés dans des domaines comme la construction et la lutte contre les incendies afin d’améliorer la sécurité et la connaissance de la situation. Des modèles de vision par IA en temps réel, comme Ultralytics YOLO11, peuvent être exécutés sur ces appareils pour détecter différents types d’objets et d’équipements. Par exemple, ces casques peuvent aider les pompiers à détecter des personnes, des obstacles ou des dangers dans des conditions de faible visibilité.

Cependant, l’exécution de modèles complets directement sur des appareils portables peut ralentir les performances et décharger rapidement la batterie. Dans ce cas, utiliser l’intégration NCNN constitue un choix judicieux. Elle permet une inférence à faible latence et économe en énergie.

Classification des déchets et poubelles intelligentes#

De même, des poubelles intelligentes peuvent être équipées de caméras et de processeurs compacts d’IA edge pour identifier et trier les matériaux au moment où ils sont jetés. Des modèles de vision par IA comme YOLO11 peuvent être entraînés sur mesure pour détecter différents types de déchets, comme le papier, le plastique, le caoutchouc, etc.

Une fois les déchets identifiés, ils peuvent être automatiquement triés dans des compartiments distincts selon leur potentiel de réutilisation. En combinant l’IA edge à des modèles Ultralytics YOLO11 exportés au format NCNN, ces poubelles peuvent traiter les données localement, sans connexion Internet. Elles peuvent ainsi fonctionner de manière autonome et prendre des décisions de tri en temps réel avec un délai minimal.

Fig. 4. Détection de déchets plastiques à l’aide de YOLO11.

Suivi des bovins à l’aide de drones et de la vision par ordinateur#

Il arrive que les zones agricoles isolées n’aient pas accès à des connexions Internet stables, voire à une alimentation électrique régulière, ce qui limite leur capacité à exécuter des applications d’IA en ligne. Dans ce type de situation, des appareils edge et des drones peuvent être utilisés pour effectuer diverses tâches.

Un bon exemple est le suivi du bétail, notamment des bovins, des moutons et de la volaille. Cela peut être réalisé à l’aide de modèles de vision par IA comme YOLO11, qui peuvent suivre les déplacements des animaux, détecter des signes de blessure, de maladie ou de comportement anormal, et avertir les éleveurs lorsqu’un animal disparaît. L’intégration NCNN permet également d’exécuter et de traiter ces données directement sur des appareils edge, ce qui en fait une solution particulièrement adaptée à l’analyse d’images et de vidéos dans des exploitations isolées ou non raccordées au réseau électrique.

Fig. 5. Exemple d’utilisation de YOLO11 pour suivre le bétail.

Points clés à retenir#

Exporter des modèles YOLO11 à l’aide de l’intégration NCNN prise en charge par Ultralytics est un moyen simple d’apporter la vision par IA aux environnements peu énergivores. Qu’il s’agisse de drones dans des zones sinistrées, de poubelles intelligentes de tri des déchets ou du suivi du bétail dans des exploitations isolées, YOLO et NCNN permettent d’effectuer des inférences d’IA en temps réel, rapides, efficaces et portables. Cette approche contribue à rendre les systèmes d’IA plus accessibles et plus fiables lorsque cela compte le plus.

Tu veux en savoir plus sur l’IA ? Explore notre dépôt GitHub, rejoins notre communauté et consulte nos options de licence pour lancer ton projet de vision par ordinateur. Découvre comment des innovations comme l’IA dans le commerce de détail et la vision par ordinateur dans le secteur de la santé façonnent l’avenir sur nos pages consacrées aux solutions.