Exportation des modèles Ultralytics YOLO11 au format NCNN

Les solutions d'IA deviennent de plus en plus courantes, même dans des secteurs critiques comme la gestion des catastrophes, la gestion des déchets et la lutte contre les incendies. À mesure que l'adoption se généralise, les modèles d'IA sont déployés dans des environnements plus diversifiés - non seulement sur des serveurs ou dans le cloud, mais directement sur des appareils opérant sur le terrain.

Par exemple, les drones et les équipements dotés de composants de périphérie alimentés par de petits processeurs peuvent jouer un rôle crucial dans les zones sinistrées. Équipés de caméras thermiques, ces appareils peuvent collecter et analyser des données sur place pour localiser des personnes piégées sous les décombres. Cela est rendu possible grâce à la computer vision, une branche de l'intelligence artificielle qui interprète les informations visuelles à partir d'images et de vidéos.

Cependant, déployer des modèles de vision par ordinateur sur des appareils de périphérie n'est pas aussi simple qu'il y paraît. Les modèles d'IA doivent être optimisés pour fonctionner efficacement sur du matériel doté d'une puissance de calcul et d'une mémoire limitées. C'est pourquoi des frameworks d'IA comme NCNN sont essentiels. Ils aident à convertir et à optimiser les modèles pour des performances en temps réel sur des appareils à faible consommation, sans sacrifier la précision.

En particulier, les modèles Ultralytics YOLO tels que Ultralytics YOLO11 peuvent être facilement exportés au format NCNN grâce à l'intégration NCNN prise en charge par Ultralytics. La conversion de YOLO11 au format NCNN permet au modèle de s'exécuter plus rapidement, d'utiliser moins de mémoire et de fonctionner de manière fluide sur différents appareils sans perdre en précision.

Dans cet article, nous explorerons l'intégration NCNN prise en charge par Ultralytics et nous verrons comment tu peux exporter ton modèle YOLO11 au format NCNN. Commençons !

Link to this sectionPrésentation de NCNN : un framework de réseau neuronal léger#

NCNN est un framework d'inférence de réseau neuronal open-source développé par Tencent. Il a été spécifiquement conçu pour les environnements mobiles et de périphérie, offrant une inférence haute performance avec une empreinte minimale. Cela le rend idéal pour un déploiement sur des appareils aux ressources limitées tels que les smartphones, les drones et les appareils IoT (Internet des objets).

Le framework NCNN a gagné en popularité au sein de la communauté de l'IA et du deep learning grâce à son efficacité, sa portabilité et son optimisation pour les CPU (Central Processing Units) mobiles. Il permet aux développeurs d'exécuter des modèles de réseaux neuronaux sur des appareils abordables disposant d'une mémoire et d'une puissance de calcul limitées. Conçu pour être simple et flexible, NCNN prend en charge une large gamme de modèles de computer vision et fonctionne sur plusieurs plateformes, notamment Android, Linux, iOS et macOS.

Fig 1. Les modèles au format NCNN peuvent être déployés sur de nombreuses plateformes.

Link to this sectionCaractéristiques clés de l'optimisation des performances de NCNN#

Voici quelques-unes des fonctionnalités clés qui font de NCNN un framework d'inférence de réseau neuronal percutant et largement utilisé :

• Runtime léger et indépendant du matériel : Le framework NCNN est optimisé pour exécuter des modèles sur des CPU standards, et il ne nécessite pas de matériel spécialisé comme des GPU (Graphics Processing Units) ou des NPU (Neural Processing Units).
• Quantification de modèle : Pour les applications où la mémoire et la vitesse sont critiques, NCNN prend en charge des méthodes de quantification qui réduisent la taille du modèle et améliorent le temps d'inférence. Cela aide à exécuter les modèles d'IA de manière fluide sur les appareils mobiles et embarqués.
• Open source et accessible : En tant que framework open-source, NCNN est librement disponible pour que quiconque puisse l'utiliser, le modifier et l'améliorer. Cela encourage l'innovation et une large adoption dans une variété de cas d'utilisation.
• Développement actif et communauté : NCNN est activement maintenu sur GitHub par Tencent et une communauté de développeurs en pleine croissance, avec des mises à jour régulières et des améliorations de la compatibilité des modèles.

Link to this sectionExporter YOLO11 au format NCNN : guide rapide#

Maintenant que nous avons discuté de ce qu'est NCNN, examinons de plus près comment exporter des modèles YOLO11 au format NCNN.

Link to this sectionÉtape 1 : Installer le package Python Ultralytics#

Avant d'exporter le modèle, la première étape consiste à installer le package Python Ultralytics à l'aide du programme d'installation de packages, pip. Cela peut être fait en exécutant « pip install ultralytics » dans ton terminal ou ton invite de commande. Si tu travailles dans un Jupyter Notebook ou Google Colab, ajoute un point d'exclamation avant la commande, comme ceci : « !pip install ultralytics ».

Le package Ultralytics fournit des outils pour entraîner, tester, affiner et exporter des modèles d'IA de vision pour une variété de tâches de computer vision. Si tu rencontres des problèmes lors de l'installation ou de l'exportation d'un modèle, la documentation officielle d'Ultralytics et le guide des problèmes courants sont d'excellentes ressources pour le dépannage.

Link to this sectionÉtape 2 : Exporter Ultralytics YOLO11#

Après avoir installé le package Ultralytics, tu peux charger ton modèle YOLO11 et l'exporter au format NCNN. L'exemple ci-dessous utilise un modèle pré-entraîné (« yolo11n.pt ») et l'exporte au format NCNN, en enregistrant la sortie dans un dossier nommé « /yolo11n_ncnn_model ».

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

Le modèle YOLO11 exporté peut ensuite être déployé sur divers appareils légers tels que des smartphones, des systèmes embarqués ou des plateformes IoT. Le processus de déploiement est également très rationalisé.

Par exemple, considère l'extrait de code ci-dessous, qui montre comment charger le modèle exporté et exécuter l'inférence. L'inférence fait référence au processus d'utilisation d'un modèle entraîné pour faire des prédictions sur de nouvelles données inédites. Dans cet exemple, le modèle est testé sur une image d'un homme à vélo, récupérée à partir d'une URL disponible publiquement.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Après avoir exécuté le code, tu trouveras l'image de sortie dans le dossier « runs/detect/predict ».

Fig 2. Détection d'objets à l'aide d'un modèle YOLO11 exporté au format NCNN. Image par l'auteur.

Link to this sectionPourquoi choisir la détection en temps réel avec NCNN#

En explorant les diverses intégrations prises en charge par Ultralytics, tu remarqueras peut-être qu'il existe plusieurs options d'exportation disponibles. Alors, quand devrais-tu choisir le format NCNN ?

Le format d'exportation NCNN est un choix fiable lorsque tu as besoin de déployer des modèles YOLO11 sur des appareils aux ressources limitées. Il est particulièrement utile pour les applications en temps réel qui s'exécutent directement sur l'appareil, comme les appareils de périphérie, sans nécessiter de connexion au cloud. Cela signifie que le modèle peut gérer des tâches telles que la détection d'objets sur place.

Voici quelques scénarios courants où NCNN est un excellent choix :

• Déploiement mobile : Le format NCNN est optimisé pour Android et iOS, ce qui facilite l'intégration des modèles dans des applications mobiles pour une inférence rapide sur l'appareil avec une latence minimale.

• Systèmes embarqués et appareils IoT : Si tu déploies sur des appareils comme Raspberry Pi ou NVIDIA Jetson, l'exportation vers NCNN peut aider à augmenter les performances et la réactivité.

• Déploiement sur ordinateur et serveur : Bien que NCNN soit idéal pour les appareils à faible consommation, il prend également en charge Linux, Windows et macOS pour les environnements de bureau et de serveur. Cela donne aux développeurs des options flexibles pour le déploiement.

Fig 3. Options pour le déploiement du modèle YOLO11 avec NCNN. Image par l'auteur.

Link to this sectionCas d'utilisation du déploiement de modèles YOLO11 avec NCNN#

Ensuite, plongeons dans quelques cas d'utilisation pratiques où l'exportation des modèles YOLO11 vers NCNN peut faire une réelle différence.

Link to this sectionCasques IA de vision pour la lutte contre les incendies#

Les casques de sécurité équipés de caméras et de micro-ordinateurs embarqués peuvent être utilisés dans des domaines comme la construction et la lutte contre les incendies pour améliorer la sécurité et la sensibilisation. Des modèles d'IA de vision en temps réel, comme YOLO11, peuvent être exécutés sur ces appareils pour détecter divers types d'objets et d'équipements. Par exemple, de tels casques peuvent aider les pompiers à détecter des personnes, des obstacles ou des dangers dans des conditions de faible visibilité.

Cependant, exécuter des modèles pleine taille directement sur des appareils portables peut entraîner des performances lentes et vider la batterie rapidement. Dans ce cas, utiliser l'intégration NCNN est un choix intelligent. Elle permet une inférence à faible latence et économe en énergie.

Link to this sectionTri des déchets et poubelles intelligentes#

De même, les poubelles intelligentes peuvent être intégrées avec des caméras et des processeurs IA de périphérie compacts pour identifier et trier les matériaux au fur et à mesure qu'ils sont jetés. Des modèles d'IA de vision comme YOLO11 peuvent être entraînés sur mesure pour détecter différents types de matériaux de déchets comme le papier, le plastique, le caoutchouc, etc.

Une fois les déchets identifiés, ils peuvent être automatiquement triés dans des compartiments séparés en fonction de leur réutilisabilité. En utilisant l'IA de périphérie avec des modèles YOLO11 exportés au format NCNN, ces poubelles peuvent traiter les données localement - sans avoir besoin d'une connexion internet. Cela leur permet de fonctionner de manière autonome et de prendre des décisions de tri en temps réel avec un délai minimal.

Fig 4. Détection de déchets plastiques à l'aide de YOLO11.

Link to this sectionSurveillance du bétail à l'aide de drones et de computer vision#

Parfois, les zones agricoles situées dans des endroits reculés manquent d'accès à des connexions internet stables ou même à une alimentation électrique cohérente, ce qui limite leur capacité à exécuter des applications d'IA en ligne. Dans de tels cas, des appareils de périphérie et des drones peuvent être utilisés pour gérer une variété de tâches.

Un bon exemple est la surveillance du bétail comme les bovins, les moutons et la volaille. Cela peut être fait à l'aide de modèles d'IA de vision comme YOLO11, qui peuvent être utilisés pour suivre les mouvements des animaux, détecter les signes de blessure, de maladie ou de comportement anormal, et alerter les agriculteurs lorsque des animaux disparaissent. L'intégration NCNN permet également d'exécuter et de traiter ces données directement sur des appareils de périphérie, ce qui en fait un excellent choix pour l'analyse d'images et de vidéos dans des fermes situées dans des zones reculées ou hors réseau.

Fig 5. Un aperçu de l'utilisation de YOLO11 pour surveiller le bétail.

Link to this sectionPoints clés#

Exporter des modèles YOLO11 en utilisant l'intégration NCNN prise en charge par Ultralytics est un moyen simple d'apporter l'IA de vision dans des environnements à faible consommation. Qu'il s'agisse de drones dans des zones sinistrées, de poubelles de tri intelligentes ou de surveillance du bétail dans des fermes isolées, YOLO et NCNN permettent des inférences IA en temps réel qui sont rapides, efficaces et portables. Cette approche aide à rendre les systèmes d'IA plus accessibles et fiables quand cela compte le plus.

Tu veux en savoir plus sur l'IA ? Explore notre dépôt GitHub, connecte-toi avec notre communauté et consulte nos options de licence pour lancer ton projet de computer vision. Découvre comment des innovations comme l'IA dans le commerce de détail et la computer vision dans la santé façonnent l'avenir sur nos pages de solutions.