Déploie facilement Ultralytics YOLO11 avec l’intégration MNN

Aujourd’hui, les innovations en IA se sont étendues au-delà des environnements de serveurs distants. Les solutions d’IA sont intégrées à des appareils edge tels que des capteurs et des smartphones. Grâce à cette évolution technologique, les données peuvent désormais être traitées directement là où elles sont générées, ce qui permet d’obtenir des réponses plus rapides, une meilleure confidentialité et une dépendance réduite à une connexion permanente au cloud.

Par conséquent, l’IA edge gagne du terrain dans de nombreux secteurs. Le marché des logiciels d’IA edge devrait atteindre 8,88 milliards de dollars d’ici 2031, à mesure que davantage de systèmes adoptent un traitement plus rapide et plus local.

En particulier, la vision par ordinateur, une branche de l’IA qui se concentre sur la compréhension des images et des vidéos, est rapidement adoptée sur l’edge. Du comptage des produits alimentaires lors de leur conditionnement à l’aide à la détection des piétons par les véhicules, la vision par ordinateur prend en charge d’innombrables applications pratiques dans différents secteurs.

Cela est rendu possible par les modèles de vision par ordinateur. Par exemple, Ultralytics YOLO11 est un modèle qui prend en charge diverses tâches d’IA visuelle, comme la détection d’objets, la segmentation d’instances, le suivi d’objets et l’estimation de pose. Il est conçu pour être rapide et efficace, et offre de bonnes performances sur les appareils disposant de ressources matérielles limitées.

Fig. 1. Détection et suivi d’aliments en cours de conditionnement avec Ultralytics YOLO11 (Source).

En plus d’être adapté au déploiement edge, grâce aux diverses intégrations prises en charge par Ultralytics, YOLO11 peut être exporté vers différents formats adaptés à divers environnements matériels.

L’une des options les plus efficaces est MNN (réseau neuronal mobile), un moteur d’inférence léger conçu pour les appareils disposant de faibles ressources. L’exportation d’Ultralytics YOLO11 vers MNN lui permet de s’exécuter directement sur des téléphones mobiles, des systèmes embarqués et d’autres plateformes edge où un traitement rapide sur l’appareil est essentiel.

Dans cet article, nous allons découvrir le fonctionnement de l’intégration MNN, présenter des cas d’utilisation courants et expliquer comment démarrer avec l’exécution d’inférences à l’aide d’un modèle Ultralytics YOLO11 exporté. C’est parti !

Présentation de MNN : un framework de deep learning#

Exécuter des modèles de vision par ordinateur sur de petits appareils comme les téléphones mobiles, les capteurs industriels et les systèmes portables n’est pas toujours simple. Ces appareils disposent souvent d’une mémoire limitée, de processeurs plus lents et de contraintes strictes en matière de consommation énergétique.

Le réseau neuronal mobile, ou MNN, est un moteur d’inférence léger et performant développé par Alibaba pour permettre aux modèles d’IA de s’exécuter efficacement sur du matériel disposant de faibles ressources, tout en maintenant des performances en temps réel. MNN prend en charge un large éventail de plateformes, notamment Android, iOS et Linux, et fonctionne sur différents types de matériel, comme les unités centrales de traitement (CPUs) et les unités de traitement graphique (GPUs).

Fig. 2. Présentation du framework MNN (Source).

L’intégration MNN prise en charge par Ultralytics permet d’exporter facilement les modèles YOLO11 au format MNN. En termes simples, cela signifie que les modèles peuvent être convertis du format YOLO vers MNN.

Une fois convertis, ils peuvent être déployés sur des appareils prenant en charge le framework MNN afin d’exécuter efficacement les inférences sur l’appareil. L’un des principaux avantages du format MNN est de simplifier le déploiement d’Ultralytics YOLO11 dans les scénarios où la taille, la vitesse et l’efficacité des ressources sont essentielles.

Fonctionnalités clés du backend d’inférence MNN#

Avant d’expliquer comment utiliser l’intégration MNN, examinons ce qui fait du framework MNN un excellent choix pour exécuter des modèles d’IA sur des appareils réels. Il est conçu pour gérer les contraintes particulières des environnements edge tout en offrant des performances rapides et fiables.

Fait intéressant, MNN est utilisé en interne chez Alibaba dans plus de 30 applications, notamment Taobao, Tmall, Youku, DingTalk et Xianyu, dans de nombreux scénarios comme la vidéo en direct, les contenus courts, la recherche d’images et les contrôles de sécurité sur l’appareil. Il prend en charge les déploiements à grande échelle et exécute des millions d’inférences par jour dans des environnements de production.

Voici quelques-unes des principales fonctionnalités du framework MNN :

• Sélection automatique du backend : MNN peut choisir automatiquement le backend d’exécution le plus adapté, comme le CPU ou le GPU, en fonction du matériel sur lequel il s’exécute.
• Exécution multithread : elle prend en charge le multithreading, ce qui lui permet de tirer pleinement parti des processeurs multicœurs pour accélérer l’inférence.
• Prend en charge la quantification des modèles : elle permet de réduire considérablement la taille des modèles grâce à la quantification FP16 ou INT8, ce qui contribue à améliorer la vitesse d’inférence tout en utilisant moins de mémoire.
• Léger et rapide : MNN possède une empreinte très réduite, avec une bibliothèque principale d’environ 400 Ko sur Android et d’environ 5 Mo sur iOS, ce qui le rend idéal pour les appareils mobiles et embarqués.

Comprendre le fonctionnement de l’intégration MNN#

Voyons maintenant comment exporter les modèles Ultralytics YOLO11 au format MNN.

La première étape consiste à installer le package Python Ultralytics, qui fournit tout le nécessaire pour exporter les modèles YOLO11 au format MNN. Tu peux le faire en exécutant « pip install ultralytics » dans ton terminal ou à l’aide de l’invite de commandes. Si tu utilises un notebook Jupyter ou Google Colab, ajoute un point d’exclamation avant la commande.

Si tu rencontres des problèmes lors de l’installation, consulte le guide des problèmes courants pour obtenir des conseils de dépannage.

Une fois ton environnement configuré, tu peux charger un modèle YOLO11 préentraîné tel que « yolo11n.pt » et l’exporter au format MNN, comme le montre l’extrait de code ci-dessous. Si tu as entraîné ton propre modèle YOLO11 personnalisé, tu peux l’exporter simplement en remplaçant le nom de fichier par le chemin d’accès à ton modèle.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

Après avoir converti ton modèle en MNN, tu peux l’utiliser sur différentes plateformes mobiles et embarquées, selon les besoins de ton application.

Par exemple, supposons que tu veuilles tester le modèle exporté sur une vidéo de circulation. Dans ce cas, tu peux charger le modèle Ultralytics YOLO11 au format MNN pour détecter directement sur l’appareil des objets tels que des véhicules, des piétons et des panneaux de signalisation, comme dans l’exemple ci-dessous.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Une fois l’inférence terminée, la vidéo de sortie contenant les objets détectés est automatiquement enregistrée dans le dossier 'runs/detect/predict'. De plus, si tu veux exécuter une inférence directement avec le package Python MNN, consulte la documentation Ultralytics officielle pour plus de détails et d’exemples.

Fig. 3. Analyse de la circulation à l’aide d’un modèle Ultralytics YOLO11 exporté au format MNN. Image réalisée par l’auteur.

Cas d’utilisation du déploiement de modèles d’IA edge rendu possible par Ultralytics YOLO11 et MNN#

Le déploiement d’Ultralytics YOLO11 avec MNN permet d’exécuter rapidement et efficacement des tâches de vision par ordinateur, comme la détection d’objets, dans des environnements où le traitement dans le cloud n’est pas pratique ou possible. Voyons comment cette intégration peut être particulièrement utile dans des scénarios réels.

IA edge mobile pour l’identification des maladies des plantes#

Les applications d’identification des maladies des plantes qui utilisent la classification d’images gagnent en popularité auprès des jardiniers, des chercheurs et des passionnés de nature. Avec une simple photo, les utilisateurs peuvent identifier rapidement les premiers signes d’une maladie, comme des taches ou une décoloration des feuilles. Comme ces applications sont souvent utilisées en extérieur, où l’accès à Internet peut être limité ou indisponible, le recours au traitement dans le cloud peut s’avérer peu fiable.

Après son entraînement, un modèle Ultralytics YOLO11 peut être exporté au format MNN et exécuté directement sur des appareils mobiles. Le modèle peut ensuite classifier les espèces végétales et détecter localement les symptômes visibles de maladies, sans envoyer de données à un serveur.

Fig. 4. Exemple d’utilisation de YOLO11 pour détecter des signes de rouille (une maladie des plantes) sur une feuille (Source).

Inférences efficaces sur l’appareil dans le secteur manufacturier#

Un suivi précis des colis est essentiel sur les lignes de production très sollicitées des sites de fabrication. Ultralytics YOLO11 peut être utilisé pour suivre et compter chaque article lorsqu’il franchit des points de contrôle clés, en mettant à jour les compteurs en temps réel et en signalant toute anomalie. Cela contribue à réduire le nombre d’expéditions manquées ou non comptabilisées et favorise des opérations plus fluides et plus fiables.

Fig. 5. Suivi et comptage de colis avec YOLO11 (Source).

L’intégration MNN peut être particulièrement efficace dans ce contexte. Une fois le modèle Ultralytics YOLO11 exporté au format MNN, il peut s’exécuter directement sur des appareils compacts et basse consommation installés le long du convoyeur.

Comme tout le traitement est effectué localement, le système peut fournir un retour instantané et ne nécessite aucune connexion Internet. Cela garantit des performances rapides et fiables sur le site de production, en maintenant la production à un rythme efficace tout en conservant un haut niveau de précision et de contrôle.

Avantages de l’exportation d’Ultralytics YOLO11 au format de modèle MNN#

Voici quelques avantages clés de l’intégration MNN fournie par Ultralytics :

• Temps de réponse plus rapides : comme l’inférence s’exécute sur l’appareil, les prédictions sont effectuées en temps réel avec une latence minimale.
• Confidentialité des données améliorée : les données restent sur l’appareil, ce qui réduit le besoin d’envoyer des images ou des vidéos sensibles vers le cloud.
• Open source et activement maintenu : soutenu par Alibaba et par une communauté active, MNN est fiable et régulièrement mis à jour avec des améliorations de performances.

Facteurs à prendre en compte lors de l’utilisation du framework MNN#

Avant de choisir MNN comme framework de déploiement, il est également important d’évaluer dans quelle mesure il répond aux exigences de ton projet, à tes cibles de déploiement et à tes limites techniques. Voici quelques facteurs clés à prendre en compte :

• Compatibilité continue : les mises à jour du framework ou les changements apportés à tes plateformes cibles peuvent nécessiter de nouveaux tests ou des ajustements pour garantir un fonctionnement fluide.
• Moins d’outils de débogage : par rapport aux frameworks plus volumineux, MNN propose des outils plus limités pour déboguer et inspecter le comportement des modèles, ce qui peut compliquer le dépannage.
• Les performances dépendent du matériel : la vitesse et l’efficacité de ton modèle varieront selon l’appareil. Teste ton matériel cible pour t’assurer qu’il répond à tes objectifs de performance.

Points clés à retenir#

La prise en charge de l’intégration MNN par Ultralytics facilite l’exportation des modèles YOLO11 pour les utiliser sur des appareils mobiles et embarqués. Il s’agit d’une option pratique pour les applications qui nécessitent une détection rapide et fiable sans dépendre de l’accès au cloud ou d’une connectivité permanente.

Cette configuration contribue à simplifier le déploiement tout en maintenant les performances et en limitant les besoins en ressources. Que tu développes des systèmes domotiques, des outils de terrain ou des appareils industriels compacts, l’exportation d’Ultralytics YOLO11 vers MNN offre une méthode flexible et efficace pour exécuter directement des tâches de vision par ordinateur sur des appareils edge.

Rejoins notre communauté grandissante ! Explore notre dépôt GitHub pour approfondir tes connaissances en IA. Tu es prêt à commencer tes projets de vision par ordinateur ? Consulte nos options de licence. Découvre davantage d’informations sur l’IA dans le secteur de la santé et la vision par ordinateur dans le commerce de détail sur nos pages de solutions !