Déploie facilement Ultralytics YOLO11 avec l’intégration MNN

Aujourd’hui, les innovations en IA dépassent le cadre des serveurs distants. Les solutions d’IA sont intégrées à des appareils edge comme les capteurs et les smartphones. Grâce à cette évolution technologique, les données peuvent désormais être traitées directement à l’endroit où elles sont générées, ce qui permet d’accélérer les réponses, d’améliorer la confidentialité et de réduire la dépendance à une connexion permanente au cloud.

Par conséquent, l’IA edge gagne du terrain dans de nombreux secteurs. Le marché des logiciels d’IA edge devrait atteindre 8,88 milliards de dollars d’ici 2031, à mesure que davantage de systèmes adoptent un traitement plus rapide et plus local.

En particulier, la vision par ordinateur, une branche de l’IA axée sur l’interprétation des images et des vidéos, est rapidement adoptée en périphérie. Du comptage des aliments au moment de leur emballage à la détection des piétons par les véhicules, la vision par ordinateur répond à d’innombrables besoins pratiques dans différents secteurs.

Les modèles de vision par ordinateur rendent cela possible. Par exemple, Ultralytics YOLO11 prend en charge diverses tâches d’IA visuelle, comme la détection d’objets, la segmentation d’instances, l’estimation de pose et le suivi d’objets. Il est conçu pour être rapide et efficace, et fonctionne bien sur les appareils disposant de ressources matérielles limitées.

Fig. 1. Détection et suivi des aliments en cours de conditionnement avec Ultralytics YOLO11.

En plus de convenir au déploiement edge, YOLO11 peut être exporté vers différents formats adaptés à divers environnements matériels grâce aux intégrations prises en charge par Ultralytics.

L’une des options les plus efficaces est MNN (Mobile Neural Network), un moteur d’inférence léger conçu pour les appareils aux ressources limitées. L’exportation d’Ultralytics YOLO11 au format MNN permet de l’exécuter directement sur des téléphones mobiles, des systèmes embarqués et d’autres plateformes edge, où le traitement rapide sur l’appareil est essentiel.

Dans cet article, nous verrons comment fonctionne l’intégration MNN, présenterons des cas d’usage courants et expliquerons comment démarrer l’exécution d’inférences avec un modèle Ultralytics YOLO11 exporté.

Présentation de MNN : un framework de deep learning#

L’exécution de modèles de vision par ordinateur sur de petits appareils comme les téléphones mobiles, les capteurs industriels et les systèmes portables n’est pas toujours simple. Ces appareils disposent souvent d’une mémoire limitée, de processeurs plus lents et de contraintes strictes en matière d’alimentation.

Mobile Neural Network, ou MNN, est un moteur d’inférence léger et performant développé par Alibaba pour permettre aux modèles d’IA de fonctionner efficacement sur du matériel aux ressources limitées, tout en maintenant des performances en temps réel. MNN prend en charge un large éventail de plateformes, notamment Android, iOS et Linux, et fonctionne sur différents types de matériel, comme les processeurs (CPU) et les processeurs graphiques (GPU).

Fig. 2. Présentation du framework MNN (source).

L’intégration MNN prise en charge par Ultralytics permet d’exporter facilement des modèles YOLO11 au format MNN. En termes simples, cela signifie que les modèles peuvent être convertis de leur format PyTorch natif au format MNN.

Une fois convertis, les modèles peuvent être déployés sur des appareils compatibles avec le framework MNN pour effectuer des inférences efficaces directement sur l’appareil. Le format MNN présente notamment l’avantage de simplifier le déploiement d’Ultralytics YOLO11 dans les situations où la taille, la vitesse et l’efficacité des ressources sont essentielles.

Principales caractéristiques du moteur d’inférence MNN#

Avant de voir comment utiliser l’intégration MNN, découvrons ce qui fait du framework MNN un excellent choix pour exécuter des modèles d’IA sur des appareils utilisés dans des conditions réelles. Il est conçu pour gérer les contraintes propres aux environnements edge tout en offrant des performances rapides et fiables.

Fait intéressant, Alibaba utilise MNN en interne dans plus de 30 applications, dont Taobao, Tmall, Youku, DingTalk et Xianyu, pour de nombreux cas d’usage comme la vidéo en direct, les contenus courts, la recherche d’images et les contrôles de sécurité sur l’appareil. MNN prend en charge les déploiements à grande échelle et effectue des millions d’inférences par jour dans des environnements de production.

Voici quelques-unes des principales caractéristiques du framework MNN :

• Sélection automatique du moteur d’exécution : MNN peut choisir automatiquement le moteur d’exécution le mieux adapté, comme le CPU ou le GPU, en fonction du matériel utilisé.
• Exécution multithread : La prise en charge du multithreading permet d’exploiter pleinement les processeurs multicœurs et d’accélérer l’inférence.
• Prise en charge de la quantification des modèles : elle permet de réduire considérablement la taille des modèles grâce à la quantification FP16 ou INT8, ce qui améliore la vitesse d’inférence tout en réduisant la mémoire utilisée.
• Léger et rapide : MNN occupe très peu d’espace, sa bibliothèque principale faisant environ 400 Ko sur Android et 5 Mo sur iOS, ce qui le rend particulièrement adapté aux appareils mobiles et embarqués.

Comprendre le fonctionnement de l’intégration MNN#

Voyons maintenant comment exporter des modèles Ultralytics YOLO11 au format MNN.

La première étape consiste à installer le package Python Ultralytics, qui fournit tout le nécessaire pour exporter les modèles YOLO11 au format MNN. Pour cela, exécute pip install ultralytics dans ton terminal ou ton invite de commandes. Si tu utilises un notebook Jupyter ou Google Colab, ajoute un point d’exclamation avant la commande.

Si tu rencontres des problèmes lors de l’installation, consulte le guide des problèmes courants pour obtenir des conseils de dépannage.

Une fois ton environnement configuré, tu peux charger un modèle YOLO11 préentraîné, comme « yolo11n.pt », et l’exporter au format MNN, comme dans l’extrait de code ci-dessous. Si tu as entraîné ton propre modèle YOLO11 personnalisé, tu peux l’exporter en remplaçant simplement le nom de fichier par le chemin d’accès à ton modèle.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

Après avoir converti ton modèle au format MNN, tu peux l’utiliser sur différentes plateformes mobiles et embarquées, selon les besoins de ton application.

Par exemple, si tu souhaites tester le modèle exporté sur une vidéo de circulation, tu peux charger le modèle Ultralytics YOLO11 au format MNN pour détecter directement sur l’appareil des objets tels que des véhicules, des piétons et des panneaux de signalisation, comme dans l’exemple ci-dessous.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Une fois l’inférence terminée, la vidéo de sortie contenant les objets détectés est automatiquement enregistrée dans le dossier 'runs/detect/predict'. De plus, si tu veux exécuter directement l’inférence avec le package Python MNN, consulte la documentation officielle MNN d’Ultralytics pour obtenir plus de détails et d’exemples.

Fig. 3. Analyse du trafic avec un modèle Ultralytics YOLO11 exporté au format MNN. Image de l’auteur.

Cas d’utilisation du déploiement de modèles d’IA edge rendu possible par Ultralytics YOLO11 et MNN#

Le déploiement d’Ultralytics YOLO11 avec MNN permet d’effectuer rapidement et efficacement des tâches de vision par ordinateur, comme la détection d’objets, dans les environnements où le traitement dans le cloud n’est pas pratique ou possible. Voyons comment cette intégration peut être particulièrement utile dans des situations concrètes.

IA edge mobile pour identifier les maladies des plantes#

Les applications d’identification des maladies des plantes qui utilisent la classification d’images gagnent en popularité auprès des jardiniers, des chercheurs et des passionnés de nature. Une simple photo permet aux utilisateurs de repérer rapidement les premiers signes d’une maladie, comme des taches ou une décoloration des feuilles. Comme ces applications sont souvent utilisées en extérieur, où l’accès à Internet peut être limité ou inexistant, le traitement dans le cloud peut manquer de fiabilité.

Après avoir été entraîné sur un jeu de données comme PlantDoc, un modèle Ultralytics YOLO11 peut être exporté au format MNN et exécuté directement sur des appareils mobiles. Le modèle peut ensuite classer les espèces végétales et détecter localement les symptômes visibles de maladies, sans envoyer de données à un serveur.

Fig. 4. Exemple d’utilisation de YOLO11 pour détecter sur une feuille des signes de rouille (une maladie des plantes) (source).

Inférences efficaces sur l’appareil dans le secteur manufacturier#

Un suivi précis des colis est essentiel sur les lignes de production très actives des sites de fabrication. Ultralytics YOLO11 peut servir à suivre et à compter chaque article lorsqu’il passe par des points de contrôle clés, en mettant les comptes à jour en temps réel et en signalant toute anomalie. Cela permet de réduire le nombre d’expéditions oubliées ou non comptabilisées et de garantir des opérations plus fluides et plus fiables.

Fig. 5. Suivi et comptage de colis à l’aide de YOLO11 (source).

L’intégration MNN peut avoir un impact particulièrement important dans ce contexte. Une fois le modèle Ultralytics YOLO11 exporté au format MNN, il peut s’exécuter directement sur des appareils compacts à faible consommation installés le long du convoyeur.

Comme tout le traitement s’effectue localement, le système peut fournir un retour instantané sans nécessiter de connexion Internet. Les performances restent ainsi rapides et fiables sur le site de production, ce qui permet de maintenir une production efficace tout en conservant une grande précision et une bonne maîtrise.

Avantages de l’exportation d’Ultralytics YOLO11 au format MNN#

Voici quelques-uns des principaux avantages de l’intégration MNN proposée par Ultralytics :

• Temps de réponse plus courts : comme l’inférence s’exécute sur l’appareil, les prédictions sont réalisées en temps réel, avec une latence minimale.
• Confidentialité des données renforcée : les données restent sur l’appareil, ce qui réduit le besoin d’envoyer des images ou des vidéos sensibles dans le cloud.
• Open source et activement maintenu : soutenu par Alibaba et une communauté active, MNN est fiable et régulièrement mis à jour pour améliorer ses performances.

Facteurs à prendre en compte lors de l’utilisation du framework MNN#

Avant de choisir MNN comme framework de déploiement, il est également important d’évaluer son adéquation avec les exigences de ton projet, tes cibles de déploiement et tes contraintes techniques. Voici quelques facteurs importants à prendre en compte :

• Compatibilité dans la durée : les mises à jour du framework ou les changements apportés à tes plateformes cibles peuvent nécessiter de nouveaux tests ou des ajustements pour assurer le bon fonctionnement de l’ensemble.
• Moins d’outils de débogage : par rapport aux frameworks plus importants, MNN offre moins d’outils pour déboguer et examiner le comportement des modèles, ce qui peut compliquer la résolution des problèmes.
• Les performances dépendent du matériel : la vitesse et l’efficacité de ton modèle varient selon l’appareil. Teste ton matériel cible pour vérifier qu’il répond à tes objectifs de performance.

Points clés à retenir#

La prise en charge de l’intégration MNN par Ultralytics facilite l’exportation de modèles YOLO11 destinés aux appareils mobiles et embarqués. C’est une option pratique pour les applications qui nécessitent une détection rapide et fiable, sans dépendre de l’accès au cloud ni d’une connexion permanente.

Cette configuration simplifie le déploiement tout en maintenant les performances et en limitant les besoins en ressources. Que tu développes des systèmes domotiques, des outils de terrain ou des appareils industriels compacts, l’exportation d’Ultralytics YOLO11 au format MNN constitue une solution flexible et efficace pour exécuter des tâches de vision par ordinateur directement sur des appareils edge.

Rejoins notre communauté en pleine croissance ! Explore notre dépôt GitHub pour approfondir tes connaissances en IA. Prêt à lancer tes projets de vision par ordinateur ? Consulte nos options de licence. Découvre-en plus sur l’IA dans le secteur de la santé et la vision par ordinateur dans le commerce de détail sur nos pages consacrées à nos solutions !