Déploie facilement Ultralytics YOLO11 avec OpenVINO™

L’adoption de l’IA dépend de l’accessibilité des solutions d’IA, et cela passe en grande partie par la facilité de leur déploiement sur le matériel que les utilisateurs possèdent déjà. Exécuter des modèles d’IA sur des GPU (unités de traitement graphique) est une excellente option en matière de performances et de puissance de traitement parallèle.

Cependant, dans les faits, tout le monde n’a pas accès à des GPU haut de gamme, notamment dans les environnements edge ou sur les ordinateurs portables du quotidien. C’est pourquoi il est essentiel d’optimiser les modèles pour qu’ils fonctionnent efficacement sur du matériel plus répandu, comme les CPU (unités centrales de traitement), les GPU intégrés et les NPU (unités de traitement neuronal).

La vision par ordinateur, par exemple, est une branche de l’IA qui permet aux machines d’analyser et de comprendre des images et des flux vidéo en temps réel. Les modèles d’IA visuelle comme Ultralytics YOLO11 prennent en charge des tâches clés telles que la détection d’objets et la segmentation d’instances, qui alimentent des applications allant de l’analyse du commerce de détail au diagnostic médical.

Fig. 1 Utilisation d’Ultralytics YOLO11 pour détecter et segmenter des objets dans un magasin.

Pour rendre la vision par ordinateur plus largement accessible, Ultralytics a publié une intégration mise à jour avec la boîte à outils OpenVINO, un projet open source destiné à optimiser et exécuter l’inférence d’IA sur les CPU, les GPU et les NPU.

Grâce à cette intégration, il est plus facile d’exporter et de déployer des modèles YOLO11, avec une inférence jusqu’à 3× plus rapide sur les CPU et des performances accélérées sur les GPU et NPU Intel. Dans cet article, tu découvriras comment utiliser le package Ultralytics Python pour exporter des modèles YOLO11 au format OpenVINO et l’utiliser pour l’inférence. Commençons !

Présentation de Ultralytics YOLO11#

Avant d’entrer dans les détails de l’intégration OpenVINO prise en charge par Ultralytics, examinons de plus près ce qui fait de YOLO11 un modèle de vision par ordinateur fiable et performant. YOLO11 est le dernier modèle de la série Ultralytics YOLO et offre des améliorations significatives en matière de vitesse et de précision.

L’un de ses principaux atouts est son efficacité. Par exemple, Ultralytics YOLO11m possède 22 % de paramètres en moins qu’Ultralytics YOLOv8m, tout en atteignant une précision moyenne (mAP) supérieure sur le jeu de données COCO. Il s’exécute donc plus rapidement et détecte également les objets avec davantage de précision, ce qui le rend idéal pour les applications en temps réel où les performances et la réactivité sont essentielles.

Fig. 2 Benchmarks de performances d’Ultralytics YOLO11.

Au-delà de la détection d’objets, YOLO11 prend en charge diverses tâches de vision par ordinateur avancées, comme la segmentation d’instances, l’estimation de pose, la classification d’images, le suivi d’objets et la détection de boîtes englobantes orientées. YOLO11 est également adapté aux développeurs, le package Ultralytics Python fournissant une interface simple et cohérente pour entraîner, évaluer et déployer des modèles.

De plus, le package Ultralytics Python prend en charge diverses intégrations et plusieurs formats d’exportation, notamment OpenVINO, ONNX et TorchScript, ce qui te permet d’intégrer facilement YOLO11 à différents pipelines de déploiement. Que tu cibles une infrastructure cloud, des appareils edge ou des systèmes embarqués, le processus d’exportation est simple et adaptable aux besoins de ton matériel.

Qu’est-ce qu’OpenVINO™ ?#

OpenVINO™ (inférence visuelle ouverte et optimisation des réseaux neuronaux) est une boîte à outils open source destinée à optimiser et déployer l’inférence d’IA sur une vaste gamme de matériels. Elle permet aux développeurs d’exécuter efficacement des applications d’inférence hautes performances sur différentes plateformes Intel, notamment des CPU, des GPU intégrés et discrets, des NPU et des FPGA (réseaux de portes programmables sur le terrain).

OpenVINO fournit une interface d’exécution unifiée qui masque les différences matérielles grâce à des plugins spécifiques aux appareils. Les développeurs peuvent ainsi écrire leur code une seule fois et le déployer sur plusieurs cibles matérielles Intel à l’aide d’une API cohérente.

Voici quelques fonctionnalités clés qui font d’OpenVINO un excellent choix pour le déploiement :

• Convertisseur de modèles : cet outil convertit et prépare les modèles issus de frameworks populaires tels que PyTorch, ONNX, TensorFlow, PaddlePaddle et d’autres, afin de les optimiser pour une inférence efficace sur le matériel Intel.
• Exécution hétérogène : tu n’as pas besoin de réécrire ton code pour les différents matériels Intel. OpenVINO permet d’exécuter facilement le même modèle sur tout matériel pris en charge, des CPU aux GPU.
• Prise en charge de la quantification : la boîte à outils prend en charge des formats à précision réduite tels que FP16 (par défaut) et INT8, qui contribuent à réduire la taille des modèles et à accélérer l’inférence sans affecter significativement la précision.

Fig. 3 OpenVINO permet diverses options de déploiement.

Exploration de l’intégration Ultralytics x OpenVINO#

Maintenant que nous avons vu ce qu’est OpenVINO et pourquoi il est important, voyons comment exporter des modèles Ultralytics YOLO11 au format OpenVINO et exécuter une inférence efficace sur du matériel Intel.

Étape 1 : installer le package Python Ultralytics#

Pour exporter un modèle au format OpenVINO, tu dois d’abord installer le package Ultralytics Python. Ce package fournit tout ce dont tu as besoin pour entraîner, évaluer et exporter des modèles YOLO, notamment YOLO11.

Tu peux l’installer en exécutant la commande "pip install ultralytics" dans ton terminal ou ton invite de commandes. Si tu travailles dans un environnement interactif comme Jupyter Notebook ou Google Colab, ajoute simplement un point d’exclamation avant la commande.

Par ailleurs, si tu rencontres des problèmes pendant l’installation ou l’exportation, la documentation Ultralytics et les guides de dépannage sont d’excellentes ressources pour t’aider à reprendre ton travail.

Étape 2 : exporter ton modèle Ultralytics YOLO11 au format OpenVINO#

Une fois le package Ultralytics configuré, l’étape suivante consiste à charger ton modèle YOLO11 et à le convertir dans un format compatible avec OpenVINO.

Dans l’exemple ci-dessous, nous utilisons un modèle YOLO11 préentraîné (« yolo11n.pt »). La fonctionnalité d’exportation sert à le convertir au format OpenVINO. Après l’exécution de ce code, le modèle converti sera enregistré dans un nouveau répertoire nommé « yolo11n_openvino_model ».

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

Étape 3 : exécuter l’inférence avec le modèle exporté#

Une fois ton modèle YOLO11 exporté au format OpenVINO, tu peux exécuter des inférences de deux façons : avec le package Ultralytics Python ou avec OpenVINO Runtime natif.

Utilisation du package Ultralytics Python#

Le modèle YOLO11 exporté peut être facilement déployé avec le package Ultralytics Python, comme le montre l’extrait de code ci-dessous. Cette méthode est idéale pour expérimenter rapidement et simplifier le déploiement sur du matériel Intel.

Tu peux également spécifier l’appareil à utiliser pour l’inférence, comme "intel:cpu", "intel:gpu" ou "intel:npu", selon le matériel Intel disponible sur ton système.

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Après l’exécution du code ci-dessus, l’image de sortie sera enregistrée dans le répertoire "runs/detect/predict".

Fig. 4. Utilisation du modèle Ultralytics YOLO11 exporté pour détecter des objets dans une image.

Utilisation d’OpenVINO Runtime natif#

Si tu recherches une manière personnalisable d’exécuter l’inférence, notamment dans les environnements de production, OpenVINO Runtime te donne davantage de contrôle sur l’exécution de ton modèle. Il prend en charge des fonctionnalités avancées telles que l’exécution asynchrone (exécution de plusieurs requêtes d’inférence en parallèle) et l’équilibrage de charge (répartition efficace des charges d’inférence sur le matériel Intel).

Pour utiliser le runtime natif, tu auras besoin des fichiers du modèle exporté : un fichier .xml (qui définit l’architecture du réseau) et un fichier .bin (qui stocke les poids entraînés du modèle). Tu peux également configurer des paramètres supplémentaires, comme les dimensions d’entrée ou les étapes de prétraitement, selon ton application.

Un flux de déploiement typique comprend l’initialisation du cœur OpenVINO, le chargement et la compilation du modèle pour un appareil cible, la préparation de l’entrée et l’exécution de l’inférence. Pour obtenir des exemples détaillés et des instructions étape par étape, consulte la documentation officielle Ultralytics sur OpenVINO.

Pourquoi choisir l’intégration Ultralytics x OpenVINO ?#

En explorant les intégrations Ultralytics, tu constateras que le package Ultralytics Python prend en charge l’exportation des modèles YOLO11 vers différents formats tels que TorchScript, CoreML, TensorRT et ONNX. Alors, pourquoi choisir l’intégration OpenVINO ?

Voici quelques raisons pour lesquelles le format d’exportation OpenVINO convient parfaitement au déploiement de modèles sur du matériel Intel :

• Gains de performances : tu peux bénéficier d’une inférence jusqu’à 3× plus rapide sur les CPU Intel, avec une accélération supplémentaire disponible sur les GPU intégrés et les NPU.
• Aucun réentraînement nécessaire : tu peux exporter directement tes modèles Ultralytics YOLO11 existants au format OpenVINO sans les modifier ni les réentraîner.
• Conçu pour évoluer : le même modèle exporté peut être déployé sur des appareils edge basse consommation comme sur une infrastructure cloud à grande échelle, ce qui simplifie le déploiement de l’IA évolutif.

Tu peux également évaluer les benchmarks de performances du modèle Ultralytics YOLO11 sur différentes plateformes Intel® dans l’OpenVINO™ Model Hub. L’OpenVINO Model Hub est une ressource permettant aux développeurs d’évaluer des modèles d’IA sur du matériel Intel et de découvrir l’avantage offert par OpenVINO sur les CPU Intel, les GPU intégrés, les NPU et les cartes graphiques discrètes.

Fig. 5. OpenVINO™ Model Hub : benchmarks de performances du modèle Ultralytics YOLO11 sur différentes plateformes Intel®.

Applications d’Ultralytics YOLO11 et du format d’exportation OpenVINO#

Grâce à l’intégration OpenVINO, le déploiement de modèles Ultralytics YOLO11 sur du matériel Intel dans des situations réelles devient beaucoup plus simple.

Le commerce de détail intelligent en est un excellent exemple : Ultralytics YOLO11 peut aider à détecter en temps réel les rayons vides, à suivre les produits dont les stocks diminuent et à analyser les déplacements des clients dans le magasin. Cela permet aux détaillants d’améliorer la gestion des stocks et d’optimiser l’agencement des magasins pour mieux impliquer les clients.

De même, dans les villes intelligentes, YOLO11 peut être utilisé pour surveiller le trafic en comptant les véhicules, en suivant les piétons et en détectant les franchissements de feux rouges en temps réel. Ces informations peuvent contribuer à optimiser la circulation, à améliorer la sécurité routière et à faciliter les systèmes automatisés de contrôle.

Fig. 6 Comptage des véhicules avec YOLO11.

L’inspection industrielle constitue un autre cas d’usage intéressant : Ultralytics YOLO11 peut être déployé sur des lignes de production afin de détecter automatiquement des défauts visuels tels que des composants manquants, des problèmes d’alignement ou des dommages de surface. Cela améliore l’efficacité, réduit les coûts et favorise une meilleure qualité des produits.

Facteurs clés à prendre en compte lors de l’utilisation de la boîte à outils OpenVINO#

Lors du déploiement de modèles Ultralytics YOLO11 avec OpenVINO, voici quelques points importants à garder à l’esprit pour obtenir les meilleurs résultats :

• Vérifie la compatibilité matérielle : assure-toi que ton matériel Intel, qu’il s’agisse d’un CPU, d’un GPU intégré ou d’un NPU, est pris en charge par OpenVINO afin que le modèle puisse s’exécuter efficacement.
• Installe les bons pilotes : si tu utilises des GPU ou des NPU Intel, vérifie que tous les pilotes requis sont correctement installés et à jour.
• Comprends les compromis liés à la précision : OpenVINO prend en charge les précisions de modèle FP32, FP16 et INT8. Chacune implique un compromis entre vitesse et précision ; il est donc important de choisir la bonne option en fonction de tes objectifs de performances et du matériel disponible.

Points clés à retenir#

Exporter Ultralytics YOLO11 au format OpenVINO facilite l’exécution de modèles d’IA visuelle rapides et efficaces sur du matériel Intel. Tu peux les déployer sur des CPU, des GPU et des NPU sans devoir les réentraîner ni modifier ton code. C’est un excellent moyen d’améliorer les performances tout en conservant une solution simple et évolutive.

Grâce à sa prise en charge intégrée au package Ultralytics Python, l’exportation et l’exécution de l’inférence avec OpenVINO sont simples. En quelques étapes seulement, tu peux optimiser ton modèle et l’exécuter sur différentes plateformes Intel. Que tu travailles sur le commerce de détail intelligent, la surveillance du trafic ou l’inspection industrielle, ce flux de travail t’aide à passer rapidement et sereinement du développement au déploiement.

Rejoins la communauté YOLO et consulte le dépôt GitHub d’Ultralytics pour en savoir plus sur les intégrations performantes prises en charge par Ultralytics. Consulte également les options de licence Ultralytics pour commencer dès aujourd’hui avec la vision par ordinateur !

Inscris-toi à notre prochain webinaire pour voir l’intégration Ultralytics × OpenVINO en action, et consulte le site web OpenVINO pour découvrir des outils permettant d’optimiser et de déployer l’IA à grande échelle.