Optimiser les modèles Ultralytics YOLO avec l’intégration TensorRT

Imagine une voiture autonome circulant dans une rue très fréquentée, avec seulement quelques millisecondes pour détecter un piéton qui descend du trottoir. Elle doit également parfois reconnaître un panneau Stop partiellement masqué par un arbre ou réagir rapidement à un véhicule proche qui dévie sur sa voie. Dans ce type de situation, la vitesse et les réponses en temps réel sont essentielles.

C’est là que l’intelligence artificielle (AI), et plus précisément la vision par ordinateur, une branche de l’AI qui aide les machines à interpréter les données visuelles, joue un rôle essentiel. Pour fonctionner de manière fiable dans des environnements réels, les solutions de vision par ordinateur doivent souvent traiter les informations rapidement, gérer plusieurs tâches simultanément et utiliser efficacement la mémoire.

L’une des façons d’y parvenir consiste à utiliser l’accélération matérielle, avec des dispositifs spécialisés comme les unités de traitement graphique (GPUs) pour exécuter les modèles plus rapidement. Les GPUs NVIDIA sont particulièrement connus pour ce type de tâches, grâce à leur capacité à offrir une faible latence et un débit élevé.

Cependant, exécuter un modèle tel quel sur un GPU ne garantit pas toujours des performances optimales. Les modèles d’AI pour la vision nécessitent généralement une optimisation afin d’exploiter pleinement les capacités des dispositifs matériels. Pour obtenir des performances maximales avec un matériel donné, nous devons compiler le modèle afin qu’il utilise l’ensemble d’instructions spécifique à ce matériel.

Par exemple, TensorRT est un format d’exportation et une bibliothèque d’optimisation développés par NVIDIA pour améliorer les performances sur les machines haut de gamme. Il utilise des techniques avancées pour réduire considérablement le temps d’inférence tout en préservant la précision.

Fig. 1. NVIDIA TensorRT permet aux modèles de s’exécuter de manière optimale sur divers appareils NVIDIA.

Dans cet article, nous allons explorer l’intégration TensorRT prise en charge par Ultralytics et voir comment exporter ton modèle YOLO11 pour un déploiement plus rapide et plus efficace sur du matériel NVIDIA. C’est parti !

Présentation de TensorRT#

TensorRT est une boîte à outils développée par NVIDIA pour aider les modèles d’AI à s’exécuter plus rapidement et plus efficacement sur les GPUs NVIDIA. Elle est conçue pour les applications concrètes où la vitesse et les performances sont particulièrement importantes, comme les voitures autonomes et le contrôle qualité dans les secteurs de la fabrication et de l’industrie pharmaceutique.

TensorRT comprend des outils tels que des compilateurs et des optimiseurs de modèles, qui peuvent fonctionner en arrière-plan pour garantir que tes modèles s’exécutent avec une faible latence et puissent gérer un débit plus élevé.

L’intégration TensorRT prise en charge par Ultralytics optimise ton modèle YOLO afin qu’il s’exécute plus efficacement sur les GPUs, en utilisant notamment des méthodes comme la réduction de la précision. Il s’agit d’utiliser des formats avec moins de bits, tels que les nombres à virgule flottante sur 16 bits (FP16) ou les entiers sur 8 bits (INT8), pour représenter les données du modèle. Cela réduit l’utilisation de la mémoire et accélère les calculs avec un impact minimal sur la précision.

De plus, les couches de réseau neuronal compatibles sont fusionnées dans les modèles TensorRT optimisés afin de réduire l’utilisation de la mémoire, ce qui permet une inférence plus rapide et plus efficace.

Fig. 2. Aperçu de la technique de fusion des couches de TensorRT.

Principales fonctionnalités du format d’exportation TensorRT#

Avant d’expliquer comment exporter Ultralytics YOLO11 à l’aide de l’intégration TensorRT, examinons quelques fonctionnalités clés du format de modèle TensorRT :

• Intégration facile aux frameworks : TensorRT prend en charge l’intégration directe avec des frameworks d’AI populaires comme PyTorch, Hugging Face et ONNX, offrant des performances jusqu’à 6 fois supérieures. Il prend également en charge MATLAB, ce qui permet de développer des moteurs d’AI haute vitesse sur des plateformes telles que Jetson, NVIDIA DRIVE et les centres de données.

• Déploiement évolutif avec Triton : Les modèles optimisés au format TensorRT peuvent être déployés à grande échelle à l’aide de NVIDIA Triton Inference Server, qui améliore l’efficacité grâce à des fonctionnalités telles que le regroupement des entrées, l’exécution simultanée des modèles, la prise en charge des ensembles de modèles et la diffusion audio/vidéo en temps réel.

• Flexibilité sur tous les appareils : Des petits appareils en périphérie aux serveurs puissants, TensorRT fonctionne dans l’ensemble de l’écosystème NVIDIA et prend en charge des outils comme DeepStream pour la vidéo, Riva pour l’AI vocale, ainsi que d’autres outils dédiés à la cybersécurité, aux recommandations et à bien d’autres usages.

Comment fonctionne l’intégration TensorRT ?#

Exporter des modèles Ultralytics YOLO, comme Ultralytics YOLO11, au format de modèle TensorRT est simple. Parcourons les étapes nécessaires.

Pour commencer, tu peux installer le package Python Ultralytics à l’aide d’un gestionnaire de paquets comme « pip ». Pour cela, exécute la commande “pip install ultralytics” dans ton invite de commandes ou ton terminal.

Après avoir installé le package Python Ultralytics, tu peux entraîner, tester, affiner, exporter et déployer des modèles pour diverses tâches de vision par ordinateur, comme la détection d’objets, la classification et la segmentation d’instances. Si tu rencontres des difficultés lors de l’installation du package, consulte le guide des problèmes courants pour trouver des solutions et des conseils.

Pour l’étape suivante, tu auras besoin d’un appareil NVIDIA. Utilise l’extrait de code ci-dessous pour charger et exporter YOLO11 au format de modèle TensorRT. Il charge une variante nano préentraînée du modèle YOLO11 (yolo11n.pt) et l’exporte sous forme de fichier moteur TensorRT (yolo11n.engine), afin de le rendre prêt au déploiement sur les appareils NVIDIA.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="engine")

Après avoir converti ton modèle au format TensorRT, tu peux le déployer pour diverses applications.

L’exemple ci-dessous montre comment charger le modèle YOLO11 exporté (yolo11n.engine) et exécuter une inférence avec celui-ci. L’inférence consiste à utiliser le modèle entraîné pour effectuer des prédictions sur de nouvelles données. Dans ce cas, nous utiliserons une image d’entrée représentant un chien pour tester le modèle.

tensorrt_model = YOLO("yolo11n.engine")
results = tensorrt_model("https://images.pexels.com/photos/1254140/pexels-photo-1254140.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Lorsque tu exécutes ce code, l’image de sortie suivante est enregistrée dans le dossier runs/detect/predict.

Fig. 3. Résultat de l’exécution d’une inférence avec le modèle Ultralytics YOLO11 exporté au format TensorRT.

Quand utiliser l’intégration TensorRT#

Le package Python Ultralytics prend en charge différentes intégrations qui permettent d’exporter les modèles YOLO vers divers formats comme TorchScript, CoreML, ONNX et TensorRT. Alors, quand choisir l’intégration TensorRT ?

Voici quelques facteurs qui distinguent le format de modèle TensorRT des autres options d’intégration pour l’exportation :

• Taille de modèle réduite : Exporter un modèle YOLO au format TensorRT avec une précision INT8 peut réduire considérablement sa taille. La quantification de FP32 vers INT8 peut entraîner une réduction de 4 fois de la taille du modèle, ce qui accélère les téléchargements, diminue les besoins de stockage et réduit l’empreinte mémoire lors du déploiement.

• Consommation énergétique réduite : La quantification INT8 ne réduit pas seulement la taille du modèle, elle diminue également la consommation d’énergie. Les opérations à précision réduite des modèles YOLO exportés en INT8 peuvent consommer moins d’énergie que celles des modèles FP32, ce qui est particulièrement avantageux pour les appareils alimentés par batterie, comme les drones, les smartphones ou les appareils en périphérie.

• Performances accélérées : La combinaison de l’architecture efficace de YOLO et de l’optimisation INT8 de TensorRT peut améliorer la vitesse d’inférence.

Applications d’Ultralytics YOLO11 et du format de modèle TensorRT#

Les modèles Ultralytics YOLO exportés au format TensorRT peuvent être déployés dans un large éventail de scénarios réels. Ces modèles optimisés sont particulièrement utiles lorsque des performances d’AI rapides et efficaces sont essentielles. Découvrons quelques exemples intéressants de leur utilisation.

Caisses intelligentes dans les magasins de détail#

De nombreuses tâches dans les magasins de détail, comme scanner les codes-barres, peser les produits ou emballer les articles, sont encore effectuées manuellement par le personnel. Cependant, dépendre uniquement des employés peut ralentir les opérations et provoquer la frustration des clients, surtout aux caisses. Les longues files d’attente sont pénibles aussi bien pour les clients que pour les commerçants. Les caisses libre-service intelligentes constituent une excellente solution à ce problème.

Ces caisses utilisent la vision par ordinateur et des GPUs pour accélérer le processus et contribuer à réduire les temps d’attente. La vision par ordinateur permet à ces systèmes de voir et de comprendre leur environnement grâce à des tâches comme la détection d’objets. Des modèles avancés comme Ultralytics YOLO11, optimisés avec des outils tels que TensorRT, peuvent s’exécuter beaucoup plus rapidement sur des appareils équipés de GPUs.

Ces modèles exportés sont parfaitement adaptés aux installations de commerce intelligent utilisant des appareils matériels compacts mais puissants, comme le NVIDIA Jetson Nano, conçu spécifiquement pour les applications d’AI en périphérie.

Fig. 4. Exemple de caisse intelligente.

Détection automatisée des défauts dans le secteur manufacturier#

Un modèle de vision par ordinateur comme Ultralytics YOLO11 peut être entraîné sur mesure pour détecter les produits défectueux dans le secteur manufacturier. Une fois entraîné, le modèle peut être exporté au format TensorRT afin d’être déployé dans des installations équipées de systèmes d’AI haute performance.

À mesure que les produits avancent sur les tapis roulants, des caméras capturent des images et le modèle Ultralytics YOLO11, exécuté au format TensorRT, les analyse en temps réel pour détecter les défauts. Cette configuration permet aux entreprises d’identifier rapidement et précisément les problèmes, de réduire les erreurs et d’améliorer leur efficacité.

De même, des secteurs comme l’industrie pharmaceutique utilisent ce type de systèmes pour identifier les défauts dans les emballages médicaux. En fait, le marché mondial des systèmes intelligents de détection des défauts devrait atteindre 5 milliards de dollars d’ici 2026.

Fig. 5. Utilisation de YOLO pour détecter les défauts dans l’industrie pharmaceutique.

Points à prendre en compte lors de l’utilisation de TensorRT#

Bien que l’intégration TensorRT offre de nombreux avantages, comme une vitesse d’inférence accrue et une latence réduite, voici quelques limites à garder à l’esprit :

• Légère baisse de la précision : Lorsque tu exportes ton modèle au format TensorRT, le modèle exporté peut être moins précis que le modèle original. Les métriques de performance, comme la précision, le rappel et la capacité du modèle à détecter les objets (scores mAP), peuvent légèrement diminuer. Ce problème peut être atténué en utilisant un jeu de données représentatif lors de la quantification.

• Complexité accrue du débogage : Les optimisations effectuées par TensorRT peuvent rendre plus difficile le suivi des erreurs ou la compréhension des comportements inattendus, notamment lors de la comparaison des résultats avec le modèle original.

• Sensibilité à la taille des lots : Les gains de performance de TensorRT sont plus marqués avec des tailles de lots importantes. Pour les applications qui traitent des images individuelles ou de petits lots, les améliorations de performance peuvent être moins significatives.

Points clés à retenir#

L’exportation des modèles Ultralytics YOLO au format TensorRT leur permet de s’exécuter beaucoup plus rapidement et efficacement, ce qui les rend idéaux pour les tâches en temps réel comme la détection de défauts en usine, l’alimentation de systèmes de caisses intelligentes ou la surveillance des zones urbaines très fréquentées.

Cette optimisation aide les modèles à mieux fonctionner sur les GPUs NVIDIA en accélérant les prédictions et en réduisant la consommation de mémoire et d’énergie. Malgré quelques limites, le gain de performance fait de l’intégration TensorRT un excellent choix pour toute personne qui développe des systèmes de vision par ordinateur haute vitesse sur du matériel NVIDIA.

Tu veux en savoir plus sur l’AI ? Explore notre dépôt GitHub, rejoins notre communauté et consulte nos options de licence pour donner un nouvel élan à ton projet de vision par ordinateur. Découvre également d’autres innovations, comme l’AI dans l’industrie manufacturière et la vision par ordinateur dans le secteur de la logistique, sur nos pages consacrées aux solutions.