Optimiser les modèles Ultralytics YOLO avec l’intégration TensorRT

Imagine une voiture autonome qui circule dans une rue très fréquentée et ne dispose que de quelques millisecondes pour détecter un piéton qui s’engage sur la chaussée. Au même moment, elle doit peut-être reconnaître un panneau stop partiellement caché par un arbre ou réagir rapidement à un véhicule proche qui dévie sur sa voie. Dans ces situations, la rapidité et les réponses en temps réel sont essentielles.

C’est là que l’intelligence artificielle (AI), et plus particulièrement la vision par ordinateur, une branche de l’IA qui aide les machines à interpréter les données visuelles, joue un rôle essentiel. Pour fonctionner de manière fiable dans des environnements réels, les solutions de vision par ordinateur doivent souvent traiter rapidement les informations, gérer plusieurs tâches à la fois et utiliser efficacement la mémoire.

L’accélération matérielle est une façon d’y parvenir : elle s’appuie sur des appareils spécialisés comme les processeurs graphiques (GPUs) pour accélérer l’exécution des modèles. Les GPUs NVIDIA sont particulièrement réputés pour ces tâches, grâce à leur faible latence et à leur débit élevé.

Cependant, exécuter un modèle tel quel sur un GPU ne garantit pas toujours des performances optimales. Les modèles d’IA visuelle doivent généralement être optimisés pour tirer pleinement parti des capacités du matériel. Pour obtenir des performances optimales sur un matériel donné, il faut compiler le modèle afin qu’il utilise le jeu d’instructions spécifique à ce matériel.

Par exemple, TensorRT est un format d’exportation et une bibliothèque d’optimisation développés par NVIDIA pour améliorer les performances sur les GPU NVIDIA. Il utilise des techniques avancées pour réduire considérablement le temps d’inférence tout en préservant la précision.

Fig. 1. NVIDIA TensorRT permet aux modèles de fonctionner de manière optimale sur différents appareils NVIDIA.

Dans cet article, nous allons explorer l’intégration TensorRT prise en charge par Ultralytics et voir comment exporter ton modèle YOLO11 pour le déployer plus rapidement et plus efficacement sur du matériel NVIDIA. C’est parti !

Présentation de TensorRT#

TensorRT est une boîte à outils développée par NVIDIA pour aider les modèles d’IA à fonctionner plus rapidement et plus efficacement sur les GPUs NVIDIA. Elle est conçue pour les applications concrètes où la vitesse et les performances sont essentielles, comme les voitures autonomes et le contrôle qualité dans les secteurs manufacturier et pharmaceutique.

TensorRT comprend des outils comme des compilateurs et des optimiseurs de modèles, qui travaillent en arrière-plan pour garantir une faible latence et permettre à tes modèles de gérer un débit supérieur.

L’intégration TensorRT prise en charge par Ultralytics optimise ton modèle YOLO afin qu’il s’exécute plus efficacement sur les GPU, notamment grâce à des méthodes comme la réduction de la précision. Il s’agit d’utiliser des formats comportant moins de bits, comme les nombres à virgule flottante sur 16 bits (FP16) ou les entiers sur 8 bits (INT8), pour représenter les données du modèle. Cela réduit l’utilisation de la mémoire et accélère les calculs avec un impact minime sur la précision.

De plus, les couches compatibles du réseau neuronal sont fusionnées dans les modèles TensorRT optimisés afin de réduire l’utilisation de la mémoire, ce qui accélère et rend l’inférence plus efficace.

Fig. 2. Aperçu de la technique de fusion de couches de TensorRT.

Principales caractéristiques du format d’exportation TensorRT#

Avant de voir comment exporter Ultralytics YOLO11 grâce à l’intégration TensorRT, examinons quelques caractéristiques clés du format de modèle TensorRT :

• Intégration facile aux frameworks : TensorRT prend en charge l’intégration directe avec des frameworks d’IA populaires comme PyTorch, Hugging Face et ONNX, et offre des performances jusqu’à 6 fois supérieures. Il prend également en charge MATLAB, ce qui permet de développer des moteurs d’IA haute performance sur des plateformes comme Jetson, NVIDIA DRIVE et les centres de données.
• Déploiement évolutif avec Triton : les modèles optimisés au format TensorRT peuvent être déployés à grande échelle à l’aide de NVIDIA Triton Inference Server, qui améliore l’efficacité grâce à des fonctionnalités comme le regroupement des entrées par lots, l’exécution simultanée de modèles, la prise en charge des ensembles de modèles et le streaming audio/vidéo en temps réel.
• Polyvalence sur tous les appareils : des petits appareils périphériques aux serveurs puissants, TensorRT fonctionne dans tout l’écosystème NVIDIA et prend en charge des outils comme DeepStream pour la vidéo, Riva pour l’IA vocale, ainsi que d’autres outils pour la cybersécurité, les recommandations et bien plus encore.

Comment fonctionne l’intégration TensorRT ?#

L’exportation de modèles Ultralytics YOLO, comme Ultralytics YOLO11, au format TensorRT est simple. Voyons les étapes à suivre.

Pour commencer, tu peux installer le package Python Ultralytics à l’aide d’un gestionnaire de paquets comme pip. Pour cela, exécute la commande pip install ultralytics dans ton invite de commandes ou ton terminal.

Après avoir installé le package Python Ultralytics, tu peux entraîner, tester, ajuster, exporter et déployer des modèles pour différentes tâches de vision par ordinateur, comme la détection d’objets, la classification et la segmentation d’instances. Si tu rencontres des difficultés lors de l’installation du package, consulte le guide des problèmes courants pour trouver des solutions et des conseils.

Pour l’étape suivante, tu auras besoin d’un appareil NVIDIA. Utilise l’extrait de code ci-dessous pour charger YOLO11 et l’exporter au format TensorRT. Il charge une variante Nano préentraînée du modèle YOLO11 (yolo11n.pt) et l’exporte sous forme de fichier moteur TensorRT (yolo11n.engine), prêt à être déployé sur des appareils NVIDIA.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="engine")

Après avoir converti ton modèle au format TensorRT, tu peux le déployer pour diverses applications.

L’exemple ci-dessous montre comment charger le modèle YOLO11 exporté (yolo11n.engine) et exécuter une inférence avec celui-ci. L’inférence consiste à utiliser le modèle entraîné pour effectuer des prédictions sur de nouvelles données. Dans cet exemple, nous utiliserons une image d’entrée représentant un chien pour tester le modèle.

tensorrt_model = YOLO("yolo11n.engine")
results = tensorrt_model("https://images.pexels.com/photos/1254140/pexels-photo-1254140.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Lorsque tu exécutes ce code, l’image de sortie suivante est enregistrée dans le dossier runs/detect/predict.

Fig. 3. Résultat de l’exécution d’une inférence avec le modèle Ultralytics YOLO11 exporté au format TensorRT.

Quand tirer parti de l’intégration TensorRT#

Le package Python Ultralytics prend en charge différentes intégrations qui permettent d’exporter des modèles YOLO dans plusieurs formats, comme TorchScript, CoreML, ONNX et TensorRT. Alors, quand choisir l’intégration TensorRT ?

Voici quelques facteurs qui distinguent le format de modèle TensorRT des autres options d’intégration pour l’exportation :

• Taille de modèle réduite : L’exportation d’un modèle YOLO au format TensorRT avec la précision INT8 (quantize=8) peut réduire considérablement sa taille. La quantification de FP32 à INT8 peut réduire la taille du modèle d’un facteur 4, ce qui accélère les téléchargements, réduit l’espace de stockage nécessaire et diminue l’empreinte mémoire lors du déploiement.
• Consommation énergétique réduite : la quantification INT8 réduit non seulement la taille du modèle, mais aussi sa consommation d’énergie. Les opérations à précision réduite des modèles YOLO exportés en INT8 peuvent consommer moins d’énergie que celles des modèles FP32, ce qui est particulièrement avantageux pour les appareils alimentés par batterie, comme les drones, les smartphones ou les appareils périphériques.
• Performances accrues : l’association de l’architecture efficace de YOLO et de l’optimisation INT8 de TensorRT peut accélérer les inférences.

Applications d’Ultralytics YOLO11 et du format de modèle TensorRT#

Les modèles Ultralytics YOLO exportés au format TensorRT peuvent être déployés dans de nombreux scénarios réels. Ces modèles optimisés sont particulièrement utiles lorsque des performances d’IA rapides et efficaces sont essentielles. Découvrons quelques exemples d’utilisation.

Caisses intelligentes dans les magasins de détail#

De nombreuses tâches dans les magasins de détail, comme scanner des codes-barres, peser des produits ou emballer des articles, sont encore effectuées manuellement par le personnel. Cependant, dépendre uniquement des employés peut ralentir les opérations et frustrer les clients, surtout à la caisse. Les longues files d’attente sont désagréables pour les clients comme pour les commerçants. Les caisses automatiques intelligentes sont une excellente solution à ce problème.

Ces caisses s’appuient sur la vision par ordinateur et les GPUs pour accélérer le processus et réduire les temps d’attente. La vision par ordinateur permet à ces systèmes de percevoir et de comprendre leur environnement grâce à des tâches comme la détection d’objets. Des modèles avancés comme Ultralytics YOLO11, optimisés avec des outils comme TensorRT, peuvent fonctionner beaucoup plus rapidement sur des appareils équipés de GPUs.

Ces modèles exportés conviennent parfaitement aux installations de commerce intelligent qui utilisent des appareils compacts mais puissants, comme le NVIDIA Jetson Nano, conçu spécialement pour les applications d’IA en périphérie.

Fig. 4. Exemple de caisse intelligente.

Détection automatisée des défauts dans l’industrie manufacturière#

Un modèle de vision par ordinateur comme Ultralytics YOLO11 peut être entraîné sur mesure pour détecter les produits défectueux dans l’industrie manufacturière. Une fois entraîné, le modèle peut être exporté au format TensorRT pour être déployé dans des installations équipées de systèmes d’IA haute performance.

À mesure que les produits avancent sur les convoyeurs, des caméras capturent des images que le modèle Ultralytics YOLO11, exécuté au format TensorRT, analyse en temps réel pour repérer les défauts. Cette configuration permet aux entreprises de détecter rapidement et précisément les problèmes, de réduire les erreurs et d’améliorer leur efficacité.

De même, des secteurs comme l’industrie pharmaceutique utilisent ce type de système pour repérer les défauts dans les emballages médicaux. En effet, le marché mondial des systèmes intelligents de détection des défauts devrait atteindre 5 milliards de dollars d’ici 2026.

Fig. 5. Détection de défauts dans l’industrie pharmaceutique avec YOLO.

Points à prendre en compte lors de l’utilisation de TensorRT#

L’intégration TensorRT offre de nombreux avantages, comme une inférence plus rapide et une latence réduite, mais voici quelques limites à garder à l’esprit :

• Légère baisse de précision : Lorsque tu exportes ton modèle au format TensorRT, le modèle exporté peut être moins précis que l’original. Des métriques de performance comme la précision, le rappel et la capacité du modèle à détecter les objets (scores mAP) peuvent légèrement diminuer. Tu peux atténuer cette baisse en utilisant un jeu de données d’étalonnage représentatif (l’argument data) lors de la quantification INT8.
• Débogage plus complexe : Les optimisations effectuées par TensorRT peuvent rendre plus difficile la recherche des erreurs ou la compréhension d’un comportement inattendu, surtout lorsque tu compares les résultats à ceux du modèle d’origine.
• Sensibilité à la taille des lots : Les gains de performance de TensorRT sont plus marqués avec des lots plus volumineux. Pour les applications qui traitent des images individuelles ou de petits lots, les améliorations de performance peuvent être moins importantes.

Points clés à retenir#

L’exportation des modèles Ultralytics YOLO au format TensorRT les rend nettement plus rapides et plus efficaces, ce qui les rend idéaux pour des tâches en temps réel comme la détection de défauts en usine, l’alimentation de systèmes de caisse intelligents ou la surveillance de zones urbaines très fréquentées.

Cette optimisation améliore les performances des modèles sur les GPU NVIDIA en accélérant les prédictions et en réduisant l’utilisation de la mémoire et de l’énergie. Malgré quelques limites, le gain de performance fait de l’intégration de TensorRT un excellent choix pour tous ceux qui développent des systèmes de vision par ordinateur à haute vitesse sur du matériel NVIDIA.

Tu veux en savoir plus sur l’IA ? Explore notre dépôt GitHub, échange avec notre communauté et consulte nos options de licence pour lancer ton projet de vision par ordinateur. Découvre les innovations comme l’IA dans l’industrie manufacturière et la vision par ordinateur dans le secteur de la logistique sur nos pages de solutions.