Les inférences en temps réel dans les solutions d’IA visuelle ont un impact

Nous avons tous déjà été confrontés aux frustrations causées par une connexion Internet lente. Mais imagine un tel délai dans une situation à haut risque, comme une voiture autonome qui réagit à un obstacle ou un médecin qui analyse un examen critique. Quelques secondes supplémentaires peuvent avoir de graves conséquences.

C’est là que l’inférence en temps réel de l’IA peut faire la différence. Le traitement rapide et les prédictions en temps réel permettent aux solutions de vision par ordinateur de traiter les données visuelles et d’y réagir instantanément. Ces décisions prises en une fraction de seconde peuvent améliorer la sécurité, l’efficacité et le confort au quotidien.

Par exemple, imagine un chirurgien réalisant une intervention délicate à l’aide d’un assistant robotique. Chaque mouvement est contrôlé via une connexion haut débit, et le système de vision du robot traite le champ opératoire en temps réel, fournissant au chirurgien un retour visuel instantané. Le moindre délai dans cette boucle de rétroaction pourrait entraîner de graves erreurs et mettre le patient en danger. C’est un parfait exemple de l’importance des inférences en temps réel : il n’y a aucune place pour la latence.

Les inférences d’IA dans les applications du monde réel reposent sur trois concepts clés : les moteurs d’inférence (les logiciels ou matériels qui exécutent efficacement les modèles d’IA), la latence d’inférence (le délai entre l’entrée et la sortie) et l’inférence en temps réel (la capacité du système d’IA à traiter les données et à réagir avec un délai minimal).

Dans cet article, nous allons explorer ces concepts fondamentaux et découvrir comment les modèles de vision par ordinateur comme Ultralytics YOLO11 permettent de créer des applications qui reposent sur des prédictions instantanées.

Qu’est-ce qu’une inférence d’IA ?#

L’exécution d’une inférence est le processus qui consiste à analyser de nouvelles données à l’aide d’un modèle d’IA entraîné afin d’effectuer une prédiction ou de résoudre une tâche. Contrairement à l’entraînement, qui consiste à apprendre quelque chose à un modèle en traitant de grandes quantités de données annotées, l’inférence vise à produire rapidement et précisément des résultats à l’aide d’un modèle déjà entraîné.

Fig. 1 Comprendre ce que sont les inférences.

Par exemple, dans le cadre de la conservation de la faune, les caméras-pièges dotées d’IA utilisent des modèles de vision par ordinateur pour identifier et classifier les animaux en temps réel. Lorsqu’une caméra détecte un mouvement, le modèle d’IA reconnaît instantanément s’il s’agit d’un cerf, d’un prédateur ou même d’un braconnier, ce qui aide les chercheurs à suivre les populations animales et à protéger les espèces menacées sans intervention humaine. Cette identification rapide rend possible la surveillance en temps réel et l’accélération des réactions face aux menaces potentielles.

Comprendre les moteurs d’inférence#

Un modèle de machine learning entraîné n’est pas toujours prêt à être déployé sous sa forme brute. Un moteur d’inférence est un outil logiciel ou matériel spécialisé, conçu pour exécuter efficacement les modèles de machine learning et les optimiser en vue de leur déploiement dans le monde réel. Il utilise des techniques d’optimisation comme la compression des modèles, la quantification et les transformations de graphes afin d’améliorer les performances et de réduire la consommation de ressources, ce qui permet de déployer le modèle dans différents environnements.

Au cœur de sa fonction, un moteur d’inférence cherche à réduire la surcharge de calcul, à minimiser la latence et à améliorer l’efficacité pour permettre des prédictions rapides et précises. Une fois optimisé, le moteur exécute le modèle sur de nouvelles données, ce qui lui permet de générer efficacement des inférences en temps réel. Cette optimisation garantit que les modèles d’IA peuvent fonctionner de manière fluide aussi bien sur des serveurs cloud hautes performances que sur des appareils edge aux ressources limitées, comme les smartphones, les appareils IoT et les systèmes embarqués.

Problèmes causés par la latence d’inférence#

La latence d’inférence correspond au délai entre le moment où un système d’IA reçoit les données d’entrée (comme une image provenant d’une caméra) et celui où il produit une sortie (comme la détection d’objets dans l’image). Même un faible délai peut avoir un impact significatif sur les performances et l’utilisabilité des applications d’IA en temps réel.

La latence d’inférence intervient à trois étapes clés :

• Temps de prétraitement : temps nécessaire pour préparer les données d’entrée avant de les transmettre au modèle. Cela comprend le redimensionnement des images pour les adapter aux dimensions d’entrée du modèle, la normalisation des valeurs des pixels pour améliorer la précision et la conversion des formats (par exemple, de RGB en niveaux de gris ou d’une vidéo en séquences d’images).
• Temps de calcul : temps réellement nécessaire au modèle pour effectuer l’inférence. Il comprend des opérations comme les calculs couche par couche dans les réseaux profonds, les multiplications matricielles, les convolutions et le transfert de données entre la mémoire et les unités de traitement.
• Temps de post-traitement : temps nécessaire pour convertir les sorties brutes du modèle en résultats significatifs. Il peut s’agir de dessiner des boîtes englobantes dans le cadre de la détection d’objets, de filtrer les faux positifs lors de la reconnaissance d’images ou d’appliquer des seuils pour la détection d’anomalies.

La latence d’inférence est essentielle dans les applications en temps réel. Par exemple, dans la détection automatisée des défauts sur une chaîne de montage, la vision par ordinateur peut être utilisée pour inspecter les produits au fur et à mesure qu’ils avancent sur le tapis roulant.

Le système doit identifier et signaler rapidement les défauts avant que les produits ne passent à l’étape suivante. Si le modèle met trop de temps à traiter les images, les articles défectueux risquent de ne pas être détectés à temps, ce qui peut entraîner un gaspillage de matériaux, des retouches coûteuses ou l’arrivée de produits défectueux chez les clients. En réduisant la latence, les fabricants peuvent améliorer le contrôle qualité, accroître leur efficacité et réduire leurs pertes.

Comment réduire la latence d’inférence#

Maintenir une latence d’inférence minimale est essentiel dans de nombreuses applications de vision par ordinateur. Plusieurs techniques peuvent être utilisées pour y parvenir. Examinons quelques-unes des techniques les plus courantes pour réduire la latence d’inférence.

Élagage des modèles#

L’élagage des modèles simplifie un réseau neuronal en supprimant les connexions inutiles (poids), ce qui le rend plus petit et plus rapide. Ce processus réduit la charge de calcul du modèle et améliore la vitesse sans trop affecter la précision.

En conservant uniquement les connexions les plus importantes, l’élagage garantit une inférence efficace et de meilleures performances, notamment sur les appareils disposant d’une puissance de traitement limitée. Il est largement utilisé dans les applications en temps réel comme l’IA mobile, la robotique et l’edge computing pour améliorer l’efficacité tout en conservant la fiabilité.

Fig. 2 Élimination des connexions les moins efficaces grâce à l’élagage des modèles.

Quantification des modèles#

La quantification des modèles est une technique qui permet aux modèles d’IA de fonctionner plus rapidement et d’utiliser moins de mémoire en simplifiant les nombres utilisés pour les calculs. Normalement, ces modèles utilisent des nombres à virgule flottante sur 32 bits, qui sont très précis mais nécessitent une grande puissance de traitement. La quantification convertit ces nombres en entiers sur 8 bits, plus faciles à traiter et moins gourmands en espace.

Fig. 3 Utilisation de la quantification des modèles pour convertir des valeurs à virgule flottante en représentations entières.

Utiliser des modèles efficaces#

La conception d’un modèle d’IA a un impact majeur sur la vitesse à laquelle il peut effectuer des prédictions. Les modèles comme Ultralytics YOLO11, conçus pour une inférence efficace, sont idéaux pour les applications où la vitesse de traitement est essentielle.

Lorsque tu conçois une solution d’IA, il est important de choisir le bon modèle en fonction des ressources disponibles et des besoins en performances. Si tu commences avec un modèle trop lourd, tu risques davantage de rencontrer des problèmes comme des temps de traitement lents, une consommation d’énergie plus élevée et des difficultés de déploiement sur des appareils aux ressources limitées. Un modèle léger garantit des performances fluides, notamment pour les applications en temps réel et edge.

Vitesse ou précision : optimiser les inférences en temps réel#

Bien qu’il existe différentes techniques pour réduire la latence, un aspect essentiel des inférences en temps réel consiste à trouver un équilibre entre vitesse et précision. Accélérer les modèles ne suffit pas : il faut optimiser la vitesse d’inférence sans compromettre la précision. Un système qui produit rapidement des prédictions incorrectes est inefficace. C’est pourquoi des tests approfondis sont indispensables pour s’assurer que les modèles fonctionnent correctement dans des situations réelles. Un système qui semble rapide pendant les tests mais échoue dans des conditions réelles n’est pas véritablement optimisé.

Applications d’IA visuelle qui exploitent les inférences en temps réel#

Voyons maintenant quelques applications du monde réel dans lesquelles l’inférence en temps réel transforme les secteurs d’activité en permettant des réactions instantanées aux entrées visuelles.

Systèmes de caisse automatique dans les magasins#

Les modèles de vision par ordinateur comme Ultralytics YOLO11 peuvent contribuer à améliorer les systèmes de caisse automatique en rendant la reconnaissance des articles plus rapide et plus précise. La prise en charge par YOLO11 de diverses tâches de vision par ordinateur, comme la détection d’objets et la segmentation d’instances, permet d’identifier les produits même lorsque les codes-barres sont absents ou endommagés. L’IA visuelle peut réduire le besoin de saisie manuelle et accélérer le passage en caisse.

Au-delà de l’identification des produits, la vision par ordinateur peut également être intégrée aux systèmes de caisse automatique pour vérifier les prix, prévenir la fraude et améliorer le confort des clients. Des caméras dotées d’IA peuvent automatiquement distinguer des produits similaires et détecter les comportements suspects en caisse. Cela comprend l’identification des « non-scans », lorsqu’un client ou un caissier omet involontairement un article, ainsi que des tentatives de fraude plus délibérées, comme la « substitution de produit », lorsqu’un code-barres moins cher est placé sur un article plus coûteux.

Fig. 4 L’IA peut améliorer les caisses automatiques.

Un excellent exemple est Kroger, un grand distributeur américain qui a intégré la vision par ordinateur et l’IA à ses systèmes de caisse automatique. Grâce à l’analyse vidéo en temps réel, Kroger a pu corriger automatiquement plus de 75 % des erreurs d’encaissement, améliorant à la fois l’expérience client et les opérations en magasin.

Inspection qualité à l’aide de la vision par ordinateur#

Inspecter les produits manuellement dans le cadre du contrôle qualité peut être lent et pas toujours précis. C’est pourquoi de plus en plus de fabricants adoptent des processus d’inspection visuelle qui utilisent la vision par ordinateur pour détecter les défauts plus tôt dans le processus de production.

Les caméras haute résolution et l’IA visuelle peuvent détecter de petits défauts qui pourraient échapper à l’œil humain, et des modèles comme Ultralytics YOLO11 peuvent contribuer aux contrôles qualité, au tri et au comptage en temps réel afin de garantir que seuls des produits parfaits parviennent aux clients. L’automatisation de ce processus permet de gagner du temps, de réduire les coûts et de limiter les déchets, rendant la production plus fluide et plus efficace.

Fig. 5 Exemple d’utilisation d’Ultralytics YOLO11 pour compter les produits sur une chaîne de montage.

Points clés à retenir#

L’inférence en temps réel aide les modèles d’IA à prendre des décisions instantanées, ce qui est essentiel dans de nombreux secteurs. Qu’il s’agisse d’une voiture autonome qui évite un accident, d’un médecin qui analyse rapidement des examens médicaux ou d’une usine qui détecte des défauts sur des produits, des réponses d’IA rapides et précises font toute la différence.

En améliorant la vitesse et l’efficacité des modèles d’IA, nous pouvons créer des systèmes plus intelligents et plus fiables, qui fonctionnent de manière fluide dans des situations réelles. À mesure que la technologie progresse, les solutions d’IA en temps réel continueront de façonner l’avenir, en rendant les processus quotidiens plus rapides, plus sûrs et plus efficaces.

Pour en savoir plus, consulte notre dépôt GitHub et échange avec notre communauté. Découvre les innovations dans des secteurs comme l’IA dans les voitures autonomes et la vision par ordinateur dans l’agriculture sur nos pages consacrées aux solutions. Consulte nos options de licence et donne vie à tes projets d’IA visuelle.