Exécuter les modèles Ultralytics YOLO sur le PC IA d’Intel avec OpenVINO

YOLO Vision 2024 (YV24), l’événement hybride annuel d’Ultralytics, a réuni des passionnés d’IA, des développeurs et des experts du monde entier pour découvrir les dernières innovations en vision par ordinateur. YV24 a accueilli des acteurs majeurs du secteur de l’IA venus présenter leurs dernières innovations. Intel était notamment présent pour donner une conférence sur son nouvel AI PC et sur l’intégration d’Intel OpenVINO aux modèles Ultralytics YOLO comme Ultralytics YOLO11.

La présentation était animée par Adrian Boguszewski, évangéliste logiciel, coauteur du jeu de données LandCover.ai et formateur des développeurs à la boîte à outils OpenVINO d’Intel, ainsi que par Dmitriy Pastushenkov, évangéliste AI PC fort de plus de 20 ans d’expérience en automatisation industrielle et en IA. Pendant l’événement, Adrian a déclaré : « C’est un excellent événement aujourd’hui, non seulement parce qu’Ultralytics a lancé une nouvelle version de YOLO, mais aussi parce que nous pouvons présenter ce nouveau modèle exécuté sur notre nouveau matériel, ainsi qu’une nouvelle version d’OpenVINO. »

Dans cet article, nous allons revenir sur les principaux moments de la présentation d’Intel à YV24, notamment l’AI PC d’Intel, la gamme Intel Core Ultra 200V et son intégration aux modèles Ultralytics YOLO avec la boîte à outils OpenVINO.

Les technologies de l’IA en 2024#

Dmitriy a commencé la conférence en expliquant les principales différences entre l’IA traditionnelle et l’IA générative. Il s’est intéressé à l’évolution de ces technologies et de leurs cas d’utilisation en 2024. Les techniques d’IA traditionnelle, comme la vision par ordinateur et le traitement du langage naturel, sont essentielles pour des tâches telles que l’estimation de pose, la détection d’objets et la reconnaissance vocale. L’IA générative, en revanche, représente une nouvelle vague de technologies d’IA qui englobe notamment les chatbots, la génération d’images à partir de texte, l’écriture de code et même la génération de vidéos à partir de texte.

Fig. 1. Adrian et Dmitriy d’Intel sur scène à YV24, discutant des cas d’usage de l’IA.

Dmitriy a souligné l’écart d’échelle entre les deux. Il a expliqué que, tandis que les modèles d’IA traditionnelle comptent des millions de paramètres, les modèles d’IA générative fonctionnent à une échelle bien plus grande. Ils comptent souvent des milliards, voire des milliers de milliards de paramètres, ce qui exige beaucoup plus de puissance de calcul.

L’AI PC d’Intel : une nouvelle frontière pour le matériel d’IA#

Dmitriy a présenté l’AI PC d’Intel comme une nouvelle solution matérielle conçue pour relever les défis croissants liés à l’exécution efficace des modèles d’IA traditionnels et génératifs. L’AI PC d’Intel est une machine puissante et écoénergétique. Elle peut exécuter localement un large éventail de modèles d’IA, sans nécessiter de traitement dans le cloud.

Le traitement local contribue à préserver la confidentialité des données sensibles. Lorsque les modèles d’IA peuvent fonctionner sans connexion Internet, cela aide à répondre aux préoccupations éthiques du secteur concernant la confidentialité et la sécurité.

Le processeur Intel Core Ultra 200V Series est au cœur de l’Intel AI PC. Il intègre trois composants clés : l’unité centrale (CPU), le processeur graphique (GPU) et l’unité de traitement neuronal (NPU). Chacun joue un rôle spécifique dans le traitement de différents types de charges de travail liées à l’IA. Le CPU convient parfaitement aux petites tâches à faible latence qui nécessitent des réponses rapides, tandis que le GPU est optimisé pour les opérations à haut débit, comme l’exécution de modèles d’IA. Le NPU, conçu pour être économe en énergie, convient particulièrement aux tâches de longue durée comme la détection d’objets en temps réel avec des modèles tels que YOLO11.

Il a été précisé que le CPU peut atteindre 5 TOPS (billions d’opérations par seconde), le GPU jusqu’à 67 TOPS et que le NPU permet d’exécuter des tâches d’IA en continu de manière écoénergétique, sans épuiser les ressources du système.

Les avancées de l’IA chez Intel : la série Intel Core Ultra 200V#

Le processeur Intel Core Ultra 200V Series intègre les trois moteurs d’IA — NPU, CPU et GPU — sur une seule petite puce. Sa conception convient parfaitement aux appareils compacts comme les ordinateurs portables.

Le processeur comprend également de la RAM intégrée, ce qui réduit le besoin de cartes graphiques séparées. Cela contribue à diminuer la consommation d’énergie et à garder l’appareil compact. Dmitriy a également souligné la flexibilité du processeur. Les utilisateurs peuvent choisir d’exécuter les modèles d’IA sur le CPU, le GPU ou le NPU, selon la tâche. Par exemple, la détection d’objets avec les modèles YOLO11 peut s’exécuter sur n’importe lequel de ces moteurs, tandis que des tâches plus complexes, comme la génération d’images à partir de texte, peuvent utiliser simultanément le GPU et le NPU pour de meilleures performances.

Pendant la présentation, Dmitriy a sorti la puce de sa poche, donnant à tout le monde une idée précise de sa toute petite taille, malgré sa capacité à gérer des tâches d’IA aussi avancées. C’était une façon amusante et mémorable de montrer comment Intel apporte de puissantes capacités d’IA à des appareils plus portables et pratiques.

Fig. 2. Le processeur Intel Core Ultra 200V tient dans une poche.

Optimiser les modèles d’IA avec Intel OpenVINO#

Après avoir présenté le matériel le plus récent d’Intel, Dmitriy est passé à la pile logicielle d’Intel dédiée à l’IA. Il a présenté OpenVINO, un framework open source d’Intel conçu pour optimiser et déployer des modèles d’IA efficacement sur différents appareils. OpenVINO ne se limite pas aux tâches visuelles : il prend également en charge les modèles d’IA utilisés pour le traitement du langage naturel, le traitement audio, les Transformers et bien plus encore.

OpenVINO est compatible avec des frameworks populaires comme PyTorch, TensorFlow et ONNX, et les développeurs peuvent facilement l’intégrer à leurs flux de travail. Il a notamment attiré l’attention sur la quantification. La quantification compresse les poids des modèles afin de réduire leur taille, ce qui permet d’exécuter facilement de grands modèles sur des appareils locaux sans recourir au cloud. OpenVINO fonctionne avec plusieurs frameworks et s’exécute sur CPU, GPU, NPU, FPGA ou même sur des appareils ARM. Il prend en charge Windows, Linux et macOS. Dmitriy a également expliqué au public à quel point il est facile de démarrer avec OpenVINO.

Fig. 3. Dmitriy explique comment commencer à utiliser OpenVINO.

Intégration d’Ultralytics à Intel OpenVINO#

Dans la deuxième partie de la présentation, Adrian a pris la parole pour expliquer l’intégration des modèles Ultralytics YOLO à la boîte à outils OpenVINO d’Intel, qui simplifie le déploiement des modèles YOLO. Il a expliqué étape par étape à quel point il est rapide et simple d’exporter un modèle YOLO au format OpenVINO à l’aide du package Python Ultralytics. Cette intégration facilite considérablement l’optimisation des modèles pour le matériel Intel et permet aux développeurs de tirer le meilleur parti des deux plateformes.

Fig. 4. Adrian explique comment Ultralytics facilite l’exportation de ton modèle au format OpenVINO.

Adrian a montré qu’une fois un modèle Ultralytics YOLO entraîné, il est possible de l’exporter avec quelques options simples en ligne de commande. Par exemple, les utilisateurs peuvent choisir d’exporter le modèle en version à virgule flottante pour obtenir une précision maximale ou en version quantifiée pour gagner en vitesse et en efficacité. Il a également souligné que les développeurs peuvent gérer ce processus directement dans le code, avec des options comme la quantification INT8 pour améliorer les performances sans sacrifier trop de précision.

Démos d’IA en temps réel sur le PC IA Intel#

Pour mettre toute cette théorie en pratique, l’équipe Intel a présenté une démonstration de détection d’objets en temps réel en exécutant YOLO11 sur l’Intel AI PC. Adrian a montré comment le système faisait fonctionner le modèle sur différents processeurs : 36 images par seconde (FPS) sur le CPU avec un modèle à virgule flottante, plus de 100 FPS sur le GPU intégré et 70 FPS avec la version quantifiée INT8. La démonstration a montré l’efficacité avec laquelle l’Intel AI PC peut gérer des tâches d’IA complexes.

Il a également indiqué que le système peut exécuter des modèles en parallèle en utilisant conjointement le CPU, le GPU et le NPU pour les tâches où toutes les données ou images vidéo sont disponibles à l’avance. C’est utile pour traiter des charges importantes, comme des vidéos. Le système peut répartir la charge de travail entre différents processeurs, ce qui le rend plus rapide et plus efficace.

Pour conclure, Adrian a indiqué que les utilisateurs pouvaient essayer des démonstrations chez eux, notamment des solutions de comptage de personnes et de gestion intelligente des files d’attente. Il a ensuite présenté une démonstration bonus dans laquelle les utilisateurs pouvaient saisir des prompts pour générer en temps réel des images oniriques sur le GPU. Elle a montré la polyvalence de l’Intel AI PC, aussi bien pour les tâches d’IA traditionnelles que pour les projets créatifs d’IA générative.

Détection d’objets en temps réel avec Intel OpenVINO#

Lors de l’événement, Intel avait un stand où était présentée une démo de détection d’objets en temps réel utilisant Ultralytics YOLO11 sur son PC IA Intel. Les participants ont pu voir le modèle en action, optimisé avec OpenVINO et déployé sur le processeur Intel Core Ultra 200V.

Fig. 5. Les participants ont pu assister à une démo en temps réel au stand Intel OpenVINO.

Sur le stand Intel, Dmitriy a déclaré : « C’est ma première fois à YOLO Vision et je suis ravi d’être à Madrid. Nous présentons le modèle YOLO11 d’Ultralytics, exécuté sur le processeur Intel Core Ultra 200V. Il offre d’excellentes performances, et nous utilisons OpenVINO pour optimiser et déployer le modèle. La collaboration avec Ultralytics et l’exécution du modèle sur le matériel Intel le plus récent, en utilisant le CPU, le GPU et le NPU, ont été très faciles. » Le stand proposait également quelques cadeaux amusants, comme des t-shirts et des carnets que les participants pouvaient emporter chez eux.

Points clés à retenir#

La présentation technique d’Intel à YV24, consacrée aux processeurs de la série Intel Core Ultra 200V, a montré comment la boîte à outils OpenVINO optimise des modèles d’IA comme Ultralytics YOLO11. Cette intégration permet aux utilisateurs d’exécuter les modèles YOLO directement sur leurs appareils et d’obtenir d’excellentes performances pour des tâches de vision par ordinateur comme la détection d’objets. L’avantage principal, c’est que les utilisateurs n’ont pas besoin de dépendre des services cloud.

Les développeurs et les passionnés d’IA peuvent exécuter et affiner les modèles YOLO en exploitant pleinement le matériel comme les CPU, les GPU et les NPU pour des applications en temps réel. La boîte à outils Intel OpenVINO, combinée aux modèles Ultralytics YOLO, ouvre de nouvelles possibilités pour intégrer directement des capacités d’IA avancées aux appareils personnels. C’est une excellente option pour les développeurs qui créent des applications d’IA dans divers secteurs.

Consulte notre dépôt GitHub pour découvrir nos contributions et échanger avec notre communauté. Découvre comment nous utilisons l’IA pour avoir un impact dans des secteurs comme la fabrication et les soins de santé.