Exécuter les modèles Ultralytics YOLO sur un AI PC Intel avec OpenVINO
Redécouvre la conférence de Dmitriy Pastushenkov et Adrian Boguszewski lors du YOLO Vision 2024 sur l'optimisation des modèles YOLO avec Intel OpenVINO et l'exécution d'inférences en temps réel sur les AI PC d'Intel.
YOLO Vision 2024 (YV24), l'événement hybride annuel d'Ultralytics, a rassemblé des passionnés d'IA, des développeurs et des experts du monde entier pour explorer les dernières innovations en matière de vision par ordinateur. YV24 a été une formidable opportunité et une excellente plateforme pour discuter des nouvelles avancées. L'événement a mis en vedette des acteurs clés de l'industrie de l'IA qui ont présenté leurs dernières innovations. Parmi eux, Intel a participé à l'événement en présentant une allocution clé sur son nouveau PC IA révolutionnaire et sur l'intégration d'Intel OpenVINO avec les modèles Ultralytics YOLO tels qu'Ultralytics YOLO11.
La présentation a été animée par Adrian Boguszewski, évangéliste logiciel qui a co-écrit le jeu de données LandCover.ai et sensibilise les développeurs au kit d'outils OpenVINO d'Intel, et Dmitriy Pastushenkov, évangéliste des PC IA doté de plus de 20 ans d'expérience en automatisation industrielle et en IA. Pendant l'événement, Adrian a exprimé son enthousiasme en déclarant : « C'est un grand événement aujourd'hui, non seulement parce qu'Ultralytics a livré une nouvelle version de YOLO, mais aussi parce que nous pouvons présenter ce nouveau modèle tournant sur notre nouveau matériel, ainsi qu'une nouvelle version d'OpenVINO. »
Dans cet article, nous allons passer en revue les points clés de l'intervention d'Intel à YV24, en plongeant dans les moindres recoins de leur PC IA, la gamme Intel Core Ultra 200V, et de la façon dont ils s'intègrent aux modèles Ultralytics YOLO grâce au kit d'outils OpenVINO. C'est parti !
Technologies d'IA de pointe en 2024#
Dmitriy a ouvert l'allocution clé en se penchant sur les principales différences entre l'IA traditionnelle et l'IA générative. L'accent a été mis sur la façon dont ces technologies et leurs cas d'utilisation évoluent en 2024. Les techniques d'IA traditionnelle telles que la vision par ordinateur et le traitement automatique du langage naturel ont été essentielles pour des tâches telles que l'estimation de pose, la détection d'objets et la reconnaissance vocale. L'IA générative représente quant à elle une nouvelle vague de technologie d'IA qui englobe des applications telles que les chatbots, la génération de texte à partir d'images, la rédaction de code et même le texte en vidéo.
Fig 1. Adrian et Dmitriy d'Intel, sur scène au YV24, discutant des cas d'usage de l'IA.
Dmitriy a souligné la différence d'échelle entre les deux. Il a expliqué que si les modèles d'IA traditionnelle consistent en des millions de paramètres, les modèles d'IA générative opèrent à une échelle bien plus vaste. Les modèles d'IA générative impliquent souvent des milliards, voire des trillions de paramètres, ce qui les rend beaucoup plus exigeants en calcul.
Le PC IA d'Intel : Une nouvelle frontière matérielle pour l'IA#
Dmitriy a présenté le PC IA d'Intel comme une nouvelle solution matérielle conçue pour relever les défis croissants liés à l'exécution efficace des modèles d'IA traditionnelle et générative. Le PC IA d'Intel est une machine puissante et économe en énergie. Il est capable d'exécuter un large éventail de modèles d'IA localement, sans avoir besoin d'un traitement basé sur le cloud.
Le traitement local aide à préserver la confidentialité des données sensibles. Lorsque les modèles d'IA peuvent fonctionner indépendamment des connexions Internet, les préoccupations éthiques des industries en matière de confidentialité et de sécurité trouvent une réponse.
Le moteur du PC IA d'Intel est le processeur de la série Intel Core Ultra 200V. Ce processeur intègre trois composants clés : l'unité centrale de traitement (CPU), l'unité de traitement graphique (GPU) et l'unité de traitement neural (NPU). Chacun joue un rôle spécifique dans la gestion de différents types de charges de travail d'IA. Le CPU est idéal pour les tâches plus petites et à faible latence qui nécessitent des réponses rapides, tandis que le GPU est optimisé pour les opérations à haut débit telles que l'exécution de modèles d'IA. Le NPU, conçu pour l'efficacité énergétique, est bien adapté aux tâches de longue durée comme la détection d'objets en temps réel avec des modèles tels que YOLO11.
Il a été souligné que le CPU peut fournir jusqu'à 5 TOPS (trillions d'opérations par seconde), le GPU jusqu'à 67 TOPS, et le NPU fournit un moyen économe en énergie d'exécuter des tâches d'IA en continu sans épuiser les ressources du système.
Avancées d'Intel en matière d'IA : Série Intel Core Ultra 200V#
Le processeur de la série Intel Core Ultra 200V intègre les trois moteurs d'IA - NPU, CPU et GPU - dans une seule petite puce. Sa conception est parfaitement adaptée aux appareils compacts comme les ordinateurs portables, sans sacrifier les performances.
Le processeur comprend également de la mémoire RAM intégrée, ce qui réduit le besoin de cartes graphiques séparées. Cela aide à réduire la consommation d'énergie et maintient l'appareil compact. Dmitriy a également souligné la flexibilité du processeur. Tu peux décider d'exécuter les modèles d'IA sur le CPU, le GPU ou le NPU, selon la tâche. Par exemple, la détection d'objets avec les modèles YOLO11 peut s'exécuter sur n'importe lequel de ces moteurs, tandis que des tâches plus complexes, comme la génération de texte à partir d'images, peuvent utiliser à la fois le GPU et le NPU en même temps pour de meilleures performances.
Pendant la présentation, Dmitriy a sorti la puce de sa poche, donnant à tout le monde une idée claire de sa petite taille - malgré sa capacité à gérer des tâches d'IA aussi avancées. C'était une manière amusante et mémorable de montrer comment Intel apporte des capacités d'IA puissantes à des appareils plus portables et pratiques.
Fig 2. Le processeur Intel Core Ultra 200V peut tenir dans une poche.
Optimisation des modèles d'IA avec Intel OpenVINO#
Après avoir présenté les dernières avancées matérielles d'Intel, Dmitriy est passée à la pile logicielle d'Intel qui prend en charge l'IA. Il a présenté OpenVINO, le cadre open-source d'Intel conçu pour optimiser et déployer des modèles d'IA efficacement sur différents appareils. OpenVINO va au-delà des tâches visuelles, en étendant son support aux modèles d'IA utilisés pour le traitement du langage naturel, le traitement audio, les transformers, etc.
OpenVINO est compatible avec les plateformes populaires telles que PyTorch, TensorFlow et ONNX, et les développeurs peuvent l'intégrer facilement dans leurs flux de travail. Une fonctionnalité clé sur laquelle il a attiré l'attention est la quantification. La quantification compresse les poids des modèles pour réduire leur taille afin que de grands modèles puissent fonctionner de manière fluide sur les appareils locaux sans avoir besoin du cloud. OpenVINO fonctionne sur plusieurs frameworks, s'exécutant sur CPU, GPU, NPU, FPGA ou même sur des appareils ARM, et prend en charge Windows, Linux et macOS. Dmitriy a également guidé le public à travers la simplicité de prise en main d'OpenVINO.
Fig 3. Dmitriy expliquant comment commencer avec OpenVINO.
Intégration d'Ultralytics avec Intel OpenVino#
Dans la deuxième partie de la présentation, le micro a été passé à Adrian, qui a expliqué l'intégration transparente entre les modèles Ultralytics YOLO et le kit d'outils OpenVINO d'Intel, simplifiant le processus de déploiement de modèles YOLO. Il a fourni une explication étape par étape de la façon dont l'exportation d'un modèle YOLO en utilisant le paquet Python Ultralytics vers le format OpenVINO est rapide et directe. Cette intégration permet aux développeurs d'optimiser beaucoup plus facilement leurs modèles pour le matériel Intel et de tirer le meilleur parti des deux plateformes.
Fig 4. Adrian expliquant à quel point Ultralytics facilite l'exportation de ton modèle au format OpenVINO.
Adrian a démontré qu'une fois qu'un modèle Ultralytics YOLO est entraîné, tu peux l'exporter à l'aide de quelques simples indicateurs de ligne de commande. Par exemple, tu peux spécifier si tu souhaites exporter le modèle en tant que version à virgule flottante pour une précision maximale ou en tant que version quantifiée pour plus de vitesse et d'efficacité. Il a également souligné comment les développeurs peuvent gérer ce processus directement par le code, en utilisant des options telles que la quantification INT8 pour améliorer les performances sans sacrifier trop de précision.
Démos d'IA en temps réel sur le PC IA d'Intel#
Mettant toute cette théorie en pratique, l'équipe d'Intel a présenté une démo en temps réel de détection d'objets en exécutant YOLO11 sur le PC IA d'Intel. Adrian a montré comment le système gérait le modèle sur différents processeurs, atteignant 36 images par seconde (FPS) sur le CPU avec un modèle à virgule flottante, plus de 100 FPS sur le GPU intégré et 70 FPS avec la version quantifiée INT8. Ils ont ainsi pu montrer avec quelle efficacité le PC IA d'Intel peut gérer des tâches d'IA complexes.
Il a également souligné que le système peut exécuter des modèles en parallèle, en utilisant le CPU, le GPU et le NPU ensemble pour des tâches où toutes les données ou images vidéo sont disponibles au préalable. C'est utile lors du traitement de charges lourdes comme des vidéos. Le système peut répartir la charge de travail entre différents processeurs, la rendant plus rapide et plus efficace.
Pour conclure, Adrian a mentionné que tu pouvais tester des démos chez toi, y compris des solutions telles que le comptage de personnes et la gestion intelligente des files d'attente. Il a ensuite présenté une démo bonus où tu pouvais saisir des invites pour générer des images oniriques en temps réel sur le GPU. Cela a démontré la polyvalence du PC IA d'Intel tant pour les tâches d'IA traditionnelles que pour les projets d'IA générative et créative.
Détection d'objets en temps réel avec Intel OpenVINO#
Lors de l'événement, Intel tenait un stand où était présentée une démo de détection d'objets en temps réel utilisant Ultralytics YOLO11, exécutée sur leur PC IA Intel. Les participants ont pu voir le modèle en action, optimisé avec OpenVINO et déployé sur le processeur Intel Core Ultra 200V.
Fig 5. Les participants ont eu l'occasion de voir une démo en temps réel au stand Intel OpenVINO.
Au stand Intel, Dmitriy a partagé : « C'est ma première fois à YOLO Vision, et je suis heureux d'être à Madrid. Nous présentons le modèle YOLO11 d'Ultralytics, tournant sur le processeur Intel Core Ultra 200V. Il affiche d'excellentes performances, et nous utilisons OpenVINO pour optimiser et déployer le modèle. Il était très facile de collaborer avec Ultralytics et de faire tourner le modèle sur le dernier matériel Intel, en utilisant le CPU, le GPU et le NPU. » Le stand proposait également des cadeaux amusants, tels que des t-shirts et des carnets pour les participants.
Points clés#
La conférence technique d'Intel au YV24, mettant en vedette les processeurs de la série Intel Core Ultra 200V, a montré comment la boîte à outils OpenVINO optimise des modèles d'IA comme Ultralytics YOLO11. Cette intégration permet aux utilisateurs d'exécuter des modèles YOLO directement sur leurs appareils, offrant d'excellentes performances pour des tâches de vision par ordinateur comme la détection d'objets. L'avantage clé est que les utilisateurs n'ont pas besoin de dépendre des services cloud.
Les développeurs et les passionnés d'IA peuvent exécuter et ajuster facilement les modèles YOLO, en utilisant pleinement le matériel comme les CPU, GPU et NPU pour des applications en temps réel. La boîte à outils Intel OpenVINO, combinée aux modèles Ultralytics YOLO, ouvre de nouvelles possibilités pour apporter des capacités d'IA avancées directement sur les appareils personnels, ce qui en fait une option idéale pour les développeurs désireux de piloter les innovations en IA à travers diverses industries.
Collaborons et innovons ! Visite notre dépôt GitHub pour explorer nos contributions et interagir avec notre communauté. Vois comment nous utilisons l'IA pour avoir un impact dans des secteurs tels que la fabrication et la santé.
