Déployer les modèles Ultralytics YOLO sur le matériel Axelera AI pour l’IA en périphérie

Chez Ultralytics, nous constatons une adoption croissante de l’exécution des modèles de vision par ordinateur directement sur des appareils en périphérie, à mesure que l’IA se démocratise. Lors de nos échanges avec la communauté de la vision par ordinateur, en ligne comme en personne lors de récents événements technologiques, notre équipe a observé un intérêt grandissant pour le déploiement de l’IA visuelle au plus près de la source des données.

Des magasins connectés à l’automatisation industrielle et à la robotique, les analyses en temps réel deviennent indispensables, et le cloud à lui seul ne suffit plus.

En termes simples, l’IA en périphérie consiste à exécuter les modèles d’IA localement sur des appareils plutôt qu’à envoyer les données vers des serveurs centralisés pour les traiter. Cela permet de réduire la latence, d’améliorer la fiabilité et de réagir aux événements du monde réel en temps réel.

Cependant, le déploiement de modèles performants dans ces environnements comporte ses propres difficultés : les ressources de calcul et la puissance disponibles étant limitées, les modèles doivent être à la fois efficaces et optimisés pour le matériel sur lequel ils s’exécutent.

Les modèles Ultralytics YOLO, comme Ultralytics YOLO26, sont conçus pour la vision par ordinateur en temps réel, mais exploiter tout leur potentiel en périphérie nécessite la bonne combinaison de logiciels et de matériel. C’est pourquoi nous sommes ravis d’annoncer notre collaboration avec Axelera AI.

Nous nous sommes associés à Axelera AI pour proposer une intégration d’export mise à jour, qui permet de déployer efficacement et avec des performances élevées les modèles Ultralytics YOLO sur les unités de traitement de l’IA Metis® (AIPUs).

Fig. 1. Aperçu d’une unité de traitement de l’IA Metis (Source)

Dans cet article, nous allons voir comment compiler facilement les modèles Ultralytics YOLO pour les déployer sur Metis. C’est parti !

L’IA en périphérie, l’avenir de la vision par ordinateur#

À mesure que les applications de vision par ordinateur évoluent, le besoin d’un traitement plus rapide et plus efficace devient de plus en plus crucial. Les approches traditionnelles reposant sur le cloud peuvent entraîner de la latence, dépendre d’une connexion stable et ne pas répondre aux exigences de nombreuses applications de vision intelligente en temps réel.

L’IA en périphérie répond à ces difficultés en permettant aux modèles de s’exécuter directement sur des appareils locaux, afin que les données soient traitées au plus près de leur source. Prenons, par exemple, les drones équipés de systèmes de vision utilisés dans les opérations de recherche et de sauvetage.

Ces systèmes doivent analyser les flux vidéo en temps réel pour détecter des personnes, des obstacles ou des dangers, souvent dans des zones reculées où la connexion Internet est limitée, voire inexistante. En exécutant directement les modèles de vision par ordinateur sur le drone, l’IA en périphérie permet de prendre des décisions plus rapidement et d’obtenir des performances plus fiables, sans dépendre d’une infrastructure cloud.

Cette évolution ouvre de nouvelles perspectives dans tous les secteurs. Des applications telles que la détection d’objets en temps réel dans les commerces, l’inspection automatisée de la qualité dans l’industrie et la perception robotique bénéficient toutes d’une réactivité accrue et d’une plus grande fiabilité.

L’IA en périphérie devient rapidement un levier essentiel pour déployer des systèmes de vision par ordinateur évolutifs et réactifs dans des environnements réels.

Découvrir les unités de traitement de l’IA Metis d’Axelera AI#

Avant d’aborder la nouvelle intégration d’export, prenons un peu de recul pour en savoir plus sur les unités de traitement de l’IA Metis d’Axelera AI et sur leur rôle dans l’efficacité de l’IA en périphérie.

Axelera AI développe du matériel spécialement conçu pour accélérer l’inférence de l’IA en périphérie. L’un des éléments clés est le Metis AIPU, ou unité de traitement de l’IA, un processeur spécialisé conçu pour exécuter efficacement des réseaux neuronaux sur des appareils en périphérie.

Contrairement aux unités centrales de traitement (CPUs) à usage général, voire aux processeurs graphiques (GPUs), les AIPUs sont conçues pour gérer les schémas de calcul propres aux charges de travail de l’IA. Elles offrent ainsi des performances élevées tout en maintenant une faible consommation d’énergie, un aspect crucial dans les environnements en périphérie, où les ressources sont souvent limitées.

L’approche d’Axelera AI se distingue notamment par sa conception complète, de la puce aux logiciels. Metis repose sur le calcul numérique en mémoire (D-IMC) et l’architecture RISC-V, pour offrir des performances élevées et l’efficacité énergétique qu’exige l’informatique en périphérie. Les quatre cœurs de Metis sont programmables indépendamment : tu peux donc exécuter quatre modèles en parallèle sur une même puce. En plus du matériel, le Voyager SDK comprend un compilateur et un environnement d’exécution qui fonctionnent de concert pour optimiser les modèles en vue de leur déploiement.

Cela permet aux développeurs de passer plus efficacement de modèles entraînés à une inférence prête pour la production. Plus précisément, les AIPUs Metis permettent d’exécuter des modèles avancés de vision par ordinateur, comme les modèles Ultralytics YOLO, directement sur des appareils en périphérie, dans des environnements d’entreprise, de commerce, de santé et de fabrication, ainsi que dans l’agriculture, les équipements industriels et les satellites.

Exporter des modèles Ultralytics YOLO pour les déployer sur Metis#

Le package Python Ultralytics fournit une interface unifiée pour entraîner, évaluer et déployer des modèles YOLO dans divers domaines de la vision par ordinateur. Les modèles YOLO sont généralement développés et entraînés avec PyTorch, qui convient parfaitement à l’expérimentation et au développement de modèles.

Cependant, pour déployer ces modèles sur du matériel spécialisé en périphérie, il faut les convertir dans un format optimisé pour l’appareil cible. C’est là qu’interviennent les intégrations d’export prises en charge par le package Python Ultralytics.

Ultralytics propose différentes options d’export qui permettent de convertir les modèles YOLO dans divers formats selon la cible de déploiement, comme ONNX, TensorRT et d’autres environnements d’exécution spécifiques au matériel. Ces intégrations simplifient la préparation des modèles pour des applications réelles en prenant en charge les étapes nécessaires d’optimisation et de conversion.

Dans cette optique, Ultralytics a introduit une intégration avec Axelera AI mise à jour, qui permet d’exporter les modèles YOLO pour les déployer sur les AIPUs Metis.

Lors de l’export, le modèle est compilé et quantifié sous une forme optimisée, spécialement conçue pour le matériel Axelera. Ce processus produit un modèle compilé au format « .axm », ainsi que les métadonnées nécessaires au déploiement et à l’inférence.

Fig. 2. Les modèles Ultralytics YOLO peuvent être exécutés sur des AIPUs Metis. (Source)

L’intégration prend en charge de nombreuses tâches de vision par ordinateur avec Ultralytics YOLOv8, Ultralytics YOLO11 et les modèles Ultralytics YOLO26, notamment la détection d’objets, l’estimation de pose, la segmentation d’instances, la détection par boîte englobante orientée (OBB) et la classification d’images. La plupart des tâches sont directement prises en charge par le flux d’export, tandis que la segmentation YOLO26 peut être utilisée via le zoo de modèles avec le Voyager SDK.

Cette prise en charge élargie permet aux développeurs de déployer différents types de modèles de vision selon leurs applications, qu’il s’agisse de détecter des objets en temps réel, de comprendre des scènes, de suivre des mouvements ou d’analyser des données visuelles complexes.

Une fois exportés, les modèles peuvent être déployés et exécutés sans PyTorch au moment de l’inférence. Ils sont plutôt exécutés avec l’environnement d’exécution du Voyager SDK, qui permet de créer des pipelines de bout en bout pour des tâches comme le traitement vidéo, la détection en temps réel et le suivi, directement sur des appareils en périphérie.

Premiers pas avec l’export des modèles Ultralytics YOLO#

Maintenant que nous comprenons mieux la nouvelle intégration d’export, voyons comment exporter les modèles Ultralytics YOLO dans ce format personnalisé et les exécuter sur du matériel Metis en périphérie.

Étape 1 : installer le package Python Ultralytics#

Pour commencer, tu dois d’abord installer le package Python Ultralytics. Il fournit une interface simple et cohérente pour entraîner, évaluer et exporter des modèles YOLO.

Tu peux l’installer avec pip en exécutant la commande suivante dans ton terminal ou ton invite de commandes :

pip install ultralytics

Si tu rencontres des problèmes pendant l’installation ou l’export, la documentation officielle Ultralytics et le guide des problèmes courants sont d’excellentes ressources pour les résoudre.

Étape 2 : Installer les pilotes Axelera et le Voyager SDK#

Pour exporter et exécuter des modèles sur du matériel Axelera, tu dois également installer les pilotes Axelera et le Voyager SDK. Cette étape permet de communiquer avec l’AIPU Metis et fournit l’environnement d’exécution ainsi que les outils du compilateur nécessaires.

Les étapes ci-dessous doivent être effectuées dans un environnement Linux ayant accès au matériel Metis d’Axelera AI. Ouvre un terminal sur ton système, ou utilise une cellule de notebook si tu exécutes Jupyter Notebook sur une configuration locale compatible, puis lance les commandes ci-dessous.

Commence par ajouter la clé du dépôt Axelera comme suit :

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

Ensuite, comme indiqué ci-dessous, ajoute le dépôt Axelera à ton système :

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Installe ensuite le Voyager SDK et charge le pilote Metis comme suit :

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

Une fois ces étapes terminées, ton système sera prêt à exporter et à exécuter des modèles Ultralytics YOLO sur les appareils Metis d’Axelera AI.

Étape 3 : Exporter des modèles Ultralytics YOLO#

Une fois le package Ultralytics installé, tu peux charger ton modèle YOLO et l’exporter sous la forme d’un package compilé pour Metis. Ce processus convertit le modèle dans un format optimisé pour son déploiement sur le matériel Metis d’Axelera AI.

Dans l’exemple ci-dessous, nous utilisons un modèle YOLO26 nano préentraîné et l’exportons pour Metis. Le modèle exporté sera enregistré dans un répertoire nommé "/yolo26n_axelera_model".

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Étape 4 : Exécuter l’inférence avec le modèle exporté#

Après avoir exporté le modèle, tu peux le charger et effectuer des inférences sur des images inédites ou des flux vidéo. Cela permet d’exécuter directement des tâches de vision par ordinateur en temps réel sur les appareils Metis d’Axelera AI.

Par exemple, l’extrait de code ci-dessous montre comment charger le modèle exporté et effectuer une inférence à partir d’une URL accessible au public.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

Dans ce cas, le modèle analyse l’image d’entrée et détecte les objets, puis enregistre les résultats dans le répertoire « runs/detect/predict ».

Les domaines où Ultralytics YOLO et le matériel Axelera AI peuvent avoir un impact#

Voyons maintenant quelques applications courantes de l’IA en périphérie où les modèles Ultralytics YOLO peuvent être déployés sur du matériel Axelera AI dans des situations réelles.

Les AIPUs Metis d’Axelera AI sont conçues pour différents environnements de déploiement, des systèmes embarqués et PC industriels à la robotique et aux serveurs en périphérie. Grâce à des inférences performantes et économes en énergie, elles permettent d’exécuter des applications de vision par ordinateur directement sur l’appareil, dans tous les secteurs. Le Voyager SDK comprend également un outil de création de pipelines destiné aux ingénieurs en apprentissage automatique (ML) et aux ingénieurs applicatifs (APP), qui leur permet de mettre les modèles en production en périphérie.

Systèmes de vision intelligente en périphérie dans le commerce#

Dans le commerce, comprendre le comportement des clients en temps réel peut faire une grande différence.

En exécutant des modèles Ultralytics YOLO sur le matériel Axelera AI, les magasins peuvent surveiller le flux de visiteurs, compter les personnes et analyser les déplacements dans leurs locaux au fur et à mesure. Comme tout s’exécute sur l’appareil, les analyses sont produites instantanément sans dépendre d’une connexion au cloud, ce qui aide les équipes à réagir plus vite tout en protégeant la confidentialité des données.

Fig. 3. Détection et comptage de personnes dans un centre commercial avec Ultralytics YOLO26

Utiliser l’IA en périphérie pour inspecter les services publics et les infrastructures#

L’entretien d’infrastructures à grande échelle, comme les lignes électriques, est complexe et exige beaucoup de ressources. Ces réseaux s’étendent souvent sur de vastes distances, ce qui rend les inspections longues, coûteuses et potentiellement dangereuses. Si les pannes ou les premiers signes d’usure passent inaperçus, ils peuvent entraîner des coupures, des dommages matériels ou des risques pour la sécurité.

Les drones sont de plus en plus utilisés pour améliorer l’efficacité des inspections. Ils peuvent parcourir de longues distances, accéder à des zones difficiles d’accès et capturer des images haute résolution d’équipements essentiels.

Associer des drones à l’IA en périphérie améliore encore ces processus. Les modèles Ultralytics YOLO exécutés sur le matériel Axelera AI permettent d’analyser les images en temps réel pendant les inspections, afin de repérer les pannes, de classifier les composants et de détecter les anomalies sur place. Cela réduit le besoin d’examens manuels et favorise une surveillance des infrastructures plus rapide et plus fiable.

Fig. 4. Détection de différentes parties d’une ligne électrique avec Ultralytics YOLO26

Renforcer la robotique grâce aux analyses de vision par IA en temps réel#

En robotique, la vitesse et la réactivité sont essentielles. Qu’ils se déplacent dans un entrepôt ou évoluent dans des environnements industriels dynamiques, les robots doivent interpréter instantanément ce qui les entoure.

Les modèles Ultralytics YOLO exécutés sur le matériel Axelera AI permettent aux robots d’interpréter leur environnement en temps réel, qu’il s’agisse de détecter des obstacles, de suivre des personnes ou d’identifier des objets. Les systèmes peuvent ainsi se déplacer plus sûrement, s’adapter aux conditions changeantes et fonctionner de manière plus autonome, sans dépendre d’une connexion permanente au cloud.

Principaux avantages de l’exécution des modèles Ultralytics YOLO sur les AIPUs Metis#

Voici quelques-uns des principaux avantages du déploiement de modèles Ultralytics YOLO sur le matériel Metis d’Axelera AI grâce à la nouvelle intégration :

• Intégration fluide au flux de travail Ultralytics : L’export de modèles YOLO pour un déploiement sur Metis s’intègre naturellement au package Python Ultralytics, ce qui simplifie le passage de l’entraînement à l’inférence.
• Prise en charge de plusieurs tâches de vision par ordinateur : Tu peux déployer des modèles pour la détection d’objets, l’estimation de pose, la segmentation, la classification et bien plus encore, avec YOLOv8, YOLO11 et YOLO26.
• Exécution parallèle des modèles : Les AIPUs Metis sont conçues avec quatre cœurs programmables indépendamment, capables d’exécuter quatre modèles distincts en parallèle, selon tes besoins.
• Évolutivité pour les applications d’IA en périphérie : De l’analyse en magasin et l’inspection industrielle à la robotique et aux infrastructures intelligentes, l’intégration prend en charge de nombreux cas d’usage réels.

Points clés à retenir#

Les modèles Ultralytics YOLO et les AIPUs Metis d’Axelera AI facilitent le déploiement de systèmes de vision par ordinateur performants en périphérie. En simplifiant le déploiement et en optimisant les modèles pour du matériel spécialisé, cette intégration contribue à combler l’écart entre le développement et les applications réelles.

À mesure que l’IA en périphérie se développe, disposer d’options de déploiement efficaces et évolutives sera essentiel pour concevoir des systèmes réactifs et fiables. Cette collaboration contribue à rendre l’IA visuelle avancée plus accessible dans tous les secteurs.

Tu veux en savoir plus sur l’IA ? Découvre notre dépôt GitHub, rejoins notre communauté et consulte nos options de licence pour lancer ton projet de vision par ordinateur. Découvre comment des innovations telles que l’IA dans le commerce et la vision par ordinateur dans le secteur de la santé façonnent l’avenir.