Déployer les modèles Ultralytics YOLO sur le matériel Axelera AI pour l’IA en périphérie

Chez Ultralytics, nous constatons que l’adoption croissante de l’IA favorise de plus en plus l’exécution des modèles de vision par ordinateur directement sur des appareils en périphérie. Lors de nos échanges avec la communauté de la vision par ordinateur, en ligne comme en personne lors de récentes conférences technologiques, notre équipe a observé un intérêt grandissant pour le déploiement de l’IA visuelle plus près de l’endroit où les données sont générées.

Des commerces intelligents à l’automatisation industrielle, en passant par la robotique, les informations en temps réel deviennent essentielles, et le cloud seul ne suffit plus.

En termes simples, l’IA en périphérie consiste à exécuter les modèles d’IA localement sur des appareils plutôt qu’à envoyer les données vers des serveurs centralisés pour les traiter. Cela permet de réduire la latence, d’améliorer la fiabilité et de réagir en temps réel aux événements du monde réel.

Cependant, le déploiement de modèles hautement performants dans ces environnements comporte ses propres défis : les ressources de calcul limitées et les contraintes énergétiques exigent des modèles à la fois efficaces et optimisés pour le matériel sur lequel ils s’exécutent.

Les modèles Ultralytics YOLO, comme Ultralytics YOLO26, sont conçus pour la vision par ordinateur en temps réel, mais exploiter tout leur potentiel en périphérie nécessite la bonne combinaison de logiciels et de matériel. C’est pourquoi nous sommes ravis d’annoncer notre collaboration avec Axelera AI.

Nous nous sommes associés à Axelera AI pour proposer une intégration d’exportation mise à jour, qui permet un déploiement efficace et hautement performant des modèles Ultralytics YOLO sur les unités de traitement de l’IA Metis® (AIPUs).

Fig. 1. Aperçu d’une unité de traitement de l’IA Metis (Source)

Dans cet article, nous verrons comment compiler les modèles Ultralytics YOLO pour les déployer sur Metis.

L’IA en périphérie est l’avenir de la vision par ordinateur#

À mesure que les applications de vision par ordinateur évoluent, le besoin d’un traitement plus rapide et plus efficace devient de plus en plus crucial. Les approches traditionnelles fondées sur le cloud peuvent introduire de la latence, dépendre d’une connexion stable et ne pas répondre aux exigences de temps réel de nombreux cas d’usage de la vision intelligente.

L’IA en périphérie répond à ces défis en permettant aux modèles de s’exécuter directement sur des appareils locaux et de traiter les données plus près de leur source. Par exemple, pense aux drones équipés de systèmes de vision utilisés lors d’opérations de recherche et de sauvetage.

Ces systèmes doivent analyser les flux vidéo en temps réel pour détecter des personnes, des obstacles ou des dangers, souvent dans des zones isolées où la connectivité Internet est limitée, voire inexistante. En exécutant directement les modèles de vision par ordinateur sur le drone, l’IA en périphérie accélère la prise de décision et améliore la fiabilité, sans dépendre d’une infrastructure cloud.

Cette évolution ouvre de nouvelles possibilités dans tous les secteurs. Des applications comme la détection d’objets en temps réel dans le commerce de détail, l’inspection automatisée de la qualité dans l’industrie manufacturière et la perception robotique bénéficient toutes de temps de réponse plus courts et d’une meilleure fiabilité.

L’IA en périphérie devient rapidement un levier essentiel pour déployer des systèmes de vision par ordinateur évolutifs et réactifs dans des environnements réels.

Découvrir les unités de traitement de l’IA Metis d’Axelera AI#

Avant d’examiner la nouvelle intégration d’exportation, prenons le temps d’en apprendre davantage sur les unités de traitement de l’IA Metis d’Axelera AI et sur leur rôle dans l’IA en périphérie efficace.

Axelera AI développe du matériel spécialisé, conçu spécifiquement pour accélérer l’inférence de l’IA en périphérie. L’un des éléments clés est la Metis AIPU, ou unité de traitement de l’IA, un processeur spécialisé conçu pour exécuter efficacement des réseaux neuronaux sur des appareils en périphérie.

Contrairement aux unités centrales de traitement (CPUs) à usage général, voire aux processeurs graphiques (GPUs), les AIPUs sont conçues pour gérer les schémas de calcul spécifiques aux charges de travail de l’IA. Elles offrent ainsi des performances élevées tout en maintenant une faible consommation d’énergie, un point essentiel dans les environnements en périphérie où les ressources sont souvent limitées.

L’approche d’Axelera AI se distingue par sa conception intégrée. Metis repose sur le calcul numérique en mémoire (D-IMC) et l’architecture RISC-V pour offrir des performances élevées tout en répondant aux exigences d’efficacité énergétique de l’informatique en périphérie. Les quatre cœurs de Metis sont programmables indépendamment, ce qui signifie que tu peux exécuter quatre modèles en parallèle sur chaque puce. En plus du matériel, le Voyager SDK comprend un compilateur et un environnement d’exécution qui fonctionnent ensemble pour optimiser les modèles en vue de leur déploiement.

Cela permet aux développeurs de passer plus efficacement de modèles entraînés à une inférence prête pour la production. Plus précisément, les AIPUs Metis permettent d’exécuter des modèles avancés de vision par ordinateur, comme les modèles Ultralytics YOLO, directement sur des appareils en périphérie dans des environnements d’entreprise, de commerce de détail, de santé et de fabrication, ainsi que sur des équipements agricoles et industriels et des satellites.

Exporter des modèles Ultralytics YOLO pour un déploiement sur Metis#

Le package Python Ultralytics fournit une interface unifiée pour entraîner, évaluer et déployer des modèles YOLO sur un large éventail de tâches de vision par ordinateur. Les modèles YOLO sont généralement développés et entraînés avec PyTorch, qui convient bien à l’expérimentation et au développement de modèles.

Cependant, pour déployer ces modèles sur du matériel spécialisé en périphérie, il faut les convertir dans un format optimisé pour l’appareil cible. C’est là qu’interviennent les intégrations d’exportation prises en charge par le package Python Ultralytics.

Ultralytics propose différentes options d’exportation qui permettent de convertir les modèles YOLO dans divers formats en fonction de la cible de déploiement, comme ONNX, TensorRT et d’autres moteurs d’exécution propres à certains matériels. Ces intégrations simplifient la préparation des modèles pour des applications concrètes en prenant en charge les étapes nécessaires d’optimisation et de conversion.

Dans cette optique, Ultralytics a introduit une intégration d’exportation mise à jour avec Axelera AI, qui permet d’exporter des modèles YOLO pour les déployer sur les AIPUs Metis.

Lors de l’exportation, le modèle est compilé et quantifié sous la forme d’une représentation optimisée spécifiquement pour le matériel Axelera. Ce processus produit un modèle compilé au format « .axm », ainsi que les métadonnées nécessaires au déploiement et à l’inférence.

Fig. 2. Les modèles Ultralytics YOLO peuvent être exécutés sur des AIPUs Metis. (Source)

L’intégration prend en charge un large éventail de tâches de vision par ordinateur pour les modèles Ultralytics YOLOv8, Ultralytics YOLO11 et Ultralytics YOLO26, notamment la détection d’objets, la segmentation d’instances, la classification d’images, l’estimation de pose et la détection de boîtes englobantes orientées (OBB). Les versions actuelles exportent directement toutes les tâches Ultralytics, notamment la segmentation sémantique et l’estimation de profondeur de YOLO26 ; consulte les tâches prises en charge pour en savoir plus. Le zoo de modèles du Voyager SDK comprend également des modèles YOLO prêts à l’emploi.

Cette prise en charge étendue offre aux développeurs la flexibilité nécessaire pour déployer différents types de modèles de vision en fonction de leur application : de la détection d’objets en temps réel à la compréhension des scènes, au suivi des mouvements et à l’analyse de données visuelles complexes.

Une fois exportés, les modèles peuvent être déployés et exécutés sans dépendre de PyTorch au moment de l’inférence. Ils sont exécutés avec l’environnement d’exécution du Voyager SDK, qui permet de créer des pipelines de bout en bout pour des tâches comme le traitement vidéo, la détection en temps réel et le suivi, directement sur des appareils en périphérie.

Premiers pas dans l’exportation de modèles Ultralytics YOLO#

Maintenant que nous comprenons mieux la nouvelle intégration d’exportation, voyons comment exporter les modèles Ultralytics YOLO dans ce format personnalisé et les exécuter sur du matériel Metis en périphérie.

Étape 1 : installer le package Python Ultralytics#

Pour commencer, tu dois d’abord installer le package Python Ultralytics. Il fournit une interface simple et cohérente pour entraîner, évaluer et exporter des modèles YOLO.

Tu peux l’installer avec pip en exécutant la commande suivante dans ton terminal ou ton invite de commandes :

pip install ultralytics

Si tu rencontres des problèmes pendant l’installation ou l’exportation, la documentation officielle d’Ultralytics et le guide des problèmes courants sont d’excellentes ressources de dépannage.

Étape 2 : installer les pilotes Axelera et le Voyager SDK#

Pour exporter et exécuter des modèles sur le matériel Axelera, tu dois également installer les pilotes Axelera et le Voyager SDK. Cette étape permet de communiquer avec l’AIPU Metis et fournit l’environnement d’exécution et les outils de compilation nécessaires.

Les étapes ci-dessous doivent être effectuées dans un environnement Linux ayant accès au matériel Metis d’Axelera AI. Ouvre un terminal sur ton système, ou utilise une cellule de notebook si tu exécutes Jupyter Notebook sur une configuration locale compatible, puis lance les commandes ci-dessous.

Commence par ajouter la clé du dépôt Axelera comme suit :

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

Ensuite, comme indiqué ci-dessous, ajoute le dépôt Axelera à ton système :

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Installe ensuite le Voyager SDK et charge le pilote Metis comme suit :

sudo apt update
sudo apt install -y metis-dkms
sudo modprobe metis

Une fois ces étapes terminées, ton système sera prêt à exporter et à exécuter des modèles Ultralytics YOLO sur les appareils Metis d’Axelera AI.

Étape 3 : exporter des modèles Ultralytics YOLO#

Une fois le package Ultralytics installé, tu peux charger ton modèle YOLO et l’exporter sous forme de package compilé pour Metis. Ce processus convertit le modèle dans un format optimisé pour le déploiement sur le matériel Metis d’Axelera AI.

Dans l’exemple ci-dessous, nous utilisons un modèle nano YOLO26 préentraîné et l’exportons pour Metis. Le modèle exporté sera enregistré dans un répertoire nommé « yolo26n_axelera_model ».

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Étape 4 : exécuter l’inférence avec le modèle exporté#

Après avoir exporté le modèle, tu peux le charger et lancer l’inférence sur des images inédites ou des flux vidéo. Cela permet d’effectuer des tâches de vision par ordinateur en temps réel directement sur les appareils Metis d’Axelera AI.

Par exemple, l’extrait de code ci-dessous montre comment charger le modèle exporté et lancer l’inférence sur une URL accessible au public.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

Dans cet exemple, le modèle analyse l’image d’entrée et détecte des objets, puis enregistre les résultats dans le répertoire « runs/detect/predict ».

Comment les modèles Ultralytics YOLO et le matériel Axelera AI peuvent faire la différence#

Voyons maintenant quelques applications courantes de l’IA en périphérie où les modèles Ultralytics YOLO peuvent être déployés sur du matériel Axelera AI dans des situations réelles.

Les AIPU Metis d’Axelera AI sont conçues pour divers environnements de déploiement, des systèmes embarqués et des PC industriels à la robotique et aux serveurs en périphérie. Grâce à une inférence performante et économe en énergie, elles permettent d’exécuter des applications de vision par ordinateur directement sur l’appareil, dans différents secteurs. Le Voyager SDK comprend également un générateur de pipelines qui aide les ingénieurs en ML et en applications à mettre les modèles en production en périphérie.

Systèmes de vision intelligents en périphérie dans le commerce de détail#

Dans les commerces de détail, comprendre le comportement des clients en temps réel peut faire une grande différence.

Grâce aux modèles Ultralytics YOLO exécutés sur le matériel Axelera AI, les magasins peuvent surveiller le flux de visiteurs, compter les personnes et analyser leurs déplacements dans le magasin au fil de l’eau. Comme tout s’exécute sur l’appareil, les informations sont générées instantanément sans dépendre d’une connexion au cloud, ce qui aide les équipes à réagir plus vite tout en préservant la confidentialité des données.

Fig. 3. Détection et comptage de personnes dans un centre commercial avec Ultralytics YOLO26

Utiliser l’IA en périphérie pour inspecter les services publics et les infrastructures#

L’entretien d’infrastructures à grande échelle, comme les lignes électriques, est complexe et mobilise beaucoup de ressources. Ces réseaux s’étendent souvent sur de vastes distances, ce qui rend les inspections longues, coûteuses et potentiellement dangereuses. Lorsque les pannes ou les premiers signes d’usure ne sont pas détectés, ils peuvent entraîner des coupures, des dommages matériels ou des risques pour la sécurité.

Les drones sont de plus en plus utilisés pour améliorer l’efficacité des inspections. Ils peuvent parcourir de longues distances, accéder à des zones difficiles d’accès et capturer des images haute résolution d’équipements essentiels.

La combinaison des drones et de l’IA en périphérie améliore encore ces flux de travail. Les modèles Ultralytics YOLO exécutés sur le matériel Axelera AI permettent une analyse en temps réel pendant les inspections, en identifiant les défauts, en classant les composants et en détectant les anomalies sur place. Cela réduit le besoin d’examen manuel et permet une surveillance des infrastructures plus rapide et plus fiable.

Fig. 4. Détection de différentes parties d’une ligne électrique avec Ultralytics YOLO26

Donner aux robots des informations en temps réel grâce à l’IA de vision#

En robotique, la vitesse et la réactivité sont essentielles. Qu’ils se déplacent dans un entrepôt ou fonctionnent dans des environnements industriels dynamiques, les robots doivent interpréter instantanément leur environnement.

Les modèles Ultralytics YOLO exécutés sur le matériel Axelera AI permettent aux robots d’interpréter leur environnement en temps réel, de détecter les obstacles à suivre les personnes et à identifier les objets. Cela permet aux systèmes de se déplacer plus sûrement, de s’adapter aux conditions dynamiques et de fonctionner de manière plus autonome sans dépendre d’une connexion permanente au cloud.

Principaux avantages de l’exécution des modèles Ultralytics YOLO sur les AIPU Metis#

Voici quelques-uns des principaux avantages du déploiement des modèles Ultralytics YOLO sur le matériel Metis d’Axelera AI grâce à cette nouvelle intégration :

• Intégration au workflow Ultralytics : L’exportation des modèles YOLO pour un déploiement sur Metis s’intègre naturellement au package Python d’Ultralytics, ce qui simplifie la transition de l’entraînement à l’inférence.
• Prise en charge de plusieurs tâches de vision par ordinateur : Tu peux déployer des modèles de détection d’objets, de segmentation, de classification, d’estimation de pose et plus encore avec YOLOv8, YOLO11 et YOLO26.
• Exécution parallèle des modèles : Les AIPU Metis sont conçues avec quatre cœurs programmables indépendamment, capables d’exécuter quatre modèles distincts en parallèle selon tes besoins.
• Évolutivité pour les applications d’IA en périphérie : De l’analyse du commerce de détail et de l’inspection industrielle à la robotique et aux infrastructures intelligentes, l’intégration prend en charge un large éventail de cas d’usage concrets.

Points clés à retenir#

Les modèles Ultralytics YOLO et les AIPU Metis d’Axelera AI facilitent le déploiement de la vision par ordinateur haute performance en périphérie. En simplifiant le déploiement et en optimisant les modèles pour du matériel spécialisé, cette intégration contribue à combler l’écart entre le développement et les applications concrètes.

À mesure que l’IA en périphérie se développe, disposer d’options de déploiement efficaces et évolutives sera essentiel pour créer des systèmes réactifs et fiables. Cette collaboration contribue à rendre l’IA de vision avancée plus accessible dans tous les secteurs.

Tu veux en savoir plus sur l’IA ? Explore notre dépôt GitHub, échange avec notre communauté et découvre nos options de licence pour lancer ton projet de vision par ordinateur. Découvre comment des innovations telles que l’IA dans le commerce de détail et la vision par ordinateur dans le secteur de la santé façonnent l’avenir.