Axelera AI fournit une inférence IA en périphérie à 34 FPS en utilisant Ultralytics YOLO

Axelera AI est une entreprise européenne de semi-conducteurs qui fabrique des puces IA puissantes et économes en énergie pour exécuter la vision par ordinateur en périphérie. Par exemple, leurs Metis AI Processing Units (AIPUs) sont utilisés dans des secteurs comme la vente au détail, la sécurité et la fabrication.

Pour aider ses clients à créer et déployer plus facilement des applications IA, Axelera a intégré les modèles Ultralytics YOLO dans leur Voyager SDK, une plateforme logicielle qui simplifie l'optimisation, le déploiement et l'accélération des modèles sur les Metis AIPUs, rendant la Vision IA en temps réel plus rapide, plus simple et plus évolutive.

Link to this sectionRedéfinir l'accélération matérielle pour la Vision IA#

Fondée en 2021 et basée aux Pays-Bas, Axelera AI s'est fixé pour objectif de résoudre un problème fondamental : le matériel IA traditionnel était conçu pour le cloud, pas pour la périphérie. Pour combler cet écart, l'entreprise a développé le Metis AIPU.

Il s'agit d'une puce haute performance et basse consommation conçue spécifiquement pour les charges de travail en périphérie, c'est-à-dire les tâches IA qui s'exécutent localement sur des appareils où la vitesse, la confidentialité et l'efficacité énergétique sont critiques.

Elle s'appuie sur leur technologie propriétaire Digital In-Memory Compute (D-IMC), qui permet aux données d'être traitées directement là où elles sont stockées, réduisant considérablement la latence et la consommation d'énergie. Avec une pile logicielle entièrement intégrée et une mission de démocratisation de l'IA, Axelera rend l'IA haute performance plus accessible.

Link to this sectionLe défi de l'exécution de modèles sur le matériel IA en périphérie#

Pour offrir une expérience IA fluide en périphérie, Axelera AI a cherché à fournir bien plus qu'un matériel haute performance. Les clients avaient également besoin d'un moyen simple et fiable d'exécuter des solutions de vision par ordinateur en temps réel, sans outils compliqués ni personnalisations chronophages. De nombreux modèles existants étaient trop volumineux, trop lents ou inadaptés aux environnements aux ressources limitées.

L'analyse commerciale, l'automatisation des usines et les systèmes de surveillance reposent souvent sur des informations visuelles rapides et précises pour soutenir les opérations. Cependant, les modèles traditionnels et les solutions basées sur le cloud ne peuvent généralement pas répondre aux exigences de faible latence, d'efficacité énergétique et de traitement sur l'appareil de ces applications IA en périphérie.

Axelera a commencé à chercher une suite de modèles précise, facile à implémenter et capable de s'exécuter efficacement sur ses Metis AI Processing Units. La bonne solution compléterait ses capacités matérielles tout en simplifiant le développement et en accélérant le déploiement sur une large gamme de cas d'utilisation de l'IA en périphérie.

Link to this sectionInférences IA accélérées en périphérie avec Ultralytics YOLO#

Axelera AI a intégré les modèles Ultralytics YOLO dans son Voyager SDK pour rendre la création et le déploiement d'applications IA en périphérie plus rapides, plus faciles et plus évolutifs. Le SDK inclut un Model Zoo avec des modèles YOLO prêts à l'emploi et automatise l'intégralité du pipeline, couvrant le prétraitement, l'inférence et le post-traitement, optimisés pour les Metis AI Processing Units.

Fig 1. Metis AI Processing Unit (AIPU).

Cette intégration permet aux clients d'utiliser des modèles Ultralytics YOLO pré-entraînés dès la sortie de boîte ou d'apporter les leurs, avec une accélération transparente sur le matériel en périphérie. Avec la prise en charge de l'exécution de modèles parallèles et en cascade, les Metis AIPUs permettent des configurations multi-modèles avancées comme l'estimation de pose suivie de la segmentation. C'est idéal pour les tâches complexes dans la vente au détail, la sécurité et l'automatisation industrielle.

La combinaison des tâches de vision par ordinateur en temps réel prises en charge par les modèles Ultralytics YOLO et de la pile matérielle et logicielle efficace d'Axelera offre des performances exceptionnelles par watt et par dollar. Pour les clients, cela signifie des résultats plus précis, un déploiement plus rapide et une barrière plus faible à l'évolutivité de la Vision IA en périphérie.

Link to this sectionPourquoi choisir les modèles Ultralytics YOLO ?#

Axelera AI s'est associé à Ultralytics pour intégrer les modèles Ultralytics YOLO dans sa plateforme pour leur équilibre exceptionnel entre précision, vitesse et facilité d'utilisation. Grâce à la prise en charge de plusieurs variantes d'Ultralytics YOLO, les clients d'Axelera AI peuvent évaluer un large éventail de charges de travail et de besoins de performance sur le Metis AIPU.

Grâce à une licence entreprise Ultralytics, Axelera fournit un accès à la suite complète de modèles YOLO pour l'évaluation et le développement. Pour le déploiement commercial, les clients sont tenus d'obtenir leur propre licence directement auprès d'Ultralytics via le formulaire de licence, garantissant ainsi la conformité et soutenant l'innovation évolutive dans la Vision IA en périphérie.

Link to this sectionExploiter les modèles Ultralytics YOLO à grande échelle avec le Voyager SDK d'Axelera AI#

Avec les modèles Ultralytics YOLO et le Voyager SDK d'Axelera AI, les utilisateurs peuvent déployer des applications de vision par ordinateur précises et à faible latence directement sur les Metis AI Processing Units. De plus, l'accès à plusieurs variantes YOLO permet aux clients d'ajuster les performances en fonction des besoins spécifiques de leur application.

Par exemple, Axelera AI a vu des clients tester des solutions basées sur YOLO dans divers domaines tels que :

• Commerce de détail : Des pipelines multi-modèles combinant l'estimation de pose, la segmentation et la détection d'objets peuvent être utilisés pour soutenir des tâches telles que la réduction des démarques inconnues et le suivi des stocks. Ces déploiements s'exécutent efficacement sur des plateformes embarquées comme le Raspberry Pi 5 associé au Metis AIPU.
• Fabrication : Les clients peuvent utiliser l'exécution de modèles en parallèle pour effectuer des tâches simultanées, telles que la détection de défauts, la classification de produits et l'estimation de pose, sur une seule puce pour améliorer le débit et réduire les coûts matériels.
• Surveillance : Les capacités de détection d'objets en temps réel de YOLO peuvent être utilisées pour analyser des flux vidéo 4K et 8K en pleine résolution, facilitant une surveillance de la sécurité de haute précision et une conscience situationnelle dans les environnements critiques. Il s'agit d'une bien meilleure solution que la réduction d'échelle traditionnelle sur les caméras haute résolution.
• Santé : Des pipelines YOLO optimisés peuvent prendre en charge l'identification de tumeurs, offrant une vitesse d'inférence élevée et une précision fiable pour l'imagerie médicale sur l'appareil.

Ces cas d'utilisation montrent comment le matériel IA en périphérie d'Axelera AI et les modèles Ultralytics YOLO favorisent des innovations de Vision IA haute performance et économes en énergie dans tous les secteurs.

Link to this sectionConduire la prochaine vague d'IA en périphérie avec Ultralytics YOLO#

Alors qu'Axelera AI continue de se concentrer sur l'élargissement de l'accès à l'IA en périphérie haute performance, elle rassemble du matériel puissant et des modèles de vision fiables pour aider les clients à créer des applications plus intelligentes et plus rapides.

Avec les modèles Ultralytics YOLO disponibles via le Voyager SDK et le matériel Metis AIPU, les utilisateurs peuvent facilement développer et mettre à l'échelle des solutions de vision par ordinateur en temps réel dans tous les secteurs. Cette collaboration soutient une communauté grandissante de développeurs et d'entreprises travaillant pour rapprocher l'IA de l'endroit où les données sont créées, améliorant l'efficacité, la réactivité et l'innovation en périphérie.

Prêt à accélérer ton aventure dans l'IA en périphérie ? Explore notre dépôt GitHub pour voir comment les modèles YOLO alimentent des innovations comme l'IA dans le commerce de détail et la vision par ordinateur dans la logistique. Prends en main nos outils de Vision IA, découvre nos options de licence et vois comment débloquer une vision par ordinateur haute performance et économe en énergie en périphérie.