Le MCT de Sony : de la recherche en IA au traitement en temps réel en périphérie
Les points forts de la présentation d’Amir Servi à YOLO Vision 2023 sur le Model Compression Toolkit (MCT) de Sony, la quantification et le déploiement d’Ultralytics YOLOv8 en périphérie.
Nuvola Ladi2 min de lecture
L’événement YOLO Vision 2023 (YV23), organisé au Google for Startups Campus de Madrid, a réuni des intervenants issus de toute la communauté de l’IA. Parmi eux figurait Amir Servi, responsable produit Edge Deep Learning chez Sony, qui a présenté les moyens de combler le fossé entre la recherche en IA et l’informatique en périphérie en temps réel et présenté le Model Compression Toolkit (MCT) de Sony.
Rencontre avec Amir Servi : de la recherche à l’IA en temps réel#
L’intervention d’Amir portait sur les techniques de compression et de quantification des modèles adaptées à un déploiement efficace de l’IA en périphérie.
Relever les défis de l’IA en périphérie avec MCT#
Amir a abordé les défis liés au déploiement de modèles d’IA sur des appareils en périphérie, en insistant sur les obstacles posés par les ressources limitées et les contraintes matérielles. Pendant son intervention, il a présenté le Model Compression Toolkit (MCT) de Sony, un outil open source compatible avec les modèles PyTorch et TensorFlow. MCT est également à la base de l’export Sony IMX500 d’Ultralytics.
Libérer le potentiel de MCT#
Amir a présenté les principales fonctionnalités de MCT, de la quantification tenant compte du matériel aux algorithmes de pointe et à la recherche automatisée de paramètres, qui en font une boîte à outils polyvalente pour le déploiement de l’IA dans le monde réel.
Fig. 1. Amir Servi lors de sa présentation à YOLO Vision 2023 au Google for Startups Campus de Madrid.
Les techniques de quantification démystifiées : les résultats parlent d’eux-mêmes#
Amir a expliqué des techniques de quantification comme la quantification après entraînement (PTQ) et GPTQ, et a présenté leurs résultats, notamment la grande précision obtenue avec la PTQ en précision mixte et les taux de compression élevés du modèle Ultralytics YOLOv8.
Pour conclure#
L’intervention d’Amir a montré comment des outils comme MCT contribuent à combler le fossé entre la recherche en IA et sa mise en œuvre en temps réel, en particulier pour les modèles YOLO exécutés sur des appareils en périphérie.
Tu veux en savoir plus ? Regarde l’intervention complète sur le MCT de Sony.
Écrit par
Responsable du contenu numérique · Ultralytics
Commentaires
Pose une question, partage tes résultats ou aide quelqu’un.
