MCT от Sony: от исследований ИИ к периферийным решениям в реальном времени
Главное из доклада Amir Servi на YOLO Vision 2023 об инструментарии сжатия моделей Sony (MCT), квантовании и развёртывании Ultralytics YOLOv8 на периферийных устройствах.
Nuvola Ladi2 мин. чтения
На мероприятии YOLO Vision 2023 (YV23), прошедшем в кампусе Google for Startups в Мадриде, выступили докладчики из разных сфер сообщества ИИ. Среди них был Амир Серви, менеджер продуктов для периферийного глубокого обучения в Sony. Он выступил с докладом о том, как сократить разрыв между исследованиями в области ИИ и его работой на периферии в реальном времени, и представил инструментарий Sony для сжатия моделей (MCT).
Знакомься: Амир Серви — от исследований к ИИ в реальном времени#
Доклад Амира был посвящен сжатию моделей и методам квантования, предназначенным для эффективного развертывания периферийного ИИ.
Решение проблем периферийного ИИ с помощью MCT#
Амир рассказал о трудностях развертывания моделей ИИ на периферийных устройствах, подчеркнув ограничения, связанные с нехваткой ресурсов и аппаратными ограничениями. Во время доклада он представил инструментарий Sony для сжатия моделей (MCT) — инструмент с открытым исходным кодом, совместимый с моделями PyTorch и TensorFlow. MCT также лежит в основе экспорта Ultralytics в Sony IMX500.
Раскрываем потенциал MCT#
Амир рассказал о ключевых функциях MCT: от квантования с учетом аппаратного обеспечения до современных алгоритмов и автоматического подбора параметров. Благодаря этому инструментарий подходит для развертывания ИИ в реальных условиях.
Рис. 1. Амир Серви выступает на YOLO Vision 2023 в кампусе Google for Startups в Мадриде.
Разбираемся в методах квантования: результаты говорят сами за себя#
Амир объяснил методы квантования, в том числе квантование после обучения (PTQ) и GPTQ, и поделился результатами: PTQ с пониженной точностью показало высокую точность, а модель Ultralytics YOLOv8 — высокую степень сжатия.
Подводя итоги#
Доклад Амира показал, как инструменты вроде MCT помогают сократить разрыв между исследованиями в области ИИ и их реализацией в реальном времени, особенно для моделей YOLO, работающих на периферийных устройствах.
Хочешь узнать больше? Посмотри полное выступление Sony о MCT.
Автор
Менеджер по цифровому контенту · Ultralytics
Комментарии
Задай вопрос, поделись результатами или помоги кому-нибудь.
