MCT от Sony: от исследований ИИ к периферийным системам реального времени
Узнай о наборе инструментов сжатия моделей Sony (MCT) на YOLO VISION 2023. Преодолей сложности периферийного ИИ, разберись в квантовании и изучи развертывание в реальном времени. Пройди путь от исследований к реализации вместе с нами.
На мероприятии YOLO VISION 2023 (YV23), которое прошло в кампусе Google for Startups в Мадриде, выступила тщательно отобранная группа докладчиков из сообщества ИИ. Среди них был Амир Серви, руководитель направления продуктов Sony для глубокого обучения на периферийных устройствах, который представил содержательный доклад о преодолении разрыва между исследованиями ИИ и периферийными вычислениями в реальном времени и рассказал о возможностях инструментария сжатия моделей Sony (MCT).
Знакомься: Амир Серви — от исследований к ИИ в реальном времени#
Экспертность Амира Серви в области ИИ и технологий очевидна и создает основу для содержательного изучения методов сжатия и квантования моделей, адаптированных для эффективного развертывания на периферийных устройствах.
Преодоление сложностей периферийного ИИ с помощью MCT#
Амир подробно рассмотрел сложности развертывания моделей ИИ на периферийных устройствах, подчеркнув проблемы, связанные с ограниченными ресурсами и аппаратными ограничениями. В ходе выступления он представил инструментарий сжатия моделей Sony (MCT) — инструмент с открытым исходным кодом, который без проблем интегрируется с PyTorch и TensorFlow.
Раскрываем потенциал MCT#
Амир продемонстрировал впечатляющие возможности MCT. Благодаря квантованию с учетом аппаратного обеспечения, современным алгоритмам и автоматизации поиска параметров MCT стал универсальным инструментарием, готовым справиться со сложностями развертывания ИИ в реальных условиях.
Рис. 1. Амир Серви выступает на YOLO VISION 2023 в кампусе Google for Startups в Мадриде.
Методы квантования без тайн: результаты говорят сами за себя#
Амир подробно объяснил методы квантования, познакомив аудиторию с PTQ, GPTQ и их впечатляющими результатами. Аудитория оценила успех PTQ со смешанной точностью и впечатляющие показатели сжатия, достигнутые для модели Ultralytics YOLOv8.
Подводя итоги#
Вкратце, выступление Амира пролило свет на путь от исследований ИИ к реализации в реальном времени. Это сотрудничество углубило наше понимание и вдохновило нас возможностями, которые MCT открывает в постоянно развивающейся области машинного обучения с использованием моделей YOLO.
Следи за новыми интересными обновлениями — мы продолжим раскрывать тайны ИИ вместе с такими лидерами отрасли, как Амир Серви!
Хочешь узнать больше? Посмотри полную запись выступления о Sony MCT!
