Откройте для себя набор инструментов для сжатия моделей (MCT) от Sony на YOLO VISION 2023. Преодолейте проблемы периферийного искусственного интеллекта, разберитесь с квантованием и изучите развертывание в реальном времени. Присоединяйтесь к нам в путешествии от исследований к внедрению.
На мероприятии YOLO VISION 2023 (YV23), проходившем в кампусе Google for Startups в Мадриде, была представлена тщательно подобранная группа докладчиков, отобранных из сообщества ИИ. Среди них был Амир Серви, менеджер по продуктам Edge Deep Learning в Sony, который представил содержательную презентацию о том, как преодолеть разрыв между исследованиями ИИ и периферией в реальном времени, где он раскрыл чудеса набора инструментов для сжатия моделей (MCT) от Sony.
Экспертиза Амира Серви в области ИИ и технологий проявляется во всем, подготавливая почву для познавательного изучения методов сжатия и квантования моделей, разработанных для эффективного развертывания на периферии.
Амир углубился в проблемы развертывания моделей ИИ на периферийных устройствах, подчеркнув препятствия, создаваемые ограниченными ресурсами и аппаратными ограничениями. В ходе своего выступления он представил набор инструментов для сжатия моделей (MCT) от Sony, инструмент с открытым исходным кодом, легко интегрируемый в PyTorch и TensorFlow.
Амир раскрыл впечатляющие возможности MCT. От квантования с учетом особенностей оборудования до самых современных алгоритмов и автоматизации поиска параметров, MCT оказался универсальным набором инструментов, готовым решать сложные задачи развертывания ИИ в реальных условиях.
Амир демистифицировал методы квантования, предложив заглянуть в мир PTQ, GPTQ и их впечатляющие результаты. Аудитория была поражена успехом PTQ со смешанной точностью и замечательными коэффициентами сжатия, достигнутыми для модели Ultralytics YOLOv8.
Вкратце, доклад Амира осветил путь между исследованиями в области ИИ и реализацией в реальном времени. Сотрудничество углубило наше понимание и вдохновило нас возможностями, которые MCT привносит в постоянно развивающуюся область машинного обучения с использованием моделей YOLO.
Следите за обновлениями, поскольку мы продолжаем разгадывать тайны ИИ с лидерами отрасли, такими как Амир Серви!
Хотите узнать больше? Посмотрите полную версию доклада здесь!
.webp)