Познакомьтесь с набором инструментов Sony для сжатия моделей (MCT) на выставке YOLO VISION 2023. Преодолейте проблемы краевого ИИ, узнайте, что такое квантование, и изучите возможности развертывания в реальном времени. Присоединяйтесь к нам на пути от исследований к реализации.
На мероприятии YOLO VISION 2023 (YV23), проходившем в кампусе Google для стартапов в Мадриде, был представлен уникальный состав докладчиков, отобранных из числа представителей сообщества ИИ. Среди них был Амир Серви, менеджер по продуктам глубокого обучения Edge Deep Learning компании Sony, который выступил с проникновенной презентацией о преодолении разрыва между исследованиями ИИ и реальным временем, раскрыв чудеса инструментария сжатия моделей Sony (MCT).
Экспертиза Амира Серви в области ИИ и технологий проявляется во всем, подготавливая почву для познавательного изучения методов сжатия и квантования моделей, разработанных для эффективного развертывания на периферии.
Амир подробно остановился на проблемах развертывания моделей искусственного интеллекта на устройствах с граничным доступом, особо отметив трудности, связанные с ограниченными ресурсами и аппаратными ограничениями. Во время своего выступления он представил Sony Model Compression Toolkit (MCT), инструмент с открытым исходным кодом, легко интегрируемый в PyTorch и TensorFlow.
Амир раскрыл впечатляющие возможности MCT. От квантования с учетом особенностей оборудования до самых современных алгоритмов и автоматизации поиска параметров, MCT оказался универсальным набором инструментов, готовым решать сложные задачи развертывания ИИ в реальных условиях.
Амир раскрыл технику квантования, предложив заглянуть в мир PTQ, GPTQ и их впечатляющих результатов. Аудитория восхитилась успехом PTQ в работе со смешанной точностью и замечательными показателями сжатия, достигнутыми для Ultralytics YOLOv8 модели Ultralytics YOLOv8.
В двух словах, доклад Амира осветил путь между исследованиями в области ИИ и его реализацией в реальном времени. Сотрудничество углубило наше понимание и вдохновило нас возможностями, которые MCT привносит в постоянно развивающуюся область машинного обучения с использованием моделей YOLO .
Следите за обновлениями, поскольку мы продолжаем разгадывать тайны ИИ с лидерами отрасли, такими как Амир Серви!
Хотите узнать больше? Посмотрите полную версию доклада здесь!
