31 января 2024 г.
Откройте для себя набор инструментов Sony для сжатия моделей (MCT) на выставке YOLO VISION 2023. Преодолейте проблемы краевого ИИ, узнайте, что такое квантование, и изучите возможности развертывания в реальном времени. Присоединяйтесь к нам на пути от исследований к реализации.
На мероприятии YOLO VISION 2023 (YV23), проходившем в кампусе Google для стартапов в Мадриде, был представлен уникальный состав докладчиков, отобранных из числа представителей сообщества ИИ. Среди них был Амир Серви, менеджер по продуктам глубокого обучения Edge Deep Learning компании Sony, который выступил с проникновенной презентацией о преодолении разрыва между исследованиями ИИ и реальным временем, раскрыв чудеса инструментария сжатия моделей Sony (MCT).
Амир Серви, обладающий огромным опытом в области ИИ и технологий, создает основу для познавательного изучения методов сжатия моделей и квантования, предназначенных для эффективного развертывания Edge.
Амир подробно остановился на проблемах развертывания моделей искусственного интеллекта на устройствах с граничным доступом, особо отметив трудности, связанные с ограниченными ресурсами и аппаратными ограничениями. Во время своего выступления он представил Sony Model Compression Toolkit (MCT), инструмент с открытым исходным кодом, легко интегрируемый в PyTorch и TensorFlow.
Амир раскрыл впечатляющие возможности MCT. От аппаратно-ориентированного квантования до самых современных алгоритмов и автоматизации поиска параметров - MCT оказался универсальным набором инструментов, готовым к решению сложных задач, связанных с внедрением ИИ в реальном мире.
Амир раскрыл технику квантования, предложив заглянуть в мир PTQ, GPTQ и их впечатляющих результатов. Аудитория восхитилась успехом PTQ в смешанной точности и замечательными показателями сжатия, достигнутыми для модели Ultralytics YOLOv8.
В двух словах, доклад Амира осветил путь между исследованиями в области ИИ и его реализацией в реальном времени. Сотрудничество углубило наше понимание и вдохновило нас возможностями, которые MCT привносит в постоянно развивающуюся область машинного обучения с использованием моделей YOLO.
Следите за обновлениями, ведь мы продолжаем разгадывать тайны искусственного интеллекта вместе с такими лидерами отрасли, как Амир Серви!
Хотите узнать больше? Посмотрите полный текст выступления здесь!
.webp)
