26 октября 2022 г.
Оптимизируйте и развертывайте модели Ultralytics YOLOv5 с помощью платформы Deci, повышая производительность до 10 раз. Начните работать бесплатно и воспользуйтесь автоматической оптимизацией моделей.
В Ultralytics мы на коммерческой основе сотрудничаем с другими стартапами, которые помогают нам финансировать исследования и разработку наших замечательных инструментов с открытым исходным кодом, таких как YOLOv5, чтобы они оставались бесплатными для всех. Эта статья может содержать партнерские ссылки на этих партнеров.
Платформа Deci включает в себя бесплатные инструменты для удобного управления, оптимизации и развертывания вашего YOLOv5 модели в любой производственной среде. Deci поддерживает все популярные DL-фреймворки, такие как TensorFlow, PyTorch, Keras и ONNX. Все, что вам нужно, - это наша веб-платформа или наш Python , чтобы запускать ее из своего кода.
Вы можете использовать Deci не только для экспорта, но и для обрезки и квантования модели!
Deci предоставляет удобный интерфейс для экспорта в любом формате и сравнения производительности между исходной и преобразованной моделями. Пользователи могут дополнительно оптимизировать свои модели с помощью квантования.
Автоматически компилируйте и квантуйте свои модели и оценивайте различные производственные параметры для достижения лучшей задержки, пропускной способности и уменьшения размера модели и объема памяти на вашем оборудовании.
Проверьте производительность своей модели на различном оборудовании (включая периферийные) одним нажатием кнопки. Избавьтесь от необходимости вручную настраивать и тестировать несколько аппаратных и производственных параметров.
Используйтемеханизм выводов Deci, python. Совместимость с различными фреймворками и типами оборудования.
Для получения дополнительной информации о платформе Deci посетите веб-сайт Deci.
Откройте свой бесплатный аккаунт.
Чтобы начать оптимизацию предварительно обученной модели YOLOv5 , вам нужно преобразовать ее в формат ONNX . Инструкции по конвертации модели в формат ONNX см. в разделе Учебник по экспортуYOLOv5 .
Перейдите на вкладку "Лаборатория" и нажмите кнопку "Новая модель" в верхней правой части экрана, чтобы загрузить свой YOLOv5 ONNX .
Выполните шаги мастера загрузки модели, чтобы выбрать целевое оборудование, а также желаемый размер пакета и уровень квантования для компиляции модели.
После заполнения необходимой информации нажмите "Начать". Платформа Deci автоматически выполнит оптимизацию вашей модели YOLOv5 для выбранного вами оборудования, а также проведет бенчмаркинг вашей модели на различных типах оборудования. Этот процесс занимает около 10 минут.
После этого на экране появится новая строка под базовой моделью, которую вы загрузили ранее. Здесь вы можете увидеть оптимизированную версию вашей предварительно обученной модели YOLOv5 .
Затем вы можете загрузить оптимизированную модель, нажав кнопку «Развернуть».
Затем вам будет предложено загрузить свою модель и получить инструкции по установке и использованию Infery — механизма вывода Deci.
Использование Infery не является обязательным. Вы можете получить исходные файлы python и использовать их с любым другим механизмом вывода по вашему выбору.
Ознакомьтесь с результатами оптимизации и бенчмаркинга на вкладке "Insights".
Прежде чем завершить, давайте обсудим некоторые преимущества, которые предлагает Deci:
Как вы только что увидели, вы можете удвоить производительность модели YOLOv5 за 15 минут общего времени. Платформа Deci очень проста и интуитивно понятна в использовании.
Есть вопросы? Присоединяйтесь к нашему сообществу и задайте свой вопрос сегодня!
.webp)