26 октября 2022 г.
Оптимизируйте и развертывайте модели Ultralytics YOLOv5 с помощью платформы Deci, повышая производительность до 10 раз. Начните бесплатно и используйте автоматическую оптимизацию моделей.
В Ultralytics мы коммерчески сотрудничаем с другими стартапами, чтобы помочь нам финансировать исследования и разработки наших замечательных инструментов с открытым исходным кодом, таких как YOLOv5, чтобы они оставались бесплатными для всех. Эта статья может содержать партнерские ссылки на этих партнеров.
Платформа Deci включает в себя бесплатные инструменты для простого управления, оптимизации и развертывания ваших моделей YOLOv5 в любой производственной среде. Deci поддерживает все популярные фреймворки DL, такие как TensorFlow, PyTorch, Keras и ONNX. Все, что вам нужно, — это наша веб-платформа или наш Python-клиент для запуска из вашего кода.
Вы можете использовать Deci не только для экспорта, но и для обрезки и квантования модели!
Deci предоставляет удобный интерфейс для экспорта в любом формате и сравнения производительности между исходной и преобразованной моделями. Пользователи могут дополнительно оптимизировать свои модели с помощью квантования.
Автоматически компилируйте и квантуйте свои модели и оценивайте различные производственные параметры для достижения лучшей задержки, пропускной способности и уменьшения размера модели и объема памяти на вашем оборудовании.
Проверьте производительность своей модели на различном оборудовании (включая периферийные) одним нажатием кнопки. Избавьтесь от необходимости вручную настраивать и тестировать несколько аппаратных и производственных параметров.
Используйте inference engine Deci на базе Python. Совместим с различными фреймворками и типами оборудования.
Для получения дополнительной информации о платформе Deci посетите веб-сайт Deci.
Откройте свой бесплатный аккаунт.
Чтобы начать оптимизацию предварительно обученной модели YOLOv5, вам необходимо преобразовать ее в формат ONNX. См. Руководство по экспорту YOLOv5 для получения инструкций о том, как преобразовать вашу модель в формат ONNX.
Перейдите на вкладку "Lab" и нажмите кнопку "New Model" в верхней правой части экрана, чтобы загрузить свою YOLOv5 ONNX-модель.
Выполните шаги мастера загрузки модели, чтобы выбрать целевое оборудование, а также желаемый размер пакета и уровень квантования для компиляции модели.
После заполнения соответствующей информации нажмите кнопку "Start". Платформа Deci автоматически выполнит оптимизацию вашей модели YOLOv5 во время выполнения для выбранного вами оборудования, а также протестирует вашу модель на различных типах оборудования. Этот процесс занимает примерно 10 минут.
После этого на вашем экране появится новая строка под базовой моделью, которую вы ранее загрузили. Здесь вы можете увидеть оптимизированную версию вашей предварительно обученной модели YOLOv5.
Затем вы можете загрузить оптимизированную модель, нажав кнопку «Развернуть».
Затем вам будет предложено загрузить свою модель и получить инструкции по установке и использованию Infery — механизма вывода Deci.
Использование Infery является необязательным. Вы можете получить исходные файлы Python и использовать их с любым другим механизмом логического вывода по вашему выбору.
Ознакомьтесь с результатами оптимизации и бенчмаркинга на вкладке "Insights".
Прежде чем завершить, давайте обсудим некоторые преимущества, которые предлагает Deci:
Как вы только что увидели, вы можете удвоить производительность модели YOLOv5 в общей сложности за 15 минут. Платформа Deci очень проста и интуитивно понятна в использовании.
Есть вопросы? Присоединяйтесь к нашему сообществу и задайте свой вопрос сегодня!
.webp)
