5 главных советов по эффективному развертыванию YOLO26 на периферийных устройствах и в облаке

В прошлом месяце Ultralytics официально представила Ultralytics YOLO26, установив новый стандарт для искусственного интеллекта в области компьютерного зрения — отрасли искусственного интеллекта, которая позволяет машинам интерпретировать и понимать визуальную информацию на изображениях и видео. В отличие от простого захвата видео, модели компьютерного зрения, такие как модели Ultralytics YOLO, поддерживают такие задачи компьютерного зрения, как обнаружение объектов, сегментация экземпляров, оценка позы и классификация изображений.

Созданная для работы там, где компьютерное зрение используется на практике, — на устройствах, камерах, роботах и в производственных системах, — Ultralytics YOLO26 представляет собой передовую модель, обеспечивающую более быстрый вывод на центральном процессоре (CPU), упрощенное развертывание и эффективную сквозную производительность в реальных условиях. Модели YOLO26 также разработаны для упрощения переноса решений компьютерного зрения от экспериментов к производственной эксплуатации.

Рис. 1. Нано-модель YOLO26 обеспечивает до 43% более быстрый вывод на CPU, чем YOLO11. (Источник)

Развертывание модели обычно включает различные аспекты, например выбор подходящего оборудования, формата экспорта, оптимизацию производительности и проверку результатов в реальных условиях. Благодаря пакету Ultralytics для Python выполнение этих шагов при развертывании YOLO26 становится простым: пакет упрощает обучение, вывод и экспорт модели для различных целевых платформ.

Однако даже при упрощенных рабочих процессах крайне важно принимать правильные решения о развертывании. В этой статье мы рассмотрим пять практических советов, которые помогут тебе эффективно развернуть Ultralytics YOLO26 в периферийных и облачных средах, обеспечив надежную и масштабируемую производительность искусственного интеллекта в области компьютерного зрения в производственной среде. Начнем!

Что такое развертывание модели в компьютерном зрении?#

Прежде чем перейти к стратегиям развертывания Ultralytics YOLO26, давай остановимся и разберемся, что означает развертывание модели в компьютерном зрении.

Развертывание модели — это процесс переноса обученной модели глубокого обучения из среды разработки в реальное приложение, где она может обрабатывать новые изображения или видеопотоки и непрерывно генерировать предсказания. Вместо запуска экспериментов на статичных наборах данных модель становится частью работающей системы.

В компьютерном зрении это часто означает интеграцию модели с камерами, периферийными устройствами искусственного интеллекта, API или облачной инфраструктурой. Модель должна работать в рамках аппаратных ограничений, соответствовать требованиям к задержке и сохранять стабильную производительность при изменяющихся условиях реального мира.

Понимать этот переход от экспериментов к производственной эксплуатации крайне важно, поскольку решения о развертывании напрямую влияют на то, насколько хорошо модель работает за пределами лаборатории или экспериментальной среды.

Разбираемся в рабочих процессах развертывания Ultralytics YOLO26#

Теперь давай рассмотрим, что именно включает рабочий процесс развертывания Ultralytics YOLO26. Проще говоря, это последовательность шагов, в ходе которых изображение проходит путь от захвата до анализа и преобразования в предсказание.

В типичной конфигурации камера захватывает изображение или видеокадр. Затем эти данные проходят предварительную обработку, например изменение размера или приведение к нужному формату, после чего передаются в Ultralytics YOLO26 для выполнения вывода.

Модель анализирует входные данные и формирует такие результаты, как ограничивающие рамки, маски сегментации или ключевые точки. Затем эти результаты можно использовать для запуска действий: отправки оповещений, обновления панели мониторинга или управления роботизированной системой.

Место выполнения этого рабочего процесса зависит от выбранной стратегии развертывания. Например, при периферийном развертывании вывод выполняется непосредственно на устройстве или рядом с камерой, что помогает уменьшить задержку и повысить конфиденциальность данных.

При облачном развертывании изображения или видеокадры отправляются на удаленные серверы для обработки, что обеспечивает более высокую масштабируемость и централизованное управление. Некоторые системы используют гибридный подход: выполняют легковесную обработку на периферии, а более ресурсоемкие задачи — в облаке.

Изучаем варианты моделей Ultralytics YOLO26#

Чтобы принимать обоснованные решения о развертывании, важно также понимать, что доступны разные варианты моделей Ultralytics YOLO26.

Модели Ultralytics YOLO доступны сразу в нескольких размерах, поэтому легко выбрать версию, соответствующую возможностям оборудования и требованиям к производительности. YOLO26 выпускается в пяти вариантах: Nano (n), Small (s), Medium (m), Large (l) и Extra Large (x).

Меньшие модели, например YOLO26n, оптимизированы для эффективности и отлично подходят для периферийных устройств, устройств интернета вещей (IoT), встраиваемых систем и систем на базе CPU, где важны низкая задержка и низкое энергопотребление. Они обеспечивают высокую производительность при минимальном потреблении ресурсов.

Более крупные модели, например YOLO26l и YOLO26x, предназначены для повышения точности и обработки более сложных сцен. Обычно эти варианты лучше всего работают на системах с графическими процессорами (GPUs) или в облачных средах, где доступно больше вычислительных ресурсов.

Выбор подходящего размера модели зависит от целей развертывания. Если главными приоритетами являются скорость и эффективность на устройствах с ограниченными ресурсами, оптимальным вариантом может стать небольшая модель. Если приложению требуется максимальная точность и у тебя есть доступ к более мощному оборудованию, лучшим выбором может быть крупная модель.

Советы по эффективному развертыванию Ultralytics YOLO26#

Теперь, когда мы лучше понимаем варианты моделей Ultralytics YOLO26 и рабочие процессы развертывания, давай рассмотрим практические советы по эффективному развертыванию YOLO26 в периферийных и облачных средах.

Совет 1: Рассмотри варианты развертывания модели#

Одно из первых решений, которые тебе предстоит принять при развертывании Ultralytics YOLO26, — определить, где будет работать модель. Среда развертывания напрямую влияет на производительность, задержку, конфиденциальность и масштабируемость.

Начни с оценки своего рабочего процесса. Требуется ли приложению низкая задержка, то есть генерация предсказаний практически сразу после захвата изображения?

Например, в робототехнике или системах безопасности даже небольшие задержки могут повлиять на производительность. В таких случаях часто оптимальным вариантом становится периферийное развертывание. Выполнение вывода непосредственно на устройстве или рядом с камерой сокращает время обработки данных и избавляет от необходимости отправлять изображения через интернет, что также может повысить конфиденциальность.

С другой стороны, облачное развертывание обеспечивает более высокую масштабируемость и вычислительную мощность. Облачные серверы могут обрабатывать большие объемы изображений, работать с несколькими видеопотоками и поддерживать более высокую пропускную способность.

Например, в сельском хозяйстве фермер может собрать тысячи изображений листьев и анализировать их пакетами, чтобы определить, есть ли у культур признаки заболевания. В таком сценарии немедленная обработка в реальном времени может быть не нужна, поэтому облачная обработка становится практичным и масштабируемым вариантом.

Рис. 2. Пример использования Ultralytics YOLO26 для анализа изображений листьев

Однако отправка данных на удаленные серверы приводит к задержке сети — задержке, вызванной передачей изображений через интернет и получением предсказаний в ответ. Для приложений, не требующих обработки в реальном времени, такой компромисс может быть приемлемым.

Существуют также варианты между полностью периферийным и полностью облачным развертыванием. Некоторые компании используют локальную инфраструктуру, расположенную рядом с местом генерации данных. Другие создают гибридные конвейеры: выполняют легковесную фильтрацию на периферии и отправляют выбранные данные в облако для более глубокого анализа.

Выбор подходящего варианта развертывания зависит от требований приложения. Четко определив свои потребности в скорости, конфиденциальности и масштабируемости, ты сможешь выбрать стратегию, которая обеспечит надежную работу Ultralytics YOLO26 в реальных условиях.

Совет 2: Выбери формат экспорта, соответствующий оборудованию#

После выбора места запуска модели следующим шагом становится выбор подходящего формата экспорта. Экспорт модели означает преобразование формата, используемого при обучении, в формат, оптимизированный для развертывания.

Модели Ultralytics YOLO26 изначально создаются и обучаются в PyTorch, однако в производственных средах часто используются специализированные среды выполнения, лучше подходящие для конкретного оборудования. Такие среды предназначены для повышения скорости вывода, снижения потребления памяти и обеспечения совместимости с целевым устройством.

Преобразование YOLO26 в подходящий формат позволяет эффективно запускать модель за пределами среды обучения. Пакет Ultralytics для Python делает этот процесс простым. Он поддерживает широкий спектр интеграций для создания и развертывания проектов компьютерного зрения.

Если ты хочешь подробнее изучить эти интеграции, ознакомься с официальной документацией Ultralytics. В ней есть пошаговые руководства, рекомендации для конкретного оборудования и практические примеры, которые помогут уверенно перейти от разработки к производственной эксплуатации.

Рис. 3. Ultralytics поддерживает различные интеграции (Источник)

В частности, пакет Ultralytics для Python поддерживает экспорт Ultralytics YOLO26 в несколько форматов, адаптированных для разных аппаратных платформ. Например, формат экспорта ONNX обеспечивает кроссплатформенную совместимость, формат экспорта TensorRT оптимизирован для GPU NVIDIA и периферийных устройств NVIDIA Jetson, а формат экспорта OpenVINO предназначен для оборудования Intel.

Некоторые устройства поддерживают несколько форматов экспорта, однако производительность может различаться в зависимости от выбранного формата. Вместо выбора формата по умолчанию спроси себя: какой вариант будет наиболее эффективным для твоего устройства?

Один формат может обеспечивать более быстрый вывод, а другой — более эффективное использование памяти или более простую интеграцию в существующий конвейер. Поэтому важно подобрать формат экспорта под конкретное оборудование и среду развертывания.

Если потратить время на тестирование разных вариантов экспорта на целевом устройстве, это может заметно повлиять на производительность в реальных условиях. Хорошо подобранный формат экспорта помогает обеспечить эффективную, надежную работу Ultralytics YOLO26 со скоростью, необходимой приложению.

Совет 3: Определи, нужна ли твоей модели квантизация#

После выбора формата экспорта также стоит определить, нужно ли квантизировать модель.

Квантизация модели снижает числовую точность весов и вычислений модели, обычно преобразуя их из 32-битного формата с плавающей точкой в форматы с более низкой точностью, например 16-битный или 8-битный. Это помогает уменьшить размер модели, снизить потребление памяти и повысить скорость вывода, особенно на периферийных устройствах или системах на базе CPU.

В зависимости от оборудования, формата экспорта и зависимостей среды выполнения квантизация может заметно повысить производительность. Некоторые среды выполнения оптимизированы для моделей с более низкой точностью, поэтому такие модели работают быстрее и эффективнее.

Однако при неосторожном применении квантизация может немного снизить точность. При выполнении квантизации после обучения обязательно передай изображения для валидации. Эти изображения используются во время калибровки, чтобы помочь модели адаптироваться к более низкой точности и сохранять стабильные предсказания.

Совет 4: Учитывай дрейф данных#

Даже хорошо обученная модель со временем может терять производительность из-за дрейфа данных. Дрейф данных возникает, когда данные, которые модель видит в производственной среде, отличаются от данных, на которых она обучалась.

Иными словами, реальный мир меняется, а твоя модель — нет. В результате точность может постепенно снижаться.

Например, ты можешь обучить модель Ultralytics YOLO26 на изображениях, снятых днем. Если позже использовать эту же модель ночью, при других условиях освещения, ее производительность может снизиться. Та же проблема может возникнуть из-за изменений ракурсов камер, погодных условий, фона или внешнего вида объектов.

Дрейф данных часто встречается в реальных системах искусственного интеллекта для компьютерного зрения. Окружение редко остается неизменным, и небольшие изменения могут повлиять на точность обнаружения. Чтобы уменьшить влияние дрейфа, постарайся сделать обучающий набор данных максимально похожим на реальные условия.

Добавляй изображения, снятые в разное время суток, при разных условиях освещения и в различных окружениях. После развертывания можно продолжать отслеживать производительность и при необходимости обновлять или дообучать модель.

Совет 5: Проводите тестирование производительности в реальных условиях#

Перед полноценным развертыванием модели можно проверить ее производительность в реальных условиях.

Рис. 4. Сравнительное тестирование YOLO26 и других моделей (Источник)

Обычно производительность тестируют в контролируемых условиях, используя примеры изображений или небольшие наборы данных. Однако реальные системы часто ведут себя иначе. На производительность могут влиять ограничения оборудования, задержки сети, несколько видеопотоков и непрерывный ввод данных.

Сравнительное тестирование — это измерение производительности модели на фактическом устройстве и в той конфигурации, в которой она будет работать. Оно включает проверку скорости вывода, общей задержки, потребления памяти и стабильности системы. Важно тестировать не только саму модель, но и весь конвейер, включая предварительную обработку и все этапы постобработки.

Модель может хорошо работать при тестировании на одном изображении, но испытывать трудности при непрерывной обработке видео в реальном времени. Аналогично, производительность на мощной машине разработки может не отражать поведение модели на маломощном периферийном устройстве.

Проводя сравнительное тестирование в реалистичных условиях, ты сможешь заранее выявить узкие места и внести изменения до запуска системы. Тестирование в той же среде, где будет работать Ultralytics YOLO26, помогает обеспечить надежную, стабильную и предсказуемую производительность в производственной среде.

Другие важные аспекты развертывания модели#

Вот несколько дополнительных факторов, которые стоит учитывать при развертывании Ultralytics YOLO26:

• Мониторинг и журналирование: настрой инструменты мониторинга для отслеживания таких показателей, как задержка, точность и состояние системы после развертывания.
• Безопасность и конфиденциальность: внедри меры защиты конфиденциальных визуальных данных, особенно при использовании облачной или удаленной инфраструктуры.
• Оптимизация узких мест конвейера: оцени весь конвейер, включая такие модули, как предварительная обработка, вывод, постобработка и передача данных, поскольку задержки могут возникать за пределами самой модели.
• Планирование масштабируемости: заранее подготовься к росту, обеспечив способность системы обрабатывать увеличившийся трафик, дополнительные камеры или расширенные рабочие нагрузки.

Основные выводы#

Эффективное развертывание YOLO26 начинается с понимания того, где будет работать модель и что действительно нужно приложению. Выбрав правильный подход к развертыванию, подобрав формат экспорта под оборудование и протестировав производительность в реальных условиях, ты сможешь создать надежные и отзывчивые системы искусственного интеллекта для компьютерного зрения. При правильной конфигурации Ultralytics YOLO26 упрощает внедрение быстрого компьютерного зрения, готового к производственной эксплуатации, на периферии и в облаке.

Присоединяйся к нашему сообществу и изучай наш репозиторий на GitHub. Посети страницы наших решений, чтобы узнать о различных вариантах применения, таких как искусственный интеллект в сельском хозяйстве и компьютерное зрение в здравоохранении. Ознакомься с нашими вариантами лицензирования и начни использовать искусственный интеллект в области компьютерного зрения уже сегодня!