5 главных советов по эффективному развертыванию YOLO26 на периферии и в облаке

В прошлом месяце Ultralytics официально представила Ultralytics YOLO26, установив новую планку для ИИ для компьютерного зрения — направления искусственного интеллекта, которое позволяет машинам интерпретировать и понимать визуальную информацию из изображений и видео. Модели компьютерного зрения не просто записывают видео: модели Ultralytics YOLO поддерживают такие задачи, как обнаружение объектов, сегментация экземпляров, оценка позы и классификация изображений.

Ultralytics YOLO26 создана для реальных условий работы компьютерного зрения — на устройствах, камерах, роботах и в производственных системах. Эта современная модель обеспечивает более быстрый инференс на центральном процессоре (CPU), упрощённое развёртывание и эффективную сквозную работу в реальных условиях. Модели YOLO26 также разработаны так, чтобы упростить переход решений компьютерного зрения от экспериментов к промышленной эксплуатации.

Рис. 1. Нано-модель YOLO26 обеспечивает инференс на CPU на 43% быстрее, чем YOLO11. (Источник)

При развёртывании модели обычно нужно учитывать разные факторы: выбирать подходящее оборудование и формат экспорта, оптимизировать производительность и проверять результаты в реальных условиях. Пакет Ultralytics для Python упрощает эти этапы при развёртывании YOLO26, позволяя обучать модель, выполнять инференс и экспортировать её для разных целевых платформ.

Но даже при упрощённых рабочих процессах важно принимать правильные решения о развёртывании. В этой статье мы разберём пять практических советов, которые помогут эффективно развернуть Ultralytics YOLO26 в периферийной и облачной средах и обеспечить надёжную масштабируемую работу ИИ для компьютерного зрения в производственной эксплуатации. Начнём!

Что такое развёртывание модели в компьютерном зрении?#

Прежде чем перейти к стратегиям развёртывания Ultralytics YOLO26, давай разберёмся, что означает развёртывание модели в компьютерном зрении.

Развёртывание модели — это перенос обученной модели глубокого обучения из среды разработки в реальное приложение, где она может непрерывно обрабатывать новые изображения или видеопотоки и генерировать предсказания. Вместо запуска экспериментов на статичных наборах данных модель становится частью работающей системы.

В компьютерном зрении это часто означает интеграцию модели с камерами, периферийными ИИ-устройствами, API или облачной инфраструктурой. Модель должна работать с учётом аппаратных ограничений, отвечать требованиям к задержке и сохранять стабильную производительность при изменении условий реального мира.

Важно понимать этот переход от экспериментов к промышленной эксплуатации, поскольку решения по развёртыванию напрямую влияют на работу модели за пределами лаборатории или экспериментальной среды.

Знакомство с рабочими процессами развёртывания Ultralytics YOLO26#

Далее разберём, из чего состоит рабочий процесс развёртывания Ultralytics YOLO26. Проще говоря, это последовательность этапов, на которых изображение сначала захватывается, затем анализируется и преобразуется в предсказание.

В типичной системе камера снимает изображение или кадр видео. Затем данные предварительно обрабатываются — например, изображение масштабируется или приводится к нужному формату, — после чего передаются в Ultralytics YOLO26 для инференса.

Модель анализирует входные данные и формирует результаты, например ограничивающие рамки, маски сегментации или ключевые точки. Затем эти результаты можно использовать для запуска действий: отправки оповещений, обновления панели мониторинга или управления роботизированной системой.

Место выполнения этого рабочего процесса зависит от стратегии развёртывания. Например, при развёртывании на периферии инференс выполняется непосредственно на устройстве или рядом с камерой, что помогает сократить задержку и повысить конфиденциальность данных.

При развёртывании в облаке изображения или видеокадры отправляются на удалённые серверы для обработки, что обеспечивает масштабируемость и централизованное управление. В некоторых системах используется гибридный подход: лёгкая обработка выполняется на периферии, а более ресурсоёмкие задачи — в облаке.

Обзор вариантов модели Ultralytics YOLO26#

Чтобы принимать обоснованные решения о развёртывании, важно также понимать, что доступны разные варианты модели Ultralytics YOLO26.

Модели Ultralytics YOLO изначально доступны в нескольких размерах, поэтому легко выбрать вариант, соответствующий возможностям оборудования и требованиям к производительности. YOLO26 выпускается в пяти вариантах: Nano (n), Small (s), Medium (m), Large (l) и Extra Large (x).

Модели меньшего размера, например YOLO26n, оптимизированы для эффективности и отлично подходят для периферийных устройств, устройств Интернета вещей (IoT), встроенных систем и систем на CPU, где важны низкая задержка и меньшее энергопотребление. Они обеспечивают высокую производительность при минимальном использовании ресурсов.

Более крупные модели, например YOLO26l и YOLO26x, предназначены для обеспечения более высокой точности и обработки сложных сцен. Как правило, эти варианты лучше всего работают в системах с графическими процессорами (GPUs) или в облачных средах, где доступно больше вычислительных ресурсов.

Выбор размера модели зависит от целей развёртывания. Если главные приоритеты — скорость и эффективность на оборудовании с ограниченными ресурсами, оптимальным вариантом может стать модель меньшего размера. Если приложению нужна максимальная точность и у тебя есть доступ к более мощному оборудованию, лучше подойдёт модель большего размера.

Советы по эффективному развёртыванию Ultralytics YOLO26#

Теперь, когда мы лучше понимаем варианты моделей Ultralytics YOLO26 и рабочие процессы развёртывания, рассмотрим практические советы по эффективному развёртыванию YOLO26 в периферийной и облачной средах.

Совет 1. Рассмотри варианты развёртывания модели#

Одно из первых решений при развёртывании Ultralytics YOLO26 — выбрать, где будет работать модель. Среда развёртывания напрямую влияет на производительность, задержку, конфиденциальность и масштабируемость.

Начни с оценки рабочего процесса. Нужно ли твоему приложению минимизировать задержку, то есть формировать предсказания почти сразу после захвата изображения?

Например, в робототехнике и системах безопасности даже небольшие задержки могут повлиять на работу системы. В таких случаях часто лучше выбрать развёртывание на периферии. Инференс непосредственно на устройстве или рядом с камерой сокращает время обработки данных и позволяет не отправлять изображения через интернет, что также может повысить конфиденциальность.

С другой стороны, облачное развёртывание обеспечивает более высокую масштабируемость и вычислительную мощность. Облачные серверы могут обрабатывать большие объёмы изображений, работать с несколькими видеопотоками и обеспечивать более высокую пропускную способность.

Например, в сельском хозяйстве фермер может собрать тысячи изображений листьев и анализировать их пакетами, чтобы определить, есть ли у культур признаки заболеваний. В такой ситуации обработка непосредственно в реальном времени может быть не нужна, поэтому облачная обработка станет практичным и масштабируемым решением.

Рис. 2. Пример анализа изображений листьев с помощью Ultralytics YOLO26

Однако передача данных на удалённые серверы создаёт сетевую задержку — время, необходимое для отправки изображений через интернет и получения предсказаний. Для приложений, где время не критично, такой компромисс может быть приемлем.

Есть и промежуточные варианты между полностью периферийной и полностью облачной обработкой. Некоторые компании используют локальную инфраструктуру, расположенную рядом с источником данных. Другие создают гибридные конвейеры: выполняют лёгкую фильтрацию на периферии и отправляют выбранные данные в облако для более глубокого анализа.

Выбор подходящего варианта развёртывания зависит от требований приложения. Чётко определив требования к скорости, конфиденциальности и масштабируемости, ты сможешь выбрать стратегию, которая обеспечит надёжную работу Ultralytics YOLO26 в реальных условиях.

Совет 2. Выбери формат экспорта, подходящий для оборудования#

После выбора места выполнения модели следующим шагом будет выбор подходящего формата экспорта. Экспорт модели — это преобразование формата, используемого при обучении, в формат, оптимизированный для развёртывания.

Модели Ultralytics YOLO26 изначально создаются и обучаются в PyTorch, но в производственных средах часто используются специализированные среды выполнения, лучше подходящие для конкретного оборудования. Они предназначены для повышения скорости инференса, сокращения использования памяти и обеспечения совместимости с целевым устройством.

Преобразование YOLO26 в подходящий формат позволяет эффективно запускать модель за пределами среды обучения. Пакет Ultralytics для Python упрощает этот процесс. Он поддерживает широкий спектр интеграций для создания и развёртывания проектов компьютерного зрения.

Если хочешь подробнее изучить эти интеграции, загляни в официальную документацию Ultralytics. В ней есть пошаговые руководства, инструкции для конкретного оборудования и практические примеры, которые помогут уверенно перейти от разработки к промышленной эксплуатации.

Рис. 3. Ultralytics поддерживает различные интеграции (Источник)

В частности, пакет Ultralytics для Python поддерживает экспорт Ultralytics YOLO26 в различные форматы, адаптированные для разных аппаратных платформ. Например, формат экспорта ONNX обеспечивает совместимость между платформами, формат TensorRT оптимизирован для GPU NVIDIA и периферийных устройств NVIDIA Jetson, а формат OpenVINO предназначен для оборудования Intel.

Некоторые устройства поддерживают несколько форматов экспорта, но производительность может различаться в зависимости от выбранного формата. Вместо того чтобы выбирать формат по умолчанию, задай себе вопрос: какой вариант будет наиболее эффективным для твоего устройства?

Один формат может обеспечивать более быстрый инференс, а другой — эффективнее использовать память или проще интегрироваться в существующий конвейер. Поэтому важно подбирать формат экспорта под конкретное оборудование и среду развёртывания.

Если потратить время на тестирование разных вариантов экспорта на целевом устройстве, это может заметно повысить производительность в реальных условиях. Правильно подобранный формат экспорта помогает Ultralytics YOLO26 работать эффективно, надёжно и с необходимой приложению скоростью.

Совет 3: выясни, нужна ли твоей модели квантование#

Выбрав формат экспорта, стоит также определить, нужно ли квантовать твою модель.

Квантование модели снижает числовую точность весов и вычислений модели: обычно значения с плавающей запятой одинарной точности (32 бита) преобразуются в форматы с меньшей точностью, например 16- или 8-битные. Это помогает уменьшить размер модели и потребление памяти, а также ускорить инференс, особенно на периферийных устройствах или системах с CPU.

В зависимости от оборудования, формата экспорта и зависимостей среды выполнения квантование может заметно повысить производительность. Некоторые среды выполнения оптимизированы для моделей с низкой точностью и позволяют им работать быстрее и эффективнее.

Однако при неправильном применении квантование может немного снизить точность. Выполняя посттренировочное квантование, обязательно передавай изображения для валидации. Во время калибровки эти изображения помогают модели адаптироваться к более низкой точности и сохранять стабильность предсказаний.

Совет 4: учитывай дрейф данных#

Даже хорошо обученная модель со временем может терять в производительности из-за дрейфа данных. Дрейф данных возникает, когда данные, с которыми модель сталкивается в рабочей среде, отличаются от обучающих данных.

Иными словами, реальный мир меняется, а модель — нет. В результате точность может постепенно снижаться.

Например, ты можешь обучить модель Ultralytics YOLO26 на снимках, сделанных днём. Если позже использовать эту же модель ночью, при другом освещении, её производительность может снизиться. Аналогичная проблема может возникнуть из-за изменений угла съёмки, погоды, фона или внешнего вида объектов.

В реальных системах компьютерного зрения дрейф данных встречается часто. Условия редко остаются неизменными, и даже небольшие изменения могут повлиять на точность обнаружения. Чтобы снизить влияние дрейфа, постарайся максимально приблизить обучающий набор данных к условиям реального мира.

Добавляй изображения, сделанные в разное время суток, при разном освещении и в различных условиях. После развёртывания продолжай отслеживать производительность и при необходимости обновляй или дообучай модель.

Совет 5: тестируй в реальных условиях#

Прежде чем полностью развернуть модель, протестируй её в реальных условиях.

Рис. 4. Сравнение производительности YOLO26 с другими моделями (источник)

Обычно производительность проверяют в контролируемых условиях на примерах изображений или небольших наборах данных. Однако реальные системы часто ведут себя иначе. На производительность могут влиять ограничения оборудования, сетевые задержки, несколько видеопотоков и непрерывная подача данных.

Бенчмаркинг — это измерение производительности модели на реальном устройстве и в той конфигурации, где она будет работать. Он включает проверку скорости инференса, общей задержки, использования памяти и стабильности системы. Важно тестировать не только саму модель, но и весь конвейер, включая предварительную обработку и постобработку.

Модель может хорошо работать при обработке одного изображения, но испытывать трудности при непрерывной обработке видео в реальном времени. Аналогично, производительность на мощной рабочей машине разработчика может не отражать поведение модели на маломощном периферийном устройстве.

Бенчмаркинг в условиях, приближённых к реальным, помогает заранее выявить узкие места и внести изменения до запуска. Тестирование в той же среде, где будет работать Ultralytics YOLO26, помогает обеспечить надёжную, стабильную и предсказуемую производительность в рабочей среде.

Другие важные аспекты развёртывания модели#

Вот несколько дополнительных факторов, которые стоит учитывать при развёртывании Ultralytics YOLO26:

• Мониторинг и ведение журналов: настрой инструменты мониторинга, чтобы отслеживать такие метрики, как задержка, точность и состояние системы после развёртывания.
• Безопасность и конфиденциальность: внедри меры защиты конфиденциальных визуальных данных, особенно при использовании облачной или удалённой инфраструктуры.
• Оптимизация узких мест конвейера: оцени весь конвейер, включая предварительную обработку, инференс, постобработку и передачу данных, поскольку задержки могут возникать вне самой модели.
• Планирование масштабирования: заранее подготовься к росту, убедившись, что система справится с увеличением трафика, подключением дополнительных камер или расширением рабочих нагрузок.

Главные выводы#

Эффективное развёртывание YOLO26 начинается с понимания того, где будет работать модель и что действительно нужно твоему приложению. Выбрав подходящий способ развёртывания, подобрав формат экспорта под оборудование и проверив производительность в реальных условиях, ты сможешь создать надёжные и отзывчивые системы компьютерного зрения. При правильной настройке Ultralytics YOLO26 упрощает запуск быстрых, готовых к эксплуатации решений компьютерного зрения на периферии и в облаке.

Присоединяйся к нашему сообществу и изучи наш репозиторий на GitHub. Загляни на страницы наших решений, чтобы узнать о различных сценариях применения, например об ИИ в сельском хозяйстве и компьютерном зрении в здравоохранении. Ознакомься с нашими вариантами лицензирования и начни использовать ИИ в компьютерном зрении уже сегодня!