Топ-5 советов по эффективному развертыванию YOLO26 на границе сети и в облаке

В прошлом месяце Ultralytics официально выпустила Ultralytics YOLO26, установив новый стандарт для vision AI — области искусственного интеллекта, которая позволяет машинам интерпретировать и понимать визуальную информацию из изображений и видео. Вместо простого захвата кадров, модели компьютерного зрения, такие как Ultralytics YOLO, поддерживают такие задачи, как обнаружение объектов, сегментация экземпляров, оценка позы и классификация изображений.

Созданная для работы там, где компьютерное зрение используется на самом деле — на устройствах, камерах, роботах и в производственных системах — YOLO26 представляет собой передовую модель, которая обеспечивает более быстрый вывод на центральном процессоре (CPU), упрощенное развертывание и эффективную сквозную производительность в реальных условиях. Модели YOLO26 также разработаны так, чтобы упростить перенос решений компьютерного зрения от экспериментов к промышленному использованию.

Рис 1. Модель YOLO26 nano обеспечивает до 43% более быстрый вывод на CPU, чем YOLO11. (Источник)

Развертывание модели обычно включает в себя различные аспекты, такие как выбор подходящего оборудования, выбор соответствующего формата экспорта, оптимизация производительности и проверка результатов в реальных условиях. Ориентироваться в этих шагах при развертывании YOLO26 довольно просто благодаря пакету Ultralytics Python, который упрощает обучение, вывод и экспорт моделей для различных целей развертывания.

Однако даже при упрощенных рабочих процессах принятие правильных решений при развертывании имеет ключевое значение. В этой статье мы рассмотрим пять практических советов, которые помогут тебе эффективно развернуть YOLO26 в периферийных и облачных средах, обеспечивая надежную и масштабируемую производительность vision AI в промышленной эксплуатации. Давай начнем!

Link to this sectionЧто такое развертывание модели в компьютерном зрении?#

Прежде чем мы перейдем к стратегиям развертывания для YOLO26, давай сделаем шаг назад и разберемся, что означает развертывание модели в компьютерном зрении.

Развертывание модели — это процесс переноса обученной модели глубокого обучения из среды разработки в реальное приложение, где она сможет обрабатывать новые изображения или видеопотоки и генерировать предсказания на постоянной основе. Вместо запуска экспериментов на статических наборах данных модель становится частью работающей системы.

В компьютерном зрении это часто означает интеграцию модели с камерами, периферийными устройствами AI, API или облачной инфраструктурой. Она должна работать в рамках аппаратных ограничений, соответствовать требованиям к задержке и поддерживать стабильную производительность в меняющихся реальных условиях.

Понимание этого перехода от экспериментов к промышленной эксплуатации имеет важное значение, поскольку решения по развертыванию напрямую влияют на то, насколько хорошо модель работает вне лаборатории или тестовой среды.

Link to this sectionПонимание рабочих процессов развертывания Ultralytics YOLO26#

Далее давай рассмотрим, что на самом деле включает в себя рабочий процесс развертывания YOLO26. Проще говоря, это последовательность шагов, которая превращает изображение с момента его захвата в проанализированный результат и предсказание.

В типичной конфигурации камера захватывает изображение или видеокадр. Затем эти данные проходят предварительную обработку, например, изменение размера или приведение к правильному формату, прежде чем они будут переданы в Ultralytics YOLO26 для вывода.

Модель анализирует входные данные и создает выходные результаты, такие как ограничивающие рамки (BBox), маски сегментации или ключевые точки. Затем эти результаты можно использовать для запуска действий, например, отправки оповещений, обновления панели управления или управления робототехнической системой.

Где именно выполняется этот рабочий процесс, зависит от твоей стратегии развертывания. Например, при периферийном развертывании вывод происходит непосредственно на устройстве или рядом с камерой, что помогает уменьшить задержку и повысить конфиденциальность данных.

В то же время при развертывании в облаке изображения или видеокадры отправляются на удаленные серверы для обработки, что обеспечивает большую масштабируемость и централизованное управление. Некоторые системы используют гибридный подход, выполняя легкую обработку на периферии и более тяжелые рабочие нагрузки в облаке.

Link to this sectionИзучение вариантов модели YOLO26#

Чтобы принимать обоснованные решения о развертывании, также важно понимать, что существуют различные варианты модели YOLO26 на выбор.

Готовые модели Ultralytics YOLO доступны в разных размерах, что позволяет легко выбрать версию, соответствующую твоему оборудованию и потребностям в производительности. YOLO26 представлена в пяти вариантах: Nano (n), Small (s), Medium (m), Large (l) и Extra Large (x).

Более компактные модели, такие как YOLO26n, оптимизированы для эффективности и отлично подходят для периферийных устройств, устройств Интернета вещей (IoT), встраиваемых систем и систем на базе CPU, где важны низкая задержка и пониженное энергопотребление. Они обеспечивают высокую производительность при минимальном использовании ресурсов.

Более крупные модели, такие как YOLO26l и YOLO26x, предназначены для обеспечения более высокой точности и обработки более сложных сцен. Эти варианты обычно лучше всего работают на системах, оснащенных графическими процессорами (GPU), или в облачных средах, где доступно больше вычислительных ресурсов.

Выбор правильного размера модели зависит от твоих целей развертывания. Если твоими главными приоритетами являются скорость и эффективность на ограниченном оборудовании, то идеальным может быть меньший вариант. Если твое приложение требует максимальной точности и у тебя есть доступ к более мощному оборудованию, то лучшим выбором может стать более крупная модель.

Link to this sectionСоветы по эффективному развертыванию YOLO26#

Теперь, когда мы лучше понимаем варианты модели YOLO26 и рабочие процессы развертывания, давай рассмотрим несколько практических советов по эффективному развертыванию YOLO26 в периферийных и облачных средах.

Link to this sectionСовет 1: Продумай варианты развертывания модели#

Одно из первых решений, которое тебе нужно будет принять при развертывании Ultralytics YOLO26, — это то, где будет работать модель. Твоя среда развертывания напрямую влияет на производительность, задержку, конфиденциальность и масштабируемость.

Начни с оценки своего рабочего процесса. Требует ли твое приложение низкой задержки, то есть предсказания должны генерироваться почти мгновенно после захвата изображения?

Например, в робототехнике или системах безопасности даже небольшие задержки могут повлиять на производительность. В таких случаях часто лучшим вариантом является периферийное развертывание. Выполнение вывода непосредственно на устройстве или рядом с камерой сокращает время, необходимое для обработки данных, и позволяет избежать отправки изображений через интернет, что также может повысить конфиденциальность.

С другой стороны, облачное развертывание обеспечивает большую масштабируемость и вычислительную мощность. Облачные серверы могут обрабатывать большие объемы изображений, работать с несколькими видеопотоками и поддерживать более высокую пропускную способность.

Например, в сельском хозяйстве фермер может собрать тысячи изображений листьев и проанализировать их партиями, чтобы определить, есть ли у культур признаки болезни. В таком сценарии мгновенная производительность в реальном времени может не потребоваться, что делает облачную обработку практичным и масштабируемым выбором.

Рис 2. Пример использования YOLO26 для анализа изображений листьев

Однако отправка данных на удаленные серверы приводит к сетевой задержке, то есть задержке, вызванной передачей изображений через интернет и получением предсказаний в ответ. Для приложений, не чувствительных ко времени, этот компромисс может быть приемлемым.

Существуют также варианты между чистой периферией и чистым облаком. Некоторые компании используют локальную инфраструктуру, расположенную близко к месту генерации данных. Другие строят гибридные конвейеры, выполняя легкую фильтрацию на периферии и отправляя выбранные данные в облако для более глубокого анализа.

Выбор правильного варианта развертывания зависит от требований твоего приложения. Четко определив свои потребности в скорости, конфиденциальности и масштабируемости, ты сможешь выбрать стратегию, которая обеспечит надежную работу YOLO26 в реальных условиях.

Link to this sectionСовет 2: Выбери формат экспорта, соответствующий твоему оборудованию#

После того как ты решил, где будет работать твоя модель, следующим шагом будет выбор подходящего формата экспорта. Экспорт модели означает ее преобразование из формата, использованного во время обучения, в формат, оптимизированный для развертывания.

Модели YOLO26 изначально создаются и обучаются в PyTorch, но в производственных средах часто используются специализированные среды выполнения, которые лучше подходят для конкретного оборудования. Эти среды предназначены для повышения скорости вывода, уменьшения использования памяти и обеспечения совместимости с целевым устройством.

Преобразование YOLO26 в соответствующий формат позволяет ей эффективно работать вне среды обучения. Пакет Ultralytics Python делает этот процесс простым. Он поддерживает широкий спектр интеграций для создания и развертывания проектов компьютерного зрения.

Если ты хочешь изучить эти интеграции более подробно, ты можешь ознакомиться с официальной документацией Ultralytics. Она включает пошаговые руководства, рекомендации для конкретного оборудования и практические примеры, которые помогут тебе уверенно перейти от разработки к эксплуатации.

Рис 3. Ultralytics поддерживает различные интеграции (Источник)

В частности, пакет Ultralytics Python поддерживает экспорт Ultralytics YOLO26 в несколько форматов, адаптированных для различных аппаратных платформ. Например, формат экспорта ONNX обеспечивает кроссплатформенную совместимость, формат экспорта TensorRT оптимизирован для GPU NVIDIA и периферийных устройств NVIDIA Jetson, а формат экспорта OpenVINO разработан для оборудования Intel.

Некоторые устройства поддерживают более одного формата экспорта, но производительность может варьироваться в зависимости от твоего выбора. Вместо выбора формата по умолчанию спроси себя: какой вариант наиболее эффективен для твоего устройства?

Один формат может обеспечить более быстрый вывод, в то время как другой может предложить лучшую эффективность памяти или более простую интеграцию в существующий конвейер. Вот почему важно сопоставить формат экспорта с конкретным оборудованием и средой развертывания.

Потратив время на тестирование различных вариантов экспорта на целевом устройстве, ты сможешь добиться заметной разницы в реальной производительности. Правильно подобранный формат экспорта помогает гарантировать, что YOLO26 будет работать эффективно, надежно и с той скоростью, которую требует твое приложение.

Link to this sectionСовет 3: Подумай, нужна ли твоей модели квантование#

После выбора формата экспорта также полезно определить, следует ли квантовать твою модель.

Квантование модели снижает численную точность весов и вычислений модели, обычно преобразуя их из 32-битных чисел с плавающей запятой в форматы с более низкой точностью, такие как 16-битные или 8-битные. Это помогает уменьшить размер модели, снизить использование памяти и повысить скорость вывода, особенно на периферийных устройствах или системах на базе CPU.

В зависимости от твоего оборудования, формата экспорта и зависимостей среды выполнения, квантование может заметно улучшить производительность. Некоторые среды выполнения оптимизированы для моделей с более низкой точностью, что позволяет им работать быстрее и эффективнее.

Однако квантование может немного повлиять на точность, если его применять неосторожно. При выполнении постобучающего квантования убедись, что ты пропускаешь через модель изображения для проверки. Эти изображения используются во время калибровки, чтобы помочь модели адаптироваться к более низкой точности и поддерживать стабильные предсказания.

Link to this sectionСовет 4: Учитывай дрейф данных#

Даже самая лучшая обученная модель может со временем потерять производительность из-за дрейфа данных. Дрейф данных происходит, когда данные, которые модель видит в эксплуатации, отличаются от данных, на которых она обучалась.

Другими словами, реальный мир меняется, а твоя модель — нет. В результате точность может постепенно снижаться.

Например, ты можешь обучить свою модель YOLO26, используя изображения, снятые днем. Если эта же модель позже будет использоваться ночью при других условиях освещения, производительность может упасть. Та же проблема может возникнуть при изменении углов камеры, погодных условий, фона или внешнего вида объектов.

Дрейф данных — частое явление в реальных системах vision AI. Окружающая среда редко бывает статичной, и даже небольшие изменения могут повлиять на точность обнаружения. Чтобы уменьшить влияние дрейфа, ты можешь убедиться, что твой набор данных для обучения максимально точно отражает реальные условия.

Включай изображения, снятые в разное время суток, при разных условиях освещения и в различных средах. После развертывания ты можешь продолжать контролировать производительность и при необходимости обновлять или дообучать модель.

Link to this sectionСовет 5: Проводи бенчмаркинг в реальных условиях#

Перед полным развертыванием модели ты можешь протестировать ее производительность в реальных условиях.

Рис 4. Взгляд на бенчмаркинг YOLO26 в сравнении с другими моделями (Источник)

Обычно производительность тестируется в контролируемых средах с использованием образцов изображений или небольших наборов данных. Однако реальные системы часто ведут себя иначе. Аппаратные ограничения, сетевые задержки, работа с несколькими видеопотоками и непрерывный входной поток — все это может повлиять на производительность.

Бенчмаркинг относится к измерению того, как модель работает на реальном устройстве и в конфигурации, где она будет функционировать. Это включает проверку скорости вывода, общей задержки, использования памяти и стабильности системы. Важно тестировать не только саму модель, но и весь конвейер, включая шаги предварительной и последующей обработки.

Модель может хорошо работать при тестировании на одном изображении, но испытывать трудности при непрерывной обработке видео в реальном времени. Аналогично, производительность на мощном компьютере разработчика может не отражать того, как модель ведет себя на маломощном периферийном устройстве.

Проводя бенчмаркинг в реалистичных условиях, ты сможешь выявить узкие места на раннем этапе и внести коррективы перед запуском в эксплуатацию. Тестирование в той же среде, в которой будет работать YOLO26, помогает обеспечить надежную, стабильную и согласованную производительность в промышленной эксплуатации.

Link to this sectionДругие ключевые аспекты развертывания модели#

Вот несколько дополнительных факторов, которые следует учитывать при развертывании YOLO26:

• Мониторинг и логирование: Настрой инструменты мониторинга для отслеживания таких показателей, как задержка, точность и состояние системы после развертывания.
• Безопасность и конфиденциальность: Внедряй меры защиты для обеспечения безопасности конфиденциальных визуальных данных, особенно при использовании облачной или удаленной инфраструктуры.
• Оптимизация узких мест конвейера: Оценивай весь конвейер, включая модули предварительной обработки, вывода, постобработки и передачи данных, поскольку задержки могут возникать вне самой модели.
• Планирование масштабируемости: Планируй рост заранее, убедившись, что твоя система может справиться с увеличенным трафиком, дополнительными камерами или расширенными рабочими нагрузками.

Link to this sectionОсновные выводы#

Эффективное развертывание YOLO26 начинается с понимания того, где будет работать твоя модель и что на самом деле нужно твоему приложению. Выбрав правильный подход к развертыванию, сопоставив формат экспорта с оборудованием и протестировав производительность в реальных условиях, ты сможешь создавать надежные и отзывчивые системы vision AI. Благодаря правильной настройке Ultralytics YOLO26 позволяет проще принести быстрое, готовое к эксплуатации компьютерное зрение на периферию и в облако.

Присоединяйся к нашему сообществу и изучи наш репозиторий GitHub. Ознакомься с нашими страницами решений, чтобы открыть для себя различные применения, такие как ИИ в сельском хозяйстве и компьютерное зрение в здравоохранении. Открой для себя наши варианты лицензирования и начни работу с визуальным ИИ уже сегодня!