Влияние более быстрой архитектуры Ultralytics YOLO26 с приоритетом периферийных устройств

Ранее на этой неделе Ultralytics официально представила Ultralytics YOLO26 — более быструю, лёгкую и компактную модель YOLO, которая призвана переосмыслить работу систем компьютерного зрения на периферии. YOLO26 поддерживает те же основные задачи компьютерного зрения, что и предыдущие модели YOLO, включая обнаружение объектов и сегментацию экземпляров.

Рис. 1. Пример использования Ultralytics YOLO26 для сегментации объекта.

Главное отличие Ultralytics YOLO26 от предыдущих моделей — среда, для работы в которой она была разработана. Вместо оптимизации прежде всего под облачные графические процессоры (GPUs) или производительность в бенчмарках YOLO26 с нуля создавалась для развёртывания в реальных условиях на периферийных устройствах и встраиваемом оборудовании.

По мере того как компьютерное зрение переходит из исследовательской сферы в производство, ограничения производительности становятся всё очевиднее. Периферийные среды характеризуются жёсткими ограничениями по задержке, объёму памяти, энергопотреблению и температуре, а также необходимостью предсказуемой работы на разных платформах.

В таких условиях общая производительность системы зависит не только от чистой скорости инференса, но и от эффективности работы всего конвейера. Узкими местами часто становятся накладные расходы постобработки, нагрузка на память и пути выполнения, специфичные для конкретной платформы.

Ultralytics YOLO26 решает эти задачи благодаря более быстрому подходу, ориентированному на периферийные устройства и учитывающему весь конвейер инференса, а не отдельные метрики модели. Сосредоточившись на оптимизации для периферии, упростив конвейер инференса и удалив ненужные этапы постобработки, YOLO26 повышает скорость, что приводит к меньшей задержке и более надёжной работе в производственной среде.

В этой статье мы рассмотрим, как архитектурные решения Ultralytics YOLO26 приводят к улучшению производительности в реальных условиях и почему более высокая скорость на периферии принципиально меняет возможности приложений компьютерного зрения следующего поколения.

Реальность развёртывания на периферии#

Запуск моделей компьютерного зрения на периферии сильно отличается от их запуска в облаке. В облачных средах системы обычно имеют доступ к мощным GPU, большому объёму памяти и стабильному оборудованию. На периферии эти предположения уже неприменимы.

Большинство периферийных развёртываний работает на разнообразных архитектурах оборудования, а не на GPU. Устройства обычно используют несколько специализированных процессоров для разных задач, оптимизированных под эффективность и низкое энергопотребление, а не под чистую вычислительную мощность облачных GPU.

Задержка — ещё одно серьёзное ограничение. Периферийные системы часто работают в условиях жёстких ограничений реального времени, где даже небольшие задержки могут влиять на отзывчивость или безопасность. В таких случаях важнее сквозная задержка, а не чистая скорость инференса. Модель может быть быстрой на бумаге, но всё равно не соответствовать требованиям после добавления постобработки и перемещения данных.

Память также играет важную роль. Многие периферийные устройства располагают ограниченным объёмом памяти и общими кэшами. Большие промежуточные тензоры и неэффективное использование памяти могут замедлять системы, даже если сама модель работает эффективно.

Ограничения по энергопотреблению и температуре создают дополнительные сложности. Периферийные устройства часто работают без активного охлаждения и в рамках фиксированного бюджета мощности. Производительность должна быть эффективной и устойчивой, а не только высокой в течение коротких периодов.

Кроме того, развёртывания на периферии требуют стабильности. Модели должны одинаково работать на разных устройствах и в разных средах выполнения. Код, специфичный для платформы, или сложные этапы постобработки могут приводить к незаметным различиям, из-за которых системы становится сложнее развёртывать и обслуживать.

Рис. 2. Обзор ограничений развёртывания на периферии. Изображение автора.

Эти ограничения определяют, что на самом деле означает производительность на периферии. Иными словами, производительность определяется всем конвейером, а не одной метрикой.

Почему компьютерное зрение на периферии требует другой модели производительности#

Итак, как ограничения развёртывания на периферии связаны с требованиями к модели компьютерного зрения, предназначенной для периферии? Связь становится очевидной, когда модели переходят из исследовательской среды в реальные системы.

В облачных средах производительность часто измеряют с помощью таких бенчмарков, как скорость инференса и точность. На периферии эти метрики рассказывают лишь часть истории. Системы компьютерного зрения обычно работают на неоднородном оборудовании: инференс нейронной сети передаётся специализированным ускорителям, а другие части конвейера выполняются на процессорах общего назначения.

В этом контексте скорости модели недостаточно. Ключевое значение имеет производительность всей системы после развёртывания модели. Модель может казаться быстрой сама по себе, но всё равно не соответствовать требованиям, если постобработка, перемещение данных или специфичные для платформы этапы создают накладные расходы.

Поэтому компьютерное зрение на периферии требует модели производительности, ориентированной на эффективность на уровне системы, а не на отдельные бенчмарки. Ultralytics YOLO26 отражает этот переход, уделяя внимание оптимизации для периферии, упрощённому инференсу и сквозному выполнению, созданным для развёртывания в реальных условиях.

Основа скорости: дизайн, ориентированный на периферийные устройства#

На периферии производительность определяется тем, насколько хорошо модель соответствует фактической архитектуре оборудования устройства. Проектирование прежде всего для периферии обеспечивает надёжную работу систем компьютерного зрения на реальных платформах независимо от конкретного сочетания доступных вычислительных блоков.

Подход, ориентированный на периферийные устройства, отдаёт приоритет предсказуемому и эффективному выполнению на неоднородном оборудовании, а не адаптации моделей, изначально оптимизированных для облачных GPU. Проще говоря, это означает выбор операций, которые хорошо выполняются на ускорителях нейронных сетей, минимизацию ненейронных операций за пределами модели и сокращение ненужной сложности, способной замедлить сквозное выполнение.

Ultralytics YOLO26 была разработана с учётом этих ограничений. Её архитектура ориентирована на стабильную производительность, а не на пиковую пропускную способность в идеальных условиях. Упрощая пути выполнения и устраняя ненужные вычисления, YOLO26 сокращает накладные расходы во всём конвейере инференса и эффективнее использует доступные ускорители и иерархию памяти устройства.

Этот подход также повышает надёжность. Оптимизация для периферии обеспечивает более предсказуемое время выполнения и уменьшает количество скачков производительности, что критически важно для систем реального времени. Вместо зависимости от специализированного оборудования или сложной постобработки для достижения высокой скорости Ultralytics YOLO26 делает акцент на эффективности всего конвейера инференса.

Сквозной инференс и стоимость постобработки#

Возможно, ты задаёшься вопросом, что означает устранение ненужных этапов постобработки. Чтобы это понять, давай отступим на шаг и посмотрим, как работают традиционные системы обнаружения объектов.

Во многих конвейерах обнаружения объектов инференс не заканчивается, когда модель выдаёт прогнозы. Вместо этого модель формирует большое количество перекрывающихся ограничивающих рамок, которые затем нужно отфильтровать и уточнить, прежде чем их можно будет использовать. Эта очистка выполняется на этапах постобработки за пределами самой модели.

Одним из наиболее распространённых этапов постобработки является подавление немаксимумов, или NMS. NMS сравнивает перекрывающиеся ограничивающие рамки и оставляет только наиболее уверенные обнаружения, удаляя дубликаты, относящиеся к одному объекту. Хотя этот подход эффективен, он добавляет дополнительные вычисления после завершения инференса.

Рис. 3. Принцип работы NMS. Изображение автора.

На периферии эта дополнительная работа имеет свою цену. Этапы постобработки, такие как NMS, плохо подходят для специализированных ускорителей, используемых при инференсе нейронных сетей и оптимизированных под плотные нейронные вычисления, а не под операции с большим количеством управляющей логики или интенсивным обращением к памяти.

В результате NMS увеличивает задержку и нагрузку на память, причём её стоимость растёт вместе с количеством обнаружений. Даже когда сама модель работает быстро, NMS может занимать значительную часть общего времени выполнения.

Постобработка также повышает сложность системы. Поскольку она выполняется за пределами модели, её приходится реализовывать отдельно для разных сред выполнения и аппаратных целей. Это часто приводит к путям кода, специфичным для платформы, непоследовательному поведению на разных устройствах и менее надёжным конвейерам развёртывания.

Что особенно важно, постобработка нарушает идею настоящей сквозной производительности. Измерение скорости инференса модели не отражает поведение системы в производственной среде. В конечном счёте важен общий путь от входных данных до итогового результата, включая каждый этап конвейера.

В таких ситуациях постобработка становится скрытым узким местом на периферии. Она увеличивает задержку, потребляет ресурсы CPU и усложняет развёртывание, оставаясь при этом за пределами самой модели.

Как Ultralytics YOLO26 удаляет NMS и почему это делает её быстрее#

YOLO26 удаляет NMS, устраняя первопричину дублирующихся обнаружений, а не исправляя их после инференса. Вместо формирования множества перекрывающихся прогнозов, которые нужно фильтровать, модель обучается сразу генерировать меньшее количество уверенных итоговых обнаружений.

Это стало возможным благодаря изменению способа обучения обнаружений. Ultralytics YOLO26 формирует более чёткое соответствие «один объект — один прогноз», устраняя избыточность в её источнике. В результате дублирующиеся обнаружения разрешаются внутри самой сети, а не с помощью внешней постобработки.

Удаление NMS сразу влияет на производительность на периферии. Поскольку NMS плохо отображается на ускорители нейронных сетей, её устранение сокращает перемещение данных в памяти и позволяет избежать дорогостоящих ненейронных этапов обработки. Это уменьшает сквозную задержку и делает производительность более предсказуемой, особенно на периферийных устройствах, где постобработка в противном случае может занимать заметную часть общего времени выполнения.

Это также упрощает конвейер инференса. При меньшем количестве этапов за пределами модели сокращаются перемещение данных и число передач между компонентами. Выход модели уже является итоговым результатом, что делает выполнение более предсказуемым.

Удаление DFL для обеспечения настоящей сквозной производительности#

Ещё одна инновация Ultralytics YOLO26 — удаление распределительной фокальной функции потерь, или DFL, которая использовалась в предыдущих моделях YOLO для регрессии ограничивающих рамок. Вместо прямого предсказания одной координаты модели с DFL обучались предсказывать распределение возможных значений, а затем вычисляли итоговую ограничивающую рамку на основе этого распределения. Такой подход помог повысить точность локализации и стал важным шагом вперёд для предыдущих поколений.

Однако со временем DFL привела и к компромиссам. Предсказание распределений увеличивает объём вычислений и усложняет архитектуру модели, что может замедлять инференс на CPU и затруднять экспорт моделей в разные форматы развёртывания. DFL также задавала фиксированные диапазоны регрессии, что могло ограничивать гибкость при обнаружении очень крупных объектов.

Ultralytics YOLO26 удаляет DFL в рамках перехода к более простой сквозной архитектуре. Регрессия ограничивающих рамок переработана и стала более прямой, что сокращает ненужные вычисления без потери точности. Это изменение соответствует подходу YOLO26 без NMS.

Откуда берётся ускорение инференса на CPU на 43%#

В бенчмарках на CPU YOLO26 демонстрирует заметное улучшение производительности по сравнению с предыдущими моделями YOLO. По сравнению с Ultralytics YOLO11 нано-модель YOLO26 обеспечивает инференс на CPU до 43% быстрее — это существенно влияет на развёртывание в реальных периферийных системах.

Рис. 4. Бенчмаркинг скорости Ultralytics YOLO26 на CPU.

Этот прирост достигается за счёт упрощения всего конвейера инференса, а не оптимизации одного компонента. Сквозное выполнение устраняет накладные расходы постобработки, более прямой метод регрессии ограничивающих рамок сокращает вычисления, а решения в пользу CPU повышают эффективность выполнения на процессорах общего назначения.

В совокупности эти изменения уменьшают задержку, снижают нагрузку на CPU и обеспечивают более быструю и стабильную работу на реальном периферийном оборудовании.

Влияние Ultralytics YOLO26 на развёртывание на периферии и экспорт#

Преимущества Ultralytics YOLO26 выходят за рамки более быстрого инференса. Благодаря упрощению модели и снижению нагрузки на память её легче развёртывать и надёжнее запускать в периферийных средах.

Сквозная архитектура Ultralytics YOLO26 также упрощает экспорт. Благодаря меньшему количеству вспомогательных компонентов и отсутствию внешних этапов постобработки экспортированные модели полностью самодостаточны. Это уменьшает зависимость от платформы и помогает обеспечить стабильное поведение в разных средах выполнения и на разных аппаратных целях.

На практике это означает, что Ultralytics YOLO26 можно проще развёртывать на периферийных устройствах, таких как камеры, роботы и встраиваемые системы, используя различные форматы экспорта. Что экспортируешь, то и запускаешь: меньше этапов интеграции и ниже риск расхождений после развёртывания.

Более быстрый инференс на периферии открывает возможности для робототехники и промышленного компьютерного зрения с использованием AI#

До этого мы рассматривали, как ориентированная на периферию архитектура Ultralytics YOLO26 повышает производительность на уровне системы. Однако её реальное влияние заключается в том, что она упрощает интеграцию компьютерного зрения с AI в реальные приложения.

Например, в робототехнике и промышленной среде системы компьютерного зрения часто работают в условиях жёстких ограничений реального времени. Решения нужно принимать быстро и стабильно, используя ограниченные вычислительные ресурсы и не полагаясь на подключение к облаку. С Ultralytics YOLO26 выполнение этих требований становится практичным.

Такие приложения, как навигация роботов и манипуляции с объектами, выигрывают от меньшей задержки и более предсказуемого инференса, позволяя роботам плавно реагировать на изменения окружающей среды. Аналогично, в промышленной среде модели компьютерного зрения могут работать непосредственно на производственных линиях, обнаруживая дефекты, отслеживая компоненты и контролируя процессы без задержек и лишней сложности.

Обеспечивая быстрый и надёжный инференс на периферийном оборудовании, Ultralytics YOLO26 помогает сделать компьютерное зрение с AI естественной частью робототехнических и промышленных систем, а не сложной задачей для развёртывания и обслуживания.

Основные выводы#

Ultralytics YOLO26 создана для периферии, где реальные ограничения, такие как задержка, память и надёжность, определяют возможное. Благодаря проектированию модели с учётом выполнения прежде всего на CPU, сквозного инференса и более простого развёртывания YOLO26 делает компьютерное зрение с AI практичным для интеграции в реальные системы. Такой подход, ориентированный на периферию, открывает широкий спектр приложений — от робототехники и промышленного компьютерного зрения до встраиваемого и локального AI, где особенно важны производительность и предсказуемость.

Присоединяйся к нашему растущему сообществу и изучай наш репозиторий GitHub, чтобы получить практические ресурсы по AI. Чтобы уже сегодня создавать решения с компьютерным зрением и AI, ознакомься с нашими вариантами лицензирования. Узнай, как AI в сельском хозяйстве меняет фермерство и как компьютерное зрение с AI в здравоохранении формирует будущее, на страницах наших решений.