Влияние более быстрой архитектуры Ultralytics YOLO26 с приоритетом периферийных устройств

Ранее на этой неделе Ultralytics официально представила Ultralytics YOLO26 — более быструю, лёгкую и компактную модель YOLO, разработанную для повышения производительности систем компьютерного зрения на периферийных устройствах. YOLO26 поддерживает те же основные задачи компьютерного зрения, что и предыдущие модели YOLO, включая обнаружение объектов и сегментацию экземпляров.

Рис. 1. Пример сегментации объекта с помощью Ultralytics YOLO26.

Главное отличие Ultralytics YOLO26 от предыдущих моделей — среда, для работы в которой она была разработана. Вместо того чтобы в первую очередь оптимизировать модель для графических процессоров (GPUs) в облаке или производительности в бенчмарках, YOLO26 с самого начала создавалась для реального развёртывания на периферийных устройствах и встроенном оборудовании.

По мере того как компьютерное зрение переходит от исследований к промышленной эксплуатации, всё отчётливее становятся реальные ограничения производительности. Для периферийных сред характерны жёсткие ограничения по задержке, памяти, энергопотреблению и температурному режиму, а также необходимость предсказуемой работы на разных платформах.

В таких условиях общая производительность системы зависит не только от скорости инференса, но и от эффективности всего конвейера. Часто узкими местами становятся накладные расходы на постобработку, нехватка памяти и специфичные для платформы пути выполнения.

Ultralytics YOLO26 решает эти задачи с помощью более быстрого подхода с приоритетом периферийных устройств, рассматривая весь конвейер инференса, а не отдельные метрики модели. Сосредоточившись на оптимизации для периферийных устройств, упростив конвейер инференса и устранив лишние этапы постобработки, YOLO26 повышает скорость, снижает задержку и обеспечивает более надёжную работу в промышленной эксплуатации.

В этой статье мы рассмотрим, как архитектурные решения Ultralytics YOLO26 обеспечивают повышение производительности в реальных условиях и почему увеличение скорости на периферийных устройствах принципиально расширяет возможности приложений компьютерного зрения следующего поколения.

Реалии развёртывания на периферийных устройствах#

Запускать модели компьютерного зрения на периферийных устройствах совсем не то же самое, что запускать их в облаке. Облачные системы обычно располагают мощными GPU, большим объёмом памяти и стабильным оборудованием. На периферийных устройствах эти условия не выполняются.

Большинство систем на периферийных устройствах работают на разнообразных архитектурах, а не на GPU. Обычно в устройствах используются несколько специализированных процессоров для разных задач; они оптимизированы для эффективности и низкого энергопотребления, а не для вычислительной мощности облачных GPU.

Ещё одно серьёзное ограничение — задержка. Периферийные системы часто должны соблюдать жёсткие ограничения реального времени, и даже небольшие задержки могут повлиять на быстродействие или безопасность. В таких случаях важнее сквозная задержка, а не только скорость инференса. Модель может демонстрировать высокую скорость на бумаге, но не справиться в реальности после добавления постобработки и перемещения данных.

Память также играет важную роль. У многих периферийных устройств ограниченный объём памяти и общие кэши. Большие промежуточные тензоры и неэффективное использование памяти могут замедлять системы, даже если сама модель работает эффективно.

Ограничения по энергопотреблению и температуре создают дополнительные сложности. Периферийные устройства часто работают без активного охлаждения и в рамках фиксированного энергобюджета. Производительность должна быть не просто высокой в коротких рывках, а эффективной и устойчивой.

Кроме того, при развёртывании на периферийных устройствах необходима согласованная работа. Модели должны одинаково вести себя на разных устройствах и в разных средах выполнения. Код, зависящий от платформы, или сложные этапы постобработки могут вызвать незаметные различия, затрудняющие развёртывание и поддержку систем.

Рис. 2. Ограничения развёртывания на периферийных устройствах. Изображение автора.

Именно эти ограничения определяют, что на самом деле означает производительность на периферийных устройствах. Иными словами, её определяет весь конвейер, а не одна метрика.

Почему для технического зрения на периферийных устройствах нужна иная модель производительности#

Как ограничения развёртывания на периферийных устройствах связаны с требованиями к модели компьютерного зрения, предназначенной для таких условий? Эта связь становится очевидной, когда модели переходят из исследовательских проектов в реальные системы.

В облачных средах производительность часто оценивают по таким бенчмаркам, как скорость инференса и точность. На периферийных устройствах эти метрики отражают лишь часть общей картины. Системы технического зрения обычно работают на неоднородном оборудовании: инференс нейронной сети выполняется специализированными ускорителями, а другие этапы конвейера — процессорами общего назначения.

В таких условиях одной лишь скорости модели недостаточно. Главное — то, как работает вся система после развёртывания модели. Отдельно взятая модель может казаться быстрой, но уступать в производительности, если постобработка, перемещение данных или специфичные для платформы этапы создают дополнительные накладные расходы.

Поэтому для технического зрения на периферийных устройствах нужна модель производительности, ориентированная на эффективность системы в целом, а не на отдельные бенчмарки. Ultralytics YOLO26 отражает этот сдвиг, делая акцент на оптимизации с приоритетом периферийных устройств, оптимизированном инференсе и сквозном выполнении, рассчитанном на развёртывание в реальных условиях.

Основа высокой скорости: архитектура с приоритетом периферийных устройств#

На периферийных устройствах производительность определяется тем, насколько хорошо модель соответствует реальной архитектуре оборудования. Проектирование с приоритетом периферийных устройств гарантирует надёжную работу систем технического зрения на реальных платформах — независимо от конкретного набора доступных вычислительных блоков.

Подход с приоритетом периферийных устройств ставит на первое место предсказуемое и эффективное выполнение на неоднородном оборудовании, а не последующую адаптацию моделей, изначально оптимизированных для облачных GPU. Проще говоря, нужно отдавать предпочтение операциям, которые хорошо выполняются на ускорителях нейронных сетей, сводить к минимуму вычисления вне модели, не связанные с нейросетями, и уменьшать лишнюю сложность, замедляющую сквозное выполнение.

Ultralytics YOLO26 спроектирована с учётом этих ограничений. Её архитектура ориентирована на стабильную производительность, а не на пиковую пропускную способность в идеальных условиях. Упрощая пути выполнения и устраняя лишние вычисления, YOLO26 снижает накладные расходы во всём конвейере инференса и эффективнее использует доступные на устройстве аппаратное ускорение и иерархию памяти.

Такой подход также повышает надёжность. Оптимизация с приоритетом периферийных устройств обеспечивает более предсказуемое время выполнения и меньше резких скачков производительности, что критически важно для систем реального времени. Вместо того чтобы полагаться на специализированное оборудование или ресурсоёмкую постобработку для увеличения скорости, Ultralytics YOLO26 уделяет внимание эффективности всего конвейера инференса.

Сквозной инференс и затраты на постобработку#

Возможно, ты задаёшься вопросом, что значит устранить лишние этапы постобработки. Чтобы разобраться, давай вернёмся к тому, как работают традиционные системы обнаружения объектов.

Во многих конвейерах обнаружения объектов инференс не заканчивается после того, как модель выдаёт предсказания. Вместо этого модель формирует множество перекрывающихся ограничивающих рамок, которые нужно отфильтровать и уточнить, прежде чем использовать. Эта очистка выполняется на этапах постобработки вне самой модели.

Один из самых распространённых этапов постобработки — подавление немаксимумов, или NMS. NMS сравнивает перекрывающиеся ограничивающие рамки, оставляет обнаружения с наибольшей уверенностью и удаляет дубликаты, относящиеся к одному объекту. Этот эффективный подход требует дополнительных вычислений после завершения инференса.

Рис. 3. Принцип работы NMS. Изображение автора.

На периферийных устройствах за эти дополнительные вычисления приходится платить. Этапы постобработки вроде NMS плохо подходят для специализированных ускорителей, используемых при инференсе нейронных сетей: такие ускорители оптимизированы для плотных нейросетевых вычислений, а не для операций с большим количеством ветвлений или интенсивным обращением к памяти.

В результате NMS увеличивает задержку и нагрузку на память, причём затраты растут вместе с количеством обнаруженных объектов. Даже если сама модель работает быстро, NMS всё равно может занимать значительную часть общего времени выполнения.

Постобработка также усложняет систему. Поскольку она выполняется вне модели, её приходится отдельно реализовывать для разных сред выполнения и целевого оборудования. Это часто приводит к появлению специфичных для платформы путей выполнения, различиям в поведении устройств и менее надёжным конвейерам развёртывания.

И главное: постобработка противоречит идее истинной сквозной производительности. Измерение скорости инференса модели не отражает поведение системы в промышленной эксплуатации. В конечном счёте важно общее время от входных данных до итогового результата с учётом каждого этапа конвейера.

В таких случаях постобработка становится скрытым узким местом на периферийных устройствах. Она увеличивает задержку, расходует ресурсы CPU и усложняет развёртывание, оставаясь при этом вне самой модели.

Как Ultralytics YOLO26 устраняет NMS и почему это повышает скорость#

YOLO26 устраняет NMS, устраняя первопричину дублирующихся обнаружений, а не очищая результат после инференса. Вместо того чтобы формировать множество перекрывающихся предсказаний, требующих фильтрации, модель обучается сразу выдавать меньшее число уверенных итоговых обнаружений.

Это стало возможным благодаря изменению принципа обучения обнаружению объектов. Ultralytics YOLO26 обеспечивает более чёткое соответствие один-к-одному между объектами и предсказаниями, устраняя избыточность в её источнике. В результате сеть устраняет дублирующиеся обнаружения сама, а не с помощью внешней постобработки.

Удаление NMS сразу повышает производительность на периферийных устройствах. Поскольку NMS плохо подходит для ускорителей нейронных сетей, её устранение уменьшает перемещение данных в памяти и позволяет избежать затратных вычислительных операций вне нейросети. Это снижает сквозную задержку и делает производительность более предсказуемой, особенно на периферийных устройствах, где постобработка иначе могла бы занимать заметную часть общего времени выполнения.

Это также упрощает конвейер инференса. Чем меньше внешних этапов, тем меньше перемещений данных и передачи задач между компонентами. Результат модели уже является итоговым, поэтому выполнение становится предсказуемее.

Удаление DFL для истинной сквозной производительности#

Ещё одно нововведение Ultralytics YOLO26 — удаление Distribution Focal Loss, или DFL, применявшейся в предыдущих моделях YOLO для регрессии ограничивающих рамок. Вместо прямого предсказания одной координаты модели с DFL обучались предсказывать распределение возможных значений, а затем вычисляли итоговую ограничивающую рамку на его основе. Такой подход помог повысить точность локализации и стал важным шагом вперёд для предыдущих поколений моделей.

Однако со временем стало ясно, что DFL имеет и свои компромиссы. Предсказание распределений увеличивает вычислительные затраты и усложняет архитектуру модели, что может замедлить инференс на CPU и усложнить экспорт моделей в разные форматы развёртывания. Кроме того, DFL задавала фиксированные диапазоны регрессии, что могло ограничивать гибкость при обнаружении очень крупных объектов.

Ultralytics YOLO26 отказывается от DFL в рамках перехода к более простой сквозной архитектуре. Регрессию ограничивающих рамок переработали, чтобы сделать её более прямой и сократить лишние вычисления без потери точности. Это изменение соответствует подходу YOLO26 без NMS.

Откуда берётся 43-процентное ускорение инференса на CPU#

В бенчмарках на CPU YOLO26 демонстрирует заметный прирост производительности по сравнению с предыдущими моделями YOLO. По сравнению с Ultralytics YOLO11, нано-модель YOLO26 обеспечивает до 43% более быстрый инференс на CPU — это существенно влияет на работу при реальном развёртывании на периферийных устройствах.

Рис. 4. Бенчмаркинг скорости Ultralytics YOLO26 на CPU.

Такой прирост достигается за счёт упрощения всего конвейера инференса, а не оптимизации отдельного компонента. Сквозное выполнение устраняет накладные расходы на постобработку, более прямой метод регрессии ограничивающих рамок сокращает объём вычислений, а решения с приоритетом CPU повышают эффективность работы на процессорах общего назначения.

В совокупности эти изменения снижают задержку и нагрузку на CPU, обеспечивая более высокую и стабильную производительность на реальном периферийном оборудовании.

Влияние Ultralytics YOLO26 на развёртывание и экспорт для периферийных устройств#

Повышение производительности Ultralytics YOLO26 выражается не только в более быстром инференсе. Упрощение модели и снижение нагрузки на память упрощают развёртывание и повышают надёжность работы в разных периферийных средах.

Сквозная архитектура Ultralytics YOLO26 также упрощает экспорт. Благодаря меньшему количеству вспомогательных компонентов и отсутствию внешних этапов постобработки экспортированные модели полностью самодостаточны. Это снижает зависимость от конкретных платформ и помогает обеспечить согласованную работу в разных средах выполнения и на разном оборудовании.

На практике это означает, что Ultralytics YOLO26 можно проще развёртывать на периферийных устройствах, например на камерах, роботах и встроенных системах, используя различные форматы экспорта. Что экспортируешь, то и запускаешь: меньше этапов интеграции и ниже риск расхождений при развёртывании.

Более быстрый инференс на периферийных устройствах открывает новые возможности для робототехники и промышленного ИИ в сфере технического зрения#

Мы уже рассмотрели, как архитектура Ultralytics YOLO26 с приоритетом периферийных устройств повышает производительность всей системы. Однако реальное влияние этой модели заключается в том, что она упрощает интеграцию ИИ для технического зрения в приложения реального мира.

Например, в робототехнике и промышленной среде системы технического зрения часто работают в условиях жёстких ограничений реального времени. Решения нужно принимать быстро и стабильно, используя ограниченные вычислительные ресурсы и не полагаясь на подключение к облаку. С Ultralytics YOLO26 выполнить эти требования становится вполне реально.

Такие приложения, как навигация роботов и манипуляции с объектами, выигрывают от меньшей задержки и более предсказуемого инференса, позволяя роботам плавно реагировать на изменения окружающей среды. Аналогично, в промышленности модели компьютерного зрения могут работать непосредственно на производственных линиях, выявляя дефекты, отслеживая компоненты и контролируя процессы без задержек и лишних сложностей.

Обеспечивая быстрый и надежный инференс на периферийном оборудовании, Ultralytics YOLO26 помогает сделать ИИ на основе компьютерного зрения естественной частью робототехнических и промышленных систем, а не сложной задачей по развертыванию и обслуживанию.

Главные выводы#

Ultralytics YOLO26 создана для периферийных устройств, где реальные ограничения, такие как задержка, память и надежность, определяют границы возможного. Благодаря проектированию модели с учетом приоритета CPU, сквозного инференса и упрощенного развертывания YOLO26 делает интеграцию ИИ на основе компьютерного зрения в реальные системы практичной. Такой подход с приоритетом периферийных устройств открывает возможности для самых разных приложений — от робототехники и промышленного компьютерного зрения до встроенного и локального ИИ, где особенно важны производительность и предсказуемость.

Присоединяйся к нашему растущему сообществу и изучи наш репозиторий GitHub, где ты найдешь практические ресурсы по ИИ. Чтобы уже сегодня создавать решения на основе ИИ для компьютерного зрения, изучи наши варианты лицензирования. Узнай, как ИИ в сельском хозяйстве меняет аграрную отрасль и как ИИ для компьютерного зрения в здравоохранении формирует будущее, на страницах наших решений.