Ultralytics на Arm Create 2026: компьютерное зрение в реальном времени на периферийных устройствах

11 сентября 2026 года наш специалист по маркетингу Ziyue Wang и старший инженер по машинному обучению Rick Hou приняли участие в Arm Create — мероприятии для разработчиков, посвященном созданию, оптимизации и развертыванию ИИ в облаке, на периферийных устройствах и мобильных устройствах, а также в физических системах. Мы сосредоточились на развертывании Ultralytics YOLO на периферийных устройствах: как взять обученную модель компьютерного зрения и запускать ее в реальном времени на устройствах на базе Arm.

Мероприятие в Шэньчжэне прошло после предыдущей встречи в Шанхае. На обеих обсуждали вопрос, с которым рано или поздно сталкивается каждый разработчик ИИ: как превратить мощную модель в программное обеспечение, надежно работающее в реальных условиях?

Рассказываем о нашей сессии, дискуссии о моделях и совместной работе Arm и Ultralytics, которая делает Ultralytics YOLO доступнее для разработчиков, создающих решения на базе Arm.

Развертывание Ultralytics YOLO для периферийного ИИ в реальном времени#

Наш старший инженер по машинному обучению Рик Хоу представил доклад «Развёртывание Ultralytics YOLO: компьютерное зрение в реальном времени на периферии» — практическую сессию об оптимизации и развёртывании моделей Ultralytics YOLO на периферийных устройствах. В докладе был рассмотрен полный путь развёртывания и приведены практические выводы из применения Ultralytics YOLO в производственных системах периферийного ИИ.

Рис. 1. Rick из Ultralytics рассказывает о развертывании Ultralytics YOLO на периферийных устройствах на Arm Create.

Экспорт моделей Ultralytics YOLO для сред выполнения на периферийных устройствах#

Первый этап развертывания на периферийном устройстве — экспорт обученной модели в формат, поддерживаемый целевой средой выполнения. Rick рассказал, как выбрать подходящий формат экспорта с учетом устройства, движка инференса и требований приложения к производительности.

Квантование моделей для ускорения инференса на устройстве#

Квантование снижает числовую точность модели, например с FP32 до FP16 или INT8, уменьшая размер модели и ускоряя инференс, часто с минимальной потерей точности. На сессии рассказали, как найти баланс между скоростью и точностью при жёстких ограничениях на вычислительные ресурсы, память и энергопотребление.

Производительность компьютерного зрения в реальном времени на периферийных устройствах#

Производительность компьютерного зрения в реальном времени на периферийных устройствах зависит не только от модели. На задержку и пропускную способность влияют предобработка, выбор среды выполнения и аппаратное ускорение. Rick рассказал, как выявлять узкие места и оптимизировать весь конвейер инференса.

Уроки внедрения периферийного ИИ в рабочей среде#

Бенчмарки — это отправная точка, но по-настоящему важно, как модель работает на устройстве, на котором ее будут использовать, в реальных условиях эксплуатации. Один из главных уроков сессии — проверять модель на целевом оборудовании; эту мысль неоднократно подчеркивали на Arm Create.

Дискуссия о моделях с Arm, Alibaba Qwen, Tencent и ModelBest#

Rick также принял участие в дискуссии о моделях вместе с представителями Arm, Alibaba Qwen, Tencent и ModelBest. Вместо прямого сравнения моделей участники сосредоточились на том, насколько модель подходит для конкретного применения: какие требования предъявляет рабочая нагрузка, где ее следует запускать и как она ведет себя после развертывания.

Рис. 2. Дискуссия о моделях с участием Arm, Alibaba Qwen, Tencent, ModelBest и Ultralytics на Arm Create.

Как выбрать подходящую модель для конкретной задачи#

Функция быстрого ответа в мобильном приложении, облачный агент, анализирующий большие массивы документов, и конвейер компьютерного зрения на периферийном устройстве требуют совершенно разных моделей. Как представитель Vision AI на панели, Rick поделился опытом работы с периферийными устройствами, где задержка, эффективность и надежность непосредственно на устройстве зачастую важнее размера модели.

Arm AI Portal: Ultralytics YOLO становится доступнее на Arm#

Arm Create в Шэньчжэне прошло всего через несколько дней после запуска компанией Arm Arm AI Portal — платформы, которая помогает разработчикам и ИИ-агентам находить, оптимизировать и развертывать программное обеспечение для ИИ на вычислительной платформе Arm. Разработчики могут находить предварительно оптимизированные модели для конкретных задач с данными о производительности и точности, сравнивать задержку, объем памяти и размер модели, а также пользоваться примерами кода и процессами развертывания.

Предварительно оптимизированные модели Ultralytics YOLO на старте#

Ultralytics YOLO вошла в число предварительно оптимизированных моделей, доступных на старте, наряду с Alibaba Qwen и Google Gemma. Ultralytics поддерживает портал в качестве партнера экосистемы.

Повышение производительности Ultralytics YOLO26n на Arm#

Первые результаты обнадёживают. Ultralytics YOLO26n обеспечила прирост производительности более чем на 40% при выполнении в один поток в двух конфигурациях:

• FP16 и FP32 на смартфоне vivo X300 с SME2
• Смешанное квантование FP16 и INT8 по сравнению с FP32 на Raspberry Pi 5 с NEON

Что это значит для разработчиков периферийного ИИ#

Arm AI Portal сокращает время, которое разработчики тратят на поиск, сравнение производительности и ручную настройку моделей, ускоряя путь от выбора модели до развертывания на оборудовании Arm. Это помогает нам выполнять нашу миссию — делать передовые технологии компьютерного зрения на основе ИИ простыми и доступными для всех. Изучи Ultralytics YOLO на Arm AI Portal.

Главные выводы#

Спасибо команде Arm за приглашение, а также всем, кто заходил поговорить о развертывании на периферии, квантизации и практическом применении компьютерного зрения на основе ИИ. Общение в Шэньчжэне показало, как быстро развивается экосистема периферийного ИИ, когда модели, инструменты и оборудование проектируют для совместной работы.

Следующая конференция Arm Create пройдет в США, и мы с нетерпением ждем продолжения общения. А пока загляни в документацию Ultralytics, чтобы начать развертывать Ultralytics YOLO на собственных периферийных устройствах.