Настраивайтесь на YOLO Vision 2025!
25 сентября 2025 г.
10:00 — 18:00 BST
Гибридное мероприятие
Yolo Vision 2024

Показ и рассказ: развертывание Ultralytics YOLOv8 на встраиваемых устройствах

Nuvola Ladi

4 мин чтения

24 января 2024 г.

Узнайте о сложностях развертывания YOLOv8 на встроенных устройствах на конференции YOLO VISION 2023. Лакшанта Диссанаяке (Lakshantha Dissanayake) рассматривает проблемы, магию TensorRT и достижения платформы MCU. Откройте для себя будущее периферийного AI в кратком, содержательном обзоре.

Показ и рассказ: развертывание YOLOv8 на встраиваемых устройствах

На конференции YOLO VISION 2023 (YV23) Лакшанта Диссанаяке обрисовал тонкости развертывания моделей Ultralytics YOLOv8 на встроенных устройствах, в частности на платформах NVIDIA Jetson и MCU. Давайте углубимся в содержательное путешествие, которым он поделился в кампусе Google для стартапов в Мадриде.

Познакомьтесь с Лакшантхой Диссанаяке

Инженер по применению из Seeed Studio Лакшанта Диссанаяке возглавляет усилия Seed Studio в области инноваций AIoT. В своем выступлении он подчеркнул стремление Seed Studio к развитию партнерских отношений с разработчиками, независимыми поставщиками программного обеспечения (ISV) и системными интеграторами (SI), делая акцент на демократизации технологий.

Периферийная эволюция

Периферийная эволюция означает кардинальный сдвиг в вычислениях, подчеркивающий децентрализованную обработку данных. Ориентируясь на периферийные устройства, эта эволюция улучшает обработку в реальном времени, снижает задержку и расширяет возможности локальных устройств для создания эффективных и отзывчивых систем в различных отраслях.

В своей презентации Лакшанта углубился в проблемы и эволюцию периферийных устройств, признав их ключевую роль в обеспечении доступности технологий. Он коснулся нюансов оптимизации производительности периферийных вычислений, особенно для приложений видеоаналитики, подготовив почву для аудитории.

Преодоление проблем развертывания

На рынок выходит множество новых устройств GPU, но их цены довольно высоки. С другой стороны, встроенные устройства, такие как серия Jetson, предлагают ряд функций развертывания, которые облегчают конечным пользователям проведение необходимой аналитики. Если вам интересно узнать, как начать работу с устройствами Seeedstudio Jetson, вы можете посетить наш блог.

Рассматривая проблемы развертывания YOLOv8 на периферийных устройствах, Лакшанта поделился практическими решениями. От прошивки ОС (операционной системы) до настройки среды, доклад развеял сложности, сделав процесс развертывания более доступным для разработчиков.

Магия TensorRT и DeepStream

TensorRT служит первоклассным движком для инференса на встроенных устройствах. Он квантует и оптимизирует модель Ultralytics YOLOv8, повышая ее производительность специально для периферийных устройств.

Лакшанта также продемонстрировал магию TensorRT в повышении производительности инференса и эффективности многопоточных приложений с использованием DeepStream. Практические демонстрации показали мощь этих инструментов в максимизации потенциала моделей YOLO на встроенных устройствах.

Презентация платформы MCU

Еще одним интересным моментом стала живая демонстрация Лакшантхи по развертыванию моделей YOLO на платформе MCU с использованием помощника модели SenseGraph. Этот взгляд в будущее периферийного ИИ оставил аудиторию жаждущей изучить возможности.

В заключение

В эту эпоху основное внимание уделяется встроенным устройствам, где клиенты ищут экономически эффективные решения с минимальным обслуживанием. Встроенные устройства Seeed Studio оснащены функциональностью preboot, что облегчает работу разработчикам и конечным пользователям.

В целом, сессия не только осветила технические аспекты, но и продемонстрировала дух сотрудничества в рамках сообщества ИИ, что сделало ее познавательным опытом для всех участников.

Узнайте больше о развертывании YOLOv8 на встроенных устройствах здесь!

Давайте строить будущее
ИИ вместе!

Начните свой путь в будущее машинного обучения

Начать бесплатно
Ссылка скопирована в буфер обмена