24 января 2024 г.
Узнайте о тонкостях внедрения YOLOv8 на встраиваемых устройствах на выставке YOLO VISION 2023. Лакшантха Диссанаяке исследует проблемы, магию TensorRT и достижения платформы MCU. Откройте для себя будущее краевого ИИ в кратком и глубоком чтении.
.avif)
На конференции YOLO VISION 2023 (YV23) Лакшантха Диссанаяке рассказал о тонкостях развертывания Ultralytics YOLOv8 на встраиваемых устройствах, в частности на платформах NVIDIA Jetson и MCU. Давайте погрузимся в этот увлекательный опыт, которым он поделился в кампусе Google для стартапов в Мадриде.
Инженер по применению из Seeed Studio Лакшанта Диссанаяке возглавляет усилия Seed Studio в области инноваций AIoT. В своем выступлении он подчеркнул стремление Seed Studio к развитию партнерских отношений с разработчиками, независимыми поставщиками программного обеспечения (ISV) и системными интеграторами (SI), делая акцент на демократизации технологий.
Периферийная эволюция означает кардинальный сдвиг в вычислениях, подчеркивающий децентрализованную обработку данных. Ориентируясь на периферийные устройства, эта эволюция улучшает обработку в реальном времени, снижает задержку и расширяет возможности локальных устройств для создания эффективных и отзывчивых систем в различных отраслях.
В своей презентации Лакшанта углубился в проблемы и эволюцию периферийных устройств, признав их ключевую роль в обеспечении доступности технологий. Он коснулся нюансов оптимизации производительности периферийных вычислений, особенно для приложений видеоаналитики, подготовив почву для аудитории.
На рынок выходит множество новых GPU , но цены на них довольно высоки. С другой стороны, встраиваемые устройства, такие как серия Jetson, предлагают ряд функций развертывания, которые облегчают конечным пользователям проведение необходимой им аналитики. Если вам интересно узнать, как начать работу с устройствами Seeedstudio Jetson, посетите наш блог.
Рассказывая о проблемах развертывания YOLOv8 на современных устройствах, Лакшантха поделился практическими решениями. От прошивки ОС (операционной системы) до настройки окружения - в ходе беседы были раскрыты все сложности, что сделало процесс развертывания более доступным для разработчиков.
TensorRT служит высококлассным движком для выводов на встраиваемых устройствах. Он квантует и оптимизирует модель Ultralytics YOLOv8 , повышая ее производительность специально для пограничных устройств.
Далее Лакшантха продемонстрировал волшебство TensorRT в повышении производительности выводов и эффективности многопотоковых приложений с помощью DeepStream. Практические демонстрации показали возможности этих инструментов для максимального использования потенциала моделей YOLO на встраиваемых устройствах.
Еще одним ярким событием стала живая демонстрация Лакшанты по развертыванию YOLO моделей на платформе MCU с помощью помощника моделей SenseGraph. Этот взгляд в будущее краевого ИИ оставил аудиторию в предвкушении изучения возможностей.
В эту эпоху основное внимание уделяется встроенным устройствам, где клиенты ищут экономически эффективные решения с минимальным обслуживанием. Встроенные устройства Seeed Studio оснащены функциональностью preboot, что облегчает работу разработчикам и конечным пользователям.
В целом, сессия не только осветила технические аспекты, но и продемонстрировала дух сотрудничества в рамках сообщества ИИ, что сделало ее познавательным опытом для всех участников.
Подробнее о развертывании YOLOv8 на встраиваемых устройствах здесь!
