Использование Ultralytics YOLO11 для выполнения пакетных выводов

Если вы видели беспилотный автомобиль в действии, вы стали свидетелем вывода AI в реальном времени. Беспилотный автомобиль обычно использует камеры, датчики и AI для обработки окружающей обстановки и принятия почти мгновенных решений. Однако, когда быстрые ответы не требуются, вывод в реальном времени может быть ресурсоемким.

В таких случаях лучшим вариантом является пакетный вывод. Вместо непрерывной обработки данных в режиме реального времени пакетный вывод может обрабатывать большие наборы данных через запланированные интервалы. Такой подход помогает экономить ресурсы, снижать энергопотребление и сокращать затраты на инфраструктуру.

Например, в приложениях компьютерного зрения используются такие модели, как Ultralytics YOLO11 могут использоваться для задач реального времени, таких как обнаружение объектов и сегментация объектов. Однако обработка больших объемов визуальных данных в реальном времени может оказаться сложной задачей. 

‍

Благодаря пакетным выводам YOLO11 можно запускать на визуальных данных партиями, снижая нагрузку на систему и повышая эффективность без снижения производительности. Это облегчает масштабное развертывание решений Vision AI без перегрузки оборудования и увеличения затрат.

В этой статье мы рассмотрим пакетный вывод, его преимущества и то, как пакетный вывод с помощью YOLO11 может быть применен в приложениях компьютерного зрения. Давайте начнем!

Взгляд на пакетный вывод в компьютерном зрении

Пакетный вывод можно представить как решение большой задачи целиком, а не обработку ее по частям по мере поступления. Вместо постоянной обработки данных в режиме реального времени, пакетный вывод позволяет обрабатывать большие группы данных через установленные промежутки времени. Такой подход гораздо эффективнее, когда не требуются немедленные ответы, что помогает экономить вычислительные ресурсы, снизить потребление энергии и сократить расходы.

В компьютерном зрении есть определенные приложения, где низкая задержка имеет жизненно важное значение. Низкая задержка означает минимальную задержку между получением входных данных (например, изображения или видеокадра) и ответом системы. Например, при мониторинге безопасности в реальном времени даже небольшие задержки могут привести к угрозе безопасности.

Однако во многих других сценариях компьютерного зрения низкая задержка не так критична. Именно здесь проявляется пакетный вывод — когда системе не нужно реагировать мгновенно. Пакетный вывод работает путем подачи визуальных данных в модель компьютерного зрения группами или пакетами, что позволяет системе обрабатывать большие наборы данных сразу, а не непрерывно в режиме реального времени.

Понимание принципов работы пакетного вывода

Вот более подробный обзор этапов пакетного вывода:

• Сбор данных: Визуальные данные собираются в течение определенного периода времени. Это могут быть записи с камер видеонаблюдения, изображения продуктов или данные о клиентах, в зависимости от приложения.

• Подготовка пакетов: Собранные данные затем группируются в пакеты. На этом этапе данные форматируются в соответствии с требованиями модели. Например, размер изображений может быть изменен, нормализован или преобразован в соответствующий формат для обработки моделью.

• Предсказание: После подготовки данных вся партия поступает в модель (например, YOLO11), которая обрабатывает всю партию сразу. Это позволяет модели делать прогнозы для всех данных в пакете одновременно, что делает процесс более эффективным по сравнению с обработкой каждой точки данных по отдельности.

Когда использовать пакетный вывод?

Теперь, когда мы рассмотрели, что такое пакетный инференс и чем он отличается от инференса в реальном времени, давайте подробнее рассмотрим, когда его следует использовать.

Пакетный вывод идеально подходит для анализа исторических данных. Предположим, у вас есть записи с камер наблюдения станции метро за последний месяц, и вы пытаетесь определить конкретные закономерности, такие как количество людей, входящих и выходящих в разное время суток. 

Вместо обработки каждого кадра в режиме реального времени, пакетный вывод позволяет обрабатывать весь месячный объем отснятого материала пакетами, выявляя ключевые события или тенденции без необходимости немедленных результатов. Таким образом, вы можете анализировать большие объемы данных более эффективно и получать представление о долгосрочных закономерностях, не перегружая систему и не требуя постоянного мониторинга.

Пакетный вывод также является оптимальным решением, когда системные ресурсы ограничены. Запуская вывод в непиковые часы (например, ночью), вы можете сэкономить на вычислительных затратах и убедиться, что система не перегружена во время пиковой нагрузки. Это делает его эффективным и экономичным подходом для предприятий или проектов, которым необходимо обрабатывать большие наборы данных, но не требуется анализ в реальном времени.

Пакетные выводы с помощью Ultralytics YOLO11

ПакетUltralytics Python поддерживает пакетные выводы для моделей типа YOLO11. В YOLO11 вы можете легко запустить пакетный вывод, указав аргумент 'batch', который определяет, сколько изображений или видеокадров обрабатывается одновременно. 

Во время процесса пакетного инференса прогнозы генерируются для всех изображений в пакете одновременно. По умолчанию размер пакета установлен равным 1, но вы можете изменить его на любое предпочитаемое вами число. 

Например, если размер пакета установлен на 5, YOLO11 будет обрабатывать пять изображений или видеокадров за раз и генерировать предсказания для всех пяти сразу. Больший размер пакета, как правило, ускоряет процесс вывода, поскольку обработка нескольких изображений в пакете более эффективна, чем по отдельности.

Приложения компьютерного зрения, использующие пакетный вывод

Далее давайте рассмотрим несколько реальных вариантов использования компьютерного зрения для пакетного вывода.

Улучшение диагностики и исследований в здравоохранении

В медицинских исследованиях работа с большими объемами визуальных данных очень распространена. Здесь пакетный вывод может помочь ученым легче анализировать данные в таких областях, как химия, биология и генетика. Вместо анализа по одному, данные обрабатываются пакетами, экономя время и усилия.

Например, в медицинских учреждениях пакетный вывод может быть особенно полезен для анализа больших наборов медицинских изображений, таких как МРТ или КТ. Больницы могут собирать эти сканы в течение дня и обрабатывать их пакетами в ночное время. 

Этот подход позволяет больницам лучше использовать свое оборудование и персонал, снизить операционные расходы и обеспечить проверку всех сканов последовательным и единообразным образом. Это также полезно для крупных исследовательских проектов и долгосрочных исследований, где необходимо обрабатывать огромные объемы данных.

‍

Совершенствование автономных транспортных средств с использованием симуляций

Самостоятельно управляемые автомобили используют технологии искусственного интеллекта, такие как компьютерное зрение, для обработки окружающего мира. С помощью продвинутых моделей, таких как YOLO11, бортовые системы автомобиля могут распознавать другие транспортные средства, линии движения, дорожные знаки и людей на улице. В то время как на дороге критически важны выводы в реальном времени, технология автономного вождения также в значительной степени опирается на пакетные выводы в кулуарах. 

‍

После завершения поездки автомобиля собранные им данные, такие как видеозаписи с камер, показания датчиков и данные LIDAR, могут быть обработаны позже большими пакетами. Это позволяет инженерам обновлять модели ИИ автомобиля, повышать безопасность системы и улучшать ее способность справляться с различными условиями вождения.

Пакетный вывод также используется в симуляциях автономного вождения для проверки того, как самоуправляемые автомобили будут реагировать в различных ситуациях, таких как навигация по оживленным перекресткам или реагирование на непредсказуемые движения пешеходов. Этот подход экономит время, снижает затраты и позволяет избежать рисков, связанных с тестированием каждого сценария в реальной жизни.

Анализ данных розничной торговли на основе пакетного вывода

Аналогичным образом, для розничных магазинов пакетный вывод данных с помощью моделей компьютерного зрения, таких как YOLO11 , может значительно повысить эффективность работы. Например, системы камер в магазинах могут захватывать тысячи изображений в течение дня, которые затем могут обрабатываться партиями в течение ночи. 

Это позволяет магазинам анализировать происходящее в магазине, например, поведение клиентов, модели трафика и взаимодействие с продуктами, без необходимости обработки в реальном времени, что может быть затруднительно для небольших магазинов. 

Еще один интересный пример — использование пакетного вывода для создания тепловых карт, которые визуализируют области высокой и низкой активности клиентов в магазине. Анализируя эти тепловые карты, розничные продавцы могут определить, какие области привлекают наибольший поток посетителей и какие части магазина могут нуждаться в большем внимании или оптимизации размещения продуктов. Эти данные могут помочь розничным продавцам принимать более взвешенные решения относительно планировки магазина, позиционирования продуктов и даже рекламных стратегий для улучшения обслуживания клиентов и увеличения продаж.

‍

Плюсы и минусы пакетного вывода (batch inferencing)

Вот некоторые из ключевых преимуществ, которые пакетный вывод может принести различным отраслям:

• Простота интеграции: Пакетный вывод можно легко интегрировать в существующие рабочие процессы, особенно для таких отраслей, как розничная торговля, безопасность или здравоохранение, где необходимо обрабатывать большие объемы данных оптом.
  ‍
• Более простое управление данными: При работе с большими объемами данных пакетные ссылки могут упростить управление данными, поскольку они группируются в управляемые фрагменты. Это облегчает track, проверку и упорядочивание данных с течением времени.
  ‍
• Снижение нагрузки на сеть: Когда данные обрабатываются пакетами, объем данных, передаваемых в любой момент времени, может быть минимизирован, что снижает нагрузку на сетевые ресурсы в облачных системах или средах распределенных вычислений.

Несмотря на многочисленные преимущества пакетного вывода, следует учитывать и некоторые ограничения. Вот несколько факторов, о которых следует помнить:

• Требования к хранению данных: Хранение больших наборов данных для пакетной обработки может значительно увеличить затраты на хранение, особенно при использовании изображений с высоким разрешением, видео или больших объемов данных.
  ‍
• Потенциал для образования невыполненных заказов: Если данные накапливаются быстро или большие пакеты не обрабатываются вовремя, может возникнуть невыполненная работа. Это может привести к задержкам в предоставлении информации и своевременной обработке новых данных.
  ‍
• Пики ресурсов: Большие пакеты, особенно те, которые включают изображения с высоким разрешением, могут вызывать пики в использовании памяти или вычислительных ресурсов. Если эти пики не управляются должным образом, они могут перегрузить системы, что приведет к замедлению работы или сбоям.

Основные выводы

Пакетный вывод — это эффективный способ обработки больших объемов визуальных данных, которые не требуют немедленных результатов. Вместо анализа каждого изображения в режиме реального времени, он обрабатывает их пакетами в запланированное время, например, ночью. 

Этот метод является экономически эффективным, снижает вычислительную нагрузку и при этом обеспечивает точные результаты. Пакетный вывод, от помощи магазинам в управлении запасами до помощи врачам в анализе медицинских сканов и совершенствования технологий самоуправляемых автомобилей, делает компьютерное зрение более доступным, экономичным и практичным для реальных приложений.

Готовы погрузиться в мир ИИ? Изучите наш репозиторий GitHub, присоединяйтесь к нашему сообществу и ознакомьтесь с нашими вариантами лицензирования, чтобы начать свой путь в компьютерном зрении. Узнайте больше об инновациях, таких как ИИ в производстве и компьютерное зрение в логистике, на страницах наших решений.