15 мая 2025 г.
Изучите разницу между инференсом в реальном времени и пакетным инференсом при использовании Ultralytics YOLO11 для различных приложений компьютерного зрения.
Если вы видели беспилотный автомобиль в действии, вы стали свидетелем вывода AI в реальном времени. Беспилотный автомобиль обычно использует камеры, датчики и AI для обработки окружающей обстановки и принятия почти мгновенных решений. Однако, когда быстрые ответы не требуются, вывод в реальном времени может быть ресурсоемким.
В таких случаях лучшим вариантом является пакетный вывод. Вместо непрерывной обработки данных в режиме реального времени пакетный вывод может обрабатывать большие наборы данных через запланированные интервалы. Такой подход помогает экономить ресурсы, снижать энергопотребление и сокращать затраты на инфраструктуру.
Например, в приложениях компьютерного зрения такие модели, как Ultralytics YOLO11, можно использовать для задач, выполняемых в режиме реального времени, таких как обнаружение объектов и сегментация экземпляров. Однако обработка больших объемов визуальных данных в режиме реального времени может быть требовательной.
Благодаря пакетному выводу YOLO11 можно запускать на визуальных данных пакетами, снижая нагрузку на систему и повышая эффективность без ущерба для производительности. Это упрощает развертывание решений Vision AI в масштабе без перегрузки оборудования и увеличения затрат.
В этой статье мы рассмотрим пакетный вывод, его преимущества и то, как пакетный вывод с использованием YOLO11 может применяться в приложениях компьютерного зрения. Давайте начнем!
Пакетный вывод можно представить как решение большой задачи целиком, а не обработку ее по частям по мере поступления. Вместо постоянной обработки данных в режиме реального времени, пакетный вывод позволяет обрабатывать большие группы данных через установленные промежутки времени. Такой подход гораздо эффективнее, когда не требуются немедленные ответы, что помогает экономить вычислительные ресурсы, снизить потребление энергии и сократить расходы.
В компьютерном зрении есть определенные приложения, где низкая задержка имеет жизненно важное значение. Низкая задержка означает минимальную задержку между получением входных данных (например, изображения или видеокадра) и ответом системы. Например, при мониторинге безопасности в реальном времени даже небольшие задержки могут привести к угрозе безопасности.
Однако во многих других сценариях компьютерного зрения низкая задержка не так критична. Именно здесь проявляется пакетный вывод — когда системе не нужно реагировать мгновенно. Пакетный вывод работает путем подачи визуальных данных в модель компьютерного зрения группами или пакетами, что позволяет системе обрабатывать большие наборы данных сразу, а не непрерывно в режиме реального времени.
Вот более подробный обзор этапов пакетного вывода:
Теперь, когда мы рассмотрели, что такое пакетный инференс и чем он отличается от инференса в реальном времени, давайте подробнее рассмотрим, когда его следует использовать.
Пакетный вывод идеально подходит для анализа исторических данных. Предположим, у вас есть записи с камер наблюдения станции метро за последний месяц, и вы пытаетесь определить конкретные закономерности, такие как количество людей, входящих и выходящих в разное время суток.
Вместо обработки каждого кадра в режиме реального времени, пакетный вывод позволяет обрабатывать весь месячный объем отснятого материала пакетами, выявляя ключевые события или тенденции без необходимости немедленных результатов. Таким образом, вы можете анализировать большие объемы данных более эффективно и получать представление о долгосрочных закономерностях, не перегружая систему и не требуя постоянного мониторинга.
Пакетный вывод также является оптимальным решением, когда системные ресурсы ограничены. Запуская вывод в непиковые часы (например, ночью), вы можете сэкономить на вычислительных затратах и убедиться, что система не перегружена во время пиковой нагрузки. Это делает его эффективным и экономичным подходом для предприятий или проектов, которым необходимо обрабатывать большие наборы данных, но не требуется анализ в реальном времени.
Пакет Ultralytics Python поддерживает пакетный вывод для таких моделей, как YOLO11. С помощью YOLO11 вы можете легко выполнить пакетный вывод, указав аргумент «batch», который определяет, сколько изображений или видеокадров обрабатывается одновременно.
Во время процесса пакетного инференса прогнозы генерируются для всех изображений в пакете одновременно. По умолчанию размер пакета установлен равным 1, но вы можете изменить его на любое предпочитаемое вами число.
Например, если размер пакета установлен на 5, YOLO11 будет обрабатывать пять изображений или видеокадров одновременно и генерировать прогнозы для всех пяти сразу. Большие размеры пакетов обычно приводят к более быстрому времени вывода, поскольку обработка нескольких изображений в пакете более эффективна, чем обработка их по отдельности.
Далее давайте рассмотрим несколько реальных вариантов использования компьютерного зрения для пакетного вывода.
В медицинских исследованиях работа с большими объемами визуальных данных очень распространена. Здесь пакетный вывод может помочь ученым легче анализировать данные в таких областях, как химия, биология и генетика. Вместо анализа по одному, данные обрабатываются пакетами, экономя время и усилия.
Например, в медицинских учреждениях пакетный вывод может быть особенно полезен для анализа больших наборов медицинских изображений, таких как МРТ или КТ. Больницы могут собирать эти сканы в течение дня и обрабатывать их пакетами в ночное время.
Этот подход позволяет больницам лучше использовать свое оборудование и персонал, снизить операционные расходы и обеспечить проверку всех сканов последовательным и единообразным образом. Это также полезно для крупных исследовательских проектов и долгосрочных исследований, где необходимо обрабатывать огромные объемы данных.
Автомобили с автопилотом используют AI технологии, такие как компьютерное зрение, для обработки информации об окружающем мире. С помощью передовых моделей, таких как YOLO11, бортовые системы автомобиля могут распознавать другие транспортные средства, дорожную разметку, дорожные знаки и людей на улице. В то время как вывод в реальном времени имеет решающее значение в дороге, технология автономного вождения также в значительной степени полагается на пакетный вывод за кадром.
После завершения поездки автомобиля собранные им данные, такие как видеозаписи с камер, показания датчиков и данные LIDAR, могут быть обработаны позже большими пакетами. Это позволяет инженерам обновлять модели ИИ автомобиля, повышать безопасность системы и улучшать ее способность справляться с различными условиями вождения.
Пакетный вывод также используется в симуляциях автономного вождения для проверки того, как самоуправляемые автомобили будут реагировать в различных ситуациях, таких как навигация по оживленным перекресткам или реагирование на непредсказуемые движения пешеходов. Этот подход экономит время, снижает затраты и позволяет избежать рисков, связанных с тестированием каждого сценария в реальной жизни.
Аналогично, для розничных магазинов пакетный вывод с использованием моделей компьютерного зрения, таких как YOLO11, может значительно повысить операционную эффективность. Например, системы камер в магазинах могут снимать тысячи изображений в течение дня, которые затем можно обрабатывать пакетами в ночное время.
Это позволяет магазинам анализировать происходящее в магазине, например, поведение клиентов, модели трафика и взаимодействие с продуктами, без необходимости обработки в реальном времени, что может быть затруднительно для небольших магазинов.
Еще один интересный пример — использование пакетного вывода для создания тепловых карт, которые визуализируют области высокой и низкой активности клиентов в магазине. Анализируя эти тепловые карты, розничные продавцы могут определить, какие области привлекают наибольший поток посетителей и какие части магазина могут нуждаться в большем внимании или оптимизации размещения продуктов. Эти данные могут помочь розничным продавцам принимать более взвешенные решения относительно планировки магазина, позиционирования продуктов и даже рекламных стратегий для улучшения обслуживания клиентов и увеличения продаж.
Вот некоторые из ключевых преимуществ, которые пакетный вывод может принести различным отраслям:
Несмотря на многочисленные преимущества пакетного вывода, следует учитывать и некоторые ограничения. Вот несколько факторов, о которых следует помнить:
Пакетный вывод — это эффективный способ обработки больших объемов визуальных данных, которые не требуют немедленных результатов. Вместо анализа каждого изображения в режиме реального времени, он обрабатывает их пакетами в запланированное время, например, ночью.
Этот метод является экономически эффективным, снижает вычислительную нагрузку и при этом обеспечивает точные результаты. Пакетный вывод, от помощи магазинам в управлении запасами до помощи врачам в анализе медицинских сканов и совершенствования технологий самоуправляемых автомобилей, делает компьютерное зрение более доступным, экономичным и практичным для реальных приложений.
Готовы погрузиться в мир ИИ? Изучите наш репозиторий GitHub, присоединяйтесь к нашему сообществу и ознакомьтесь с нашими вариантами лицензирования, чтобы начать свой путь в компьютерном зрении. Узнайте больше об инновациях, таких как ИИ в производстве и компьютерное зрение в логистике, на страницах наших решений.
.webp)