Пакетный инференс с помощью Ultralytics YOLO11

Если ты видел беспилотный автомобиль в действии, значит, ты наблюдал вывод ИИ в реальном времени. Беспилотный автомобиль обычно использует камеры, датчики и ИИ, чтобы анализировать окружающую обстановку и почти мгновенно принимать решения. Однако, когда быстрые ответы не нужны, вывод в реальном времени может требовать значительных ресурсов.

В таких случаях лучше использовать пакетный инференс. Вместо непрерывной обработки данных в реальном времени он обрабатывает большие наборы данных через запланированные интервалы. Такой подход помогает экономить ресурсы, снижать энергопотребление и сокращать расходы на инфраструктуру.

Например, в задачах компьютерного зрения модели вроде Ultralytics YOLO11 можно использовать для задач реального времени, таких как обнаружение объектов и сегментация экземпляров. Однако обработка больших объёмов визуальных данных в реальном времени может требовать значительных ресурсов.

Рис. 1. Пример сегментации объектов на изображении с помощью Ultralytics YOLO11.

Пакетный инференс позволяет запускать Ultralytics YOLO11 на визуальных данных пакетами, снижая нагрузку на систему и повышая эффективность без потери производительности. Благодаря этому решения Vision AI проще масштабно внедрять, не перегружая оборудование и не увеличивая затраты.

В этой статье мы рассмотрим пакетный инференс, его преимущества и применение пакетного инференса с Ultralytics YOLO11 в задачах компьютерного зрения.

Пакетный инференс в компьютерном зрении#

Пакетный инференс можно сравнить с выполнением большой задачи целиком, а не по частям по мере поступления данных. Вместо постоянной обработки данных в реальном времени он позволяет обрабатывать большие группы данных через заданные интервалы. Такой подход намного эффективнее, когда немедленный ответ не требуется: он помогает экономить вычислительные ресурсы и энергию, а также сокращать расходы.

В компьютерном зрении есть задачи, для которых критически важна низкая задержка. Низкая задержка — это минимальное время между получением входных данных, например изображения или видеокадра, и ответом системы. Например, при наблюдении за безопасностью в реальном времени даже небольшая задержка может создать угрозу безопасности.

Однако во многих других сценариях компьютерного зрения низкая задержка не так важна. Именно здесь пакетный инференс особенно полезен — когда системе не нужно реагировать мгновенно. При пакетном инференсе визуальные данные передаются модели компьютерного зрения группами или пакетами, что позволяет системе обрабатывать большие наборы данных за один раз, а не непрерывно в реальном времени.

Как работает пакетный инференс#

Рассмотрим подробнее этапы пакетного инференса:

• Сбор данных: Визуальные данные собираются в течение определённого периода. В зависимости от задачи это могут быть записи с камер наблюдения, изображения товаров или данные о клиентах.
• Подготовка пакетов: Собранные данные группируются в пакеты. На этом этапе данные приводятся к формату, требуемому моделью. Например, изображения можно изменить по размеру, нормализовать или преобразовать в подходящий для обработки моделью формат.
• Предсказание: после подготовки данных весь пакет передаётся модели, например Ultralytics YOLO11, которая обрабатывает его целиком. Модель одновременно делает предсказания для всех данных в пакете, что эффективнее, чем обработка каждой точки данных по отдельности.

Когда использовать пакетный инференс?#

Теперь, когда мы разобрали, что такое пакетный инференс и чем он отличается от инференса в реальном времени, рассмотрим, когда его стоит использовать.

Пакетный инференс идеально подходит для анализа исторических данных. Допустим, у тебя есть записи с камер станции метро за последний месяц, и ты хочешь выявить закономерности, например определить, сколько людей входило и выходило в разное время суток.

Вместо обработки каждого кадра в реальном времени пакетный инференс позволяет обработать записи за весь месяц пакетами и выявить важные события или тенденции без необходимости получать результаты немедленно. Так ты сможешь эффективнее анализировать большие объёмы данных и находить долгосрочные закономерности, не перегружая систему и не требуя постоянного наблюдения.

Пакетный инференс также оптимален при ограниченных системных ресурсах. Запуская инференс в часы низкой нагрузки, например ночью, ты можешь сократить вычислительные затраты и не перегружать систему в периоды пиковой нагрузки. Это эффективный и экономичный подход для компаний и проектов, которым нужно обрабатывать большие наборы данных без анализа в реальном времени.

Пакетный инференс с Ultralytics YOLO11#

Пакет Ultralytics для Python поддерживает пакетный инференс для таких моделей, как YOLO11. С YOLO11 можно легко запускать пакетный инференс, задав аргумент инференса batch, который определяет, сколько изображений или видеокадров обрабатывается за один раз.

Во время пакетного инференса предсказания одновременно создаются для всех изображений в пакете. По умолчанию размер пакета равен 1, но его можно изменить на любое нужное значение. Пакетная обработка применяется, когда в качестве источника указана директория, видеофайл или файл .txt со списком источников.

Например, если размер пакета равен 5, Ultralytics YOLO11 будет обрабатывать за раз пять изображений или видеокадров и одновременно выдавать предсказания для всех пяти. Обычно больший размер пакета повышает пропускную способность и сокращает общее время обработки, поскольку обрабатывать несколько изображений пакетом эффективнее, чем по отдельности.

Применение компьютерного зрения с пакетным инференсом#

Рассмотрим несколько примеров применения пакетного инференса в компьютерном зрении.

Совершенствование диагностики и исследований в здравоохранении#

В медицинских исследованиях часто приходится работать с большими объёмами визуальных данных. Здесь пакетный инференс помогает учёным проще анализировать данные в таких областях, как химия, биология и генетика. Вместо поочерёдного анализа объекты обрабатываются пакетами, что экономит время и силы.

Например, в медицинских учреждениях пакетный инференс особенно полезен для анализа больших массивов медицинских изображений, таких как снимки МРТ или КТ. Больницы могут собирать снимки в течение дня и обрабатывать их пакетами ночью.

Такой подход позволяет больницам эффективнее использовать оборудование и персонал, снижать эксплуатационные расходы и обеспечивать единообразную проверку всех снимков. Он также полезен для крупных исследовательских проектов и долгосрочных исследований, требующих обработки огромных объёмов данных.

Рис. 2. Обнаружение патологического очага на медицинском снимке с помощью Ultralytics YOLO11.

Совершенствование беспилотных автомобилей с помощью симуляций#

Беспилотные автомобили используют технологии ИИ, например компьютерное зрение, чтобы анализировать окружающий мир. Благодаря продвинутым моделям, таким как Ultralytics YOLO11, бортовые системы автомобиля распознают другие машины, дорожную разметку, знаки и пешеходов. Хотя на дороге критически важен инференс в реальном времени, технологии беспилотного вождения также активно используют пакетный инференс в фоновых процессах.

Рис. 3. YOLO11 легко обнаруживает пешеходов на дороге.

После поездки автомобиля собранные им данные — например, часы видеозаписей с камер, показания датчиков и сканы LiDAR — можно обработать позднее большими пакетами. Это позволяет инженерам обновлять модели ИИ автомобиля, повышать безопасность системы и улучшать её способность справляться с различными дорожными условиями.

Пакетный инференс также применяется в симуляциях автономного вождения, чтобы проверить реакцию беспилотных автомобилей в разных ситуациях, например при проезде загруженных перекрёстков или внезапных перемещениях пешеходов. Такой подход экономит время и деньги, а также позволяет избежать рисков, связанных с проверкой каждого сценария в реальных условиях.

Анализ данных в розничной торговле с помощью пакетного инференса#

Пакетный инференс с моделями компьютерного зрения, такими как Ultralytics YOLO11, может значительно повысить эффективность работы магазинов. Например, системы камер в магазинах могут ежедневно собирать тысячи изображений, а затем обрабатывать их пакетами ночью.

Это позволяет магазинам анализировать происходящее — например, поведение покупателей, потоки посетителей и взаимодействие с товарами — без обработки в реальном времени, которая может быть затруднительной для небольших магазинов.

Ещё один интересный пример — создание тепловых карт с помощью пакетного инференса, чтобы визуализировать зоны высокой и низкой активности покупателей в магазине. Анализируя эти тепловые карты, ритейлеры могут определить, какие зоны привлекают больше всего посетителей и каким частям магазина нужно уделить больше внимания или оптимизировать размещение товаров. Эти данные помогают принимать более взвешенные решения о планировке магазина, размещении товаров и даже рекламных стратегиях, чтобы улучшить впечатления покупателей и увеличить продажи.

Рис. 4. Тепловые карты помогают ритейлерам выявлять популярные зоны в магазинах.

Преимущества и недостатки пакетного инференса#

Вот некоторые ключевые преимущества пакетного инференса для различных отраслей:

• Простота интеграции: Пакетный инференс легко интегрировать в существующие рабочие процессы, особенно в таких отраслях, как розничная торговля, безопасность и здравоохранение, где требуется массово обрабатывать большие объёмы данных.
• Упрощённое управление данными: При работе с большими объёмами данных пакетный инференс упрощает управление ими, поскольку данные группируются в удобные для обработки части. Так данные проще отслеживать, проверять и упорядочивать с течением времени.
• Снижение нагрузки на сеть: при пакетной обработке можно сократить объём данных, передаваемых в каждый момент времени, и тем самым уменьшить нагрузку на сетевые ресурсы в облачных системах или распределённых вычислительных средах.

У пакетного инференса много преимуществ, но есть и ограничения, которые стоит учитывать. Вот несколько важных факторов:

• Требования к хранилищу: Хранение больших наборов данных для пакетной обработки может значительно увеличить расходы на хранилище, особенно при работе с изображениями высокого разрешения, видео или огромными объёмами данных.
• Риск накопления необработанных данных: если данные быстро накапливаются или крупные пакеты не обрабатываются вовремя, может образоваться очередь. Это способно задержать получение аналитических результатов и своевременную обработку новых данных.
• Пиковая нагрузка на ресурсы: крупные пакеты, особенно содержащие изображения высокого разрешения, могут вызывать резкий рост потребления памяти и вычислительных ресурсов. Если не управлять такой нагрузкой должным образом, система может оказаться перегружена, что приведёт к замедлению работы или сбоям.

Главные выводы#

Пакетный инференс — эффективный способ обработки больших объёмов визуальных данных, для которых не нужны мгновенные результаты. Вместо анализа каждого изображения в реальном времени данные обрабатываются пакетами по расписанию, например ночью.

Этот метод экономичен, снижает вычислительную нагрузку и при этом обеспечивает точные результаты. Пакетный инференс помогает магазинам управлять запасами, врачам — анализировать медицинские снимки, а разработчикам — совершенствовать технологии беспилотных автомобилей. Он делает компьютерное зрение более доступным, экономичным и практичным для решения реальных задач.

Хочешь узнать больше об ИИ? Изучи наш репозиторий GitHub, присоединяйся к нашему сообществу и ознакомься с вариантами лицензирования, чтобы начать свой путь в компьютерном зрении. Узнай больше о таких инновациях, как ИИ в производстве и компьютерное зрение в логистике, на страницах наших решений.