Активное обучение ускоряет разработку компьютерного зрения

Обучение модели компьютерного зрения во многом похоже на обучение ребенка распознавать цвета. Сначала тебе понадобится набор цветных объектов. Затем ты будешь помогать ребенку правильно определять каждый цвет — задача, которая часто отнимает много времени и быстро утомляет.

Как ребенку нужно множество примеров для обучения, так и модели компьютерного зрения нужен большой набор размеченных данных, чтобы распознавать закономерности и объекты на изображениях. Однако разметка огромных объемов данных требует много времени и усилий, не говоря уже о ресурсах. Такие методы, как активное обучение, помогают упростить этот процесс.

Активное обучение — это пошаговый процесс, в ходе которого из большого набора данных выбираются и размечаются наиболее важные данные. Модель обучается на этих размеченных данных, становясь точнее и эффективнее. Фокусировка только на наиболее ценных данных сокращает объем необходимой разметки и ускоряет разработку модели.

В этой статье мы рассмотрим, как активное обучение помогает обучать модели, снижает затраты на разметку и повышает общую точность модели.

Создавать наборы изображений непросто#

Наборы данных — основа компьютерного зрения и моделей глубокого обучения. Популярные наборы данных, такие как ImageNet, содержат миллионы изображений с разнообразными категориями объектов. Однако создание и поддержка таких огромных объемов высококачественных наборов данных сопряжены с рядом сложностей.

Например, сбор и разметка данных требуют времени, ресурсов и квалифицированных аннотаторов, поэтому сложность процесса зависит от конкретного применения. Чтобы удовлетворить растущий спрос на наборы изображений, нужны инновационные и более эффективные решения — именно эту задачу призвано решить активное обучение.

Активное обучение предлагает эффективное решение, оптимизируя процесс разметки данных. Стратегически выбирая наиболее информативные точки данных для аннотации, активное обучение повышает производительность модели и одновременно сокращает объем работы по разметке.

Что такое активное обучение?#

Активное обучение — это итеративный метод машинного обучения, при котором модель выбирает наиболее важные точки данных для разметки из большого массива неразмеченных данных. Выбранные точки данных размечаются вручную и добавляются в обучающий набор данных.

Затем модель дообучается на обновленном наборе данных и выбирает следующую группу точек данных для разметки. Этот процесс повторяется, а модель постоянно улучшается, сосредотачиваясь на наиболее информативных точках данных. Цикл продолжается, пока модель не достигнет требуемой точности или не выполнит заранее заданные критерии разметки.

Рис. 1. Обзор активного обучения.

Как работает активное обучение#

Возможно, ты задаешься вопросом, как метод активного обучения решает, какие точки данных нужно разметить вручную и какие размечать следующими. Давай разберемся, как работает активное обучение, сравнив его с подготовкой к экзамену: ты сосредотачиваешься на темах, в которых не уверен, и при этом обязательно охватываешь разные предметы, чтобы хорошо подготовиться.

На начальных этапах отбора данных активное обучение использует такие стратегии, как выборка по неопределенности и выборка на основе разнообразия. Выборка по неопределенности отдает приоритет точкам данных, для которых модель наименее уверена в своих предсказаниях, чтобы повысить точность на сложных случаях. Выборка на основе разнообразия выбирает точки данных, охватывающие широкий спектр характеристик, благодаря чему модель лучше обобщает данные, которых еще не видела, и получает разнообразные примеры.

Рис. 2. Выборка по неопределенности (слева) и выборка на основе разнообразия (справа).

После первоначального отбора данных активное обучение использует два основных подхода к разметке: выборку на основе пула и выборку на основе потока. Они похожи на то, как учитель помогает ученику сосредоточиться на самом важном.

При выборке на основе пула модель просматривает большой массив неразмеченных данных и выбирает для разметки самые сложные или информативные примеры — примерно как ученик в первую очередь занимается карточками, которые кажутся ему наиболее трудными. При выборке на основе потока модель обрабатывает данные по мере их поступления и решает, размечать их или пропустить, подобно ученику, который просит о помощи только тогда, когда застрял. В обоих случаях размеченные данные добавляются в обучающий набор, а модель переобучается, постепенно улучшаясь с каждой итерацией.

Изучаем применения активного обучения#

Активное обучение играет важную роль в применениях компьютерного зрения, таких как медицинская визуализация и автономное вождение, повышая точность моделей и упрощая процесс разметки данных. Интересный пример — модели компьютерного зрения, используемые в беспилотных автомобилях для обнаружения пешеходов или объектов в условиях плохой освещенности или тумана. Активное обучение может повысить точность, сосредоточившись на разнообразных и сложных сценариях вождения.

В частности, активное обучение можно использовать для выявления неуверенных данных или кадров из таких сценариев и их выборочной разметки. Добавление этих размеченных примеров в обучающий набор помогает модели лучше распознавать пешеходов и объекты в сложных условиях, например во время неблагоприятной погоды или ночного вождения.

Например, NVIDIA использовала активное обучение, чтобы улучшить обнаружение пешеходов ночью в своих моделях для беспилотных автомобилей. Благодаря стратегическому выбору наиболее информативных данных для обучения, особенно в сложных сценариях, производительность модели значительно повышается.

Рис. 3. Обнаружение пешехода с зонтом с помощью активного обучения.

Активное обучение может снизить затраты на разметку#

Еще один важный аспект активного обучения — его способность снижать затраты на разметку. Это достигается за счет фокусировки только на наиболее важных точках данных вместо необходимости аннотировать весь набор данных. Такой целевой подход экономит время, силы и деньги. Сосредотачиваясь на неопределенных или разнообразных образцах, активное обучение сокращает количество необходимых аннотаций, сохраняя при этом высокую точность модели.

Исследования показывают, что активное обучение может снизить затраты на разметку на 40–60 % без потери производительности. Это особенно полезно в таких отраслях, как здравоохранение и производство, где разметка данных обходится дорого. Упрощая процесс аннотации, активное обучение помогает компаниям быстрее разрабатывать модели и эффективнее внедрять их, сохраняя точность.

Преимущества активного обучения#

Вот некоторые другие ключевые преимущества активного обучения:

• Устранение дисбаланса классов: активное обучение помогает решать проблемы дисбаланса классов, размечая экземпляры из малочисленных классов данных. Модель может лучше работать с редкими сценариями при ограниченном объеме данных.
• Ускорение циклов разработки: разметка меньшего объема данных косвенно ускоряет процесс разработки моделей машинного обучения и компьютерного зрения, оставляя больше времени и ресурсов для дополнительных итераций и экспериментов.
• Адаптивность: этот подход позволяет постоянно улучшать обучающие данные, выполняя итерации на неопределенных образцах или образцах пограничных случаев, поэтому он хорошо подходит для динамичных или меняющихся наборов данных.

Активное обучение и AutoML могут работать вместе#

Автоматизированное машинное обучение (AutoML) сосредоточено на автоматизации трудоемких и итеративных задач, связанных с созданием и развертыванием моделей машинного обучения. Оно упрощает рабочие процессы машинного обучения, автоматизируя такие задачи, как выбор модели и оценка производительности, что снижает потребность в ручной работе.

При интеграции с активным обучением AutoML может ускорить и оптимизировать жизненный цикл разработки модели. Компонент активного обучения стратегически выбирает наиболее информативные точки данных для разметки, а AutoML совершенствует модель, автоматизируя выбор архитектуры, параметров и их настройку.

Рис. 4. Рабочий процесс AutoML.

Давай разберем это сочетание технологий на примере.

Представим, что ты пытаешься обнаружить редкие состояния на медицинских изображениях (сценарий, в котором размеченные наборы данных ограничены и дороги в получении). Активное обучение может выявлять и выбирать неопределенные данные, например малозаметные изменения на рентгеновских снимках, которые модель не может классифицировать. Затем неопределенные данные можно приоритизировать для ручной аннотации, чтобы улучшить понимание моделью.

Используя аннотированные данные, AutoML может оптимизировать модель, исследуя различные архитектуры, гиперпараметры и другие методы аугментации данных. Итеративный процесс ускоряет разработку надежных моделей компьютерного зрения, таких как Ultralytics YOLO11, которые помогают медицинским специалистам ставить точные диагнозы.

Проблемы активного обучения#

Активное обучение и его методы дают множество преимуществ, но при реализации этих стратегий нужно учитывать несколько моментов:

• Выбор стратегии запросов: активное обучение включает множество методов, и выбор оптимального существенно влияет на эффективность модели. Неподходящая стратегия может снизить производительность модели в конкретном применении.
• Затраты на переобучение: итеративный характер активного обучения требует значительных вычислительных ресурсов, особенно при работе с большими наборами данных. Модель переобучается после каждого раунда разметки, что повышает сложность процесса.
• Качество исходной модели: эффективность активного обучения зависит от качества исходной модели. Плохо работающая исходная модель может неточно выявлять информативные точки данных, что приводит к некачественным запросам на разметку и снижению общей производительности.

Будущее активного обучения и AutoML#

Благодаря последним достижениям в области AI и компьютерного зрения активное обучение готово решать более сложные задачи и оптимизировать рабочие процессы машинного обучения. Сочетание активного обучения с такими методами, как федеративное и самоконтролируемое обучение, может еще больше повысить эффективность и масштабируемость моделей компьютерного зрения.

Федеративное обучение позволяет обучать модель на нескольких устройствах или серверах в распределенной среде, не требуя перемещения данных из исходного местоположения. В таких отраслях, как здравоохранение, где важна конфиденциальность данных, федеративное обучение позволяет напрямую обучаться на чувствительных локальных данных, сохраняя их безопасность. Вместо передачи исходных данных передаются только обновления модели или полученные сведения, благодаря чему личная информация остается защищенной и при этом участвует в процессе обучения.

Тем временем самоконтролируемое обучение помогает снизить потребность в размеченных данных, предварительно обучая модели на неразмеченных данных. Этот процесс создает прочную основу для модели. Затем активное обучение может развить этот результат, выявляя и выбирая наиболее важные точки данных для аннотации человеком и дополнительно совершенствуя модель.

От активного обучения к активному влиянию#

Активное обучение дает практический способ решать серьезные проблемы компьютерного зрения, такие как высокая стоимость аннотации данных и необходимость в более точных моделях. Сосредотачиваясь на разметке только наиболее ценных точек данных, оно сокращает объем работы людей и одновременно повышает производительность модели.

В сочетании с такими технологиями, как AutoML, активное обучение упрощает разработку моделей, автоматизируя трудоемкие задачи. По мере дальнейшего развития активное обучение станет важнейшим инструментом для создания более интеллектуальных и эффективных систем компьютерного зрения.

Изучи наш репозиторий на GitHub и присоединяйся к нашему сообществу, чтобы узнать больше об AI и моделях компьютерного зрения. На страницах решений ты найдешь больше информации о применении компьютерного зрения в производстве и здравоохранении. Также ознакомься с нашими вариантами лицензирования, чтобы уже сегодня начать свой путь в области AI для компьютерного зрения.