Активное обучение ускоряет разработку систем компьютерного зрения

Обучение модели компьютерного зрения во многом похоже на обучение ребенка распознавать цвета. Сначала тебе понадобится набор разноцветных предметов. Затем нужно будет научить ребенка правильно определять каждый цвет — эта задача часто отнимает много времени и требует повторения.

Как ребенку для обучения нужны многочисленные примеры, так и модели компьютерного зрения нужен большой набор размеченных данных, чтобы распознавать закономерности и объекты на изображениях. Однако разметка огромных объемов данных требует немало времени, усилий и ресурсов. Упростить этот процесс помогают такие методы, как активное обучение.

Активное обучение — это пошаговый процесс, в ходе которого из большого набора данных отбирают и размечают наиболее важные данные. Модель обучается на этих размеченных данных, повышая точность и эффективность. Если сосредоточиться только на самых ценных данных, объем необходимой разметки сократится, а разработка модели ускорится.

В этой статье мы рассмотрим, как активное обучение помогает обучать модели, сокращает расходы на разметку и повышает общую точность модели.

Создавать наборы изображений непросто#

Наборы данных — основа компьютерного зрения и моделей глубокого обучения. Популярные наборы данных, например ImageNet, содержат миллионы изображений с самыми разными категориями объектов. Однако создание и поддержка таких крупных высококачественных наборов данных сопряжены с различными трудностями.

Например, сбор и разметка данных требуют времени, ресурсов и участия квалифицированных аннотаторов, а сложность процесса зависит от конкретной задачи. Чтобы удовлетворить растущий спрос на наборы изображений, нужны новые и более эффективные решения. Именно эту задачу призвано решить активное обучение.

Активное обучение решает эту задачу, оптимизируя процесс разметки данных. Стратегически выбирая наиболее информативные данные для аннотирования, активное обучение повышает производительность модели и одновременно сокращает объем работы по разметке.

Что такое активное обучение?#

Активное обучение — это итеративный метод машинного обучения, при котором модель выбирает наиболее важные данные для разметки из большого набора неразмеченных данных. Выбранные данные размечают вручную и добавляют в обучающую выборку.

Затем модель переобучают на обновленном наборе данных, после чего она выбирает следующую порцию данных для разметки. Этот процесс повторяется: модель постоянно улучшается, сосредоточиваясь на наиболее информативных данных. Цикл продолжается, пока модель не достигнет нужной точности или не выполнит заранее установленные критерии разметки.

Рис. 1. Обзор активного обучения.

Как работает активное обучение#

Возможно, тебе интересно, как активное обучение определяет, какие данные нужно разметить вручную и какие данные размечать следующими. Разберемся, как работает активное обучение, на примере подготовки к экзамену: ты сосредотачиваешься на темах, в которых не уверен, и при этом повторяешь разные предметы, чтобы быть готовым ко всему.

Для первоначального отбора данных активное обучение использует такие стратегии, как выборка по неопределенности и выборка на основе разнообразия. При выборке по неопределенности в приоритет попадают данные, для которых модель наименее уверена в своих прогнозах: это помогает повысить точность в сложных случаях. Выборка на основе разнообразия отбирает данные с широким набором характеристик, благодаря чему модель хорошо обобщает знания для ранее не встречавшихся данных, поскольку обучается на разнообразных примерах.

Рис. 2. Выборка по неопределенности (слева) и выборка на основе разнообразия (справа).

После первоначального отбора данных активное обучение использует два основных подхода к разметке: выборку из пула данных и потоковую выборку. Они похожи на то, как учитель помогает ученику сосредоточиться на самом важном.

При выборке на основе пула модель просматривает большой пул неразмеченных данных и выбирает самые сложные или информативные примеры для разметки — примерно как студент в первую очередь повторяет самые трудные карточки. При потоковой выборке модель обрабатывает данные по мере их поступления и решает, размечать их или пропустить, подобно студенту, который просит о помощи, только когда застрял. В обоих случаях размеченные данные добавляются в обучающую выборку, а модель переобучается, постепенно улучшаясь с каждой итерацией.

Примеры применения активного обучения#

Активное обучение играет важную роль в задачах компьютерного зрения, например в медицинской визуализации и автономном вождении: оно повышает точность модели и упрощает разметку данных. Интересный пример — модели компьютерного зрения в беспилотных автомобилях, которые обнаруживают пешеходов и объекты при слабом освещении или в тумане. Активное обучение повышает точность, уделяя внимание разнообразным и сложным сценариям вождения.

В частности, активное обучение позволяет выявлять неопределенные данные или кадры из таких сценариев и отбирать их для разметки. Добавление размеченных примеров в обучающую выборку помогает модели лучше распознавать пешеходов и объекты в сложных условиях, например в плохую погоду или ночью.

Например, NVIDIA использовала активное обучение, чтобы улучшить обнаружение пешеходов ночью в моделях для беспилотных автомобилей. Стратегический отбор наиболее информативных данных для обучения, особенно в сложных сценариях, значительно повышает качество работы модели.

Рис. 3. Обнаружение пешехода с зонтом с помощью активного обучения.

Активное обучение позволяет сократить расходы на разметку#

Еще одно важное преимущество активного обучения — возможность снизить затраты на разметку. Для этого оно сосредоточивается только на самых важных данных, вместо того чтобы требовать аннотации всего набора данных. Такой целенаправленный подход экономит время, силы и деньги. Выбирая неопределенные или разнообразные примеры, активное обучение сокращает количество необходимых аннотаций, сохраняя при этом высокую точность модели.

Исследования показывают, что активное обучение позволяет сократить расходы на разметку на 40–60% без ущерба для качества работы модели. Это особенно полезно в таких отраслях, как здравоохранение и производство, где разметка данных обходится дорого. Упрощая процесс аннотирования, активное обучение помогает компаниям быстрее разрабатывать модели и эффективнее внедрять их, сохраняя точность.

Преимущества активного обучения#

Вот еще несколько ключевых преимуществ активного обучения:

• Устранение дисбаланса классов: активное обучение помогает решить проблему дисбаланса классов, позволяя размечать примеры из малочисленных классов данных. Благодаря этому модель лучше справляется с редкими сценариями, для которых доступно мало данных.
• Ускорение циклов разработки: если размечать меньше данных, разработка моделей машинного обучения и компьютерного зрения косвенно ускоряется, а на дополнительные итерации и эксперименты остается больше времени и ресурсов.
• Адаптивность: активное обучение постоянно улучшает обучающие данные за счет итеративной обработки неопределенных примеров и граничных случаев, поэтому хорошо подходит для динамичных и меняющихся наборов данных.

Активное обучение и AutoML могут работать вместе#

Автоматизированное машинное обучение (AutoML) помогает автоматизировать трудоемкие и итеративные задачи, связанные с созданием и развертыванием моделей машинного обучения. Оно упрощает рабочие процессы машинного обучения, автоматизируя такие задачи, как выбор модели и оценка ее производительности, и тем самым сокращает объем ручной работы.

Интеграция с активным обучением позволяет AutoML ускорить и оптимизировать жизненный цикл разработки модели. Компонент активного обучения стратегически отбирает наиболее информативные данные для разметки, а AutoML совершенствует модель, автоматизируя выбор архитектуры и параметров, а также их настройку.

Рис. 4. Рабочий процесс AutoML.

Рассмотрим сочетание этих технологий на примере.

Представь, что ты пытаешься обнаружить редкие заболевания с помощью медицинской визуализации — это задача, для которой размеченных наборов данных мало и их дорого собирать. Активное обучение может выявлять и отбирать неопределенные данные, например едва заметные изменения на рентгеновских снимках, которые модель не может классифицировать. Затем эти неопределенные данные можно приоритизировать для ручной разметки, чтобы улучшить понимание модели.

Используя размеченные данные, AutoML может оптимизировать модель, перебирая различные архитектуры, гиперпараметры и методы расширения данных. Этот итеративный процесс ускоряет разработку надежных моделей компьютерного зрения, таких как Ultralytics YOLO11, которые помогают медицинским специалистам ставить точные диагнозы.

Проблемы активного обучения#

Активное обучение и его методы дают множество преимуществ, но при реализации этих стратегий следует учитывать несколько важных моментов:

• Выбор стратегии запросов: Активное обучение включает множество методов, и выбор оптимального существенно влияет на эффективность модели. Неподходящая стратегия может снизить производительность модели в конкретном приложении.
• Затраты на дообучение: Итеративный характер активного обучения требует значительных вычислительных ресурсов, особенно при работе с большими наборами данных. После каждого раунда разметки модель переобучается, что повышает сложность процесса.
• Качество исходной модели: Эффективность активного обучения зависит от качества исходной модели. Модель с низкими исходными показателями может неправильно определять информативные точки данных, что приводит к некачественным запросам на разметку и снижению общей производительности.

Перспективы активного обучения и AutoML#

Благодаря недавним достижениям в области ИИ и компьютерного зрения активное обучение сможет решать более сложные задачи и упрощать рабочие процессы машинного обучения. Сочетание активного обучения с такими методами, как федеративное обучение и обучение с самоконтролем, может еще больше повысить эффективность и масштабируемость моделей компьютерного зрения.

Федеративное обучение позволяет обучать модель на нескольких устройствах или серверах в рамках распределенной системы, не передавая данные за пределы исходного местоположения. В таких отраслях, как здравоохранение, где конфиденциальность данных особенно важна, федеративное обучение позволяет непосредственно обучать модель на локальных конфиденциальных данных, сохраняя их защищенность. Вместо исходных данных передаются только обновления модели или полученные сведения: это обеспечивает защиту личной информации и позволяет участвовать в обучении.

Тем временем обучение с самоконтролем помогает сократить потребность в размеченных данных, предварительно обучая модели на неразмеченных данных. Этот процесс создает прочную основу для модели. Затем активное обучение может продолжить этот процесс, определяя и выбирая наиболее важные точки данных для разметки человеком и дополнительно улучшая модель.

От активного обучения к ощутимым результатам#

Активное обучение — практичный способ решать серьезные проблемы компьютерного зрения, например высокую стоимость разметки данных и потребность в более точных моделях. Сосредоточившись на разметке только самых ценных точек данных, оно сокращает объем работы для людей и повышает производительность модели.

В сочетании с такими технологиями, как AutoML, активное обучение оптимизирует разработку моделей, автоматизируя трудоемкие задачи. По мере дальнейшего развития активное обучение станет важным инструментом для создания более интеллектуальных и эффективных систем компьютерного зрения. Чтобы узнать, какие инструменты поддерживают этот цикл уже сегодня, прочитай наше сравнение инструментов автоматической разметки и активного обучения.

Изучи наш репозиторий GitHub и присоединяйся к нашему сообществу, чтобы узнать больше об ИИ и моделях компьютерного зрения. На страницах наших решений ты найдешь больше примеров применения компьютерного зрения в производстве и здравоохранении. Также ознакомься с нашими вариантами лицензирования, чтобы уже сегодня начать свой путь в области визуального ИИ.