Semi-Supervised Learning

Полуконтролируемое обучение (SSL) — это стратегическая парадигма в машинном обучении (ML), которая служит мостом между двумя традиционными методами обучения. В то время как обучение с учителем полностью полагается на полностью аннотированные наборы данных, а обучение без учителя пытается найти закономерности в данных без каких-либо тегов, SSL работает, объединяя небольшое количество размеченных данных со значительно большим массивом неразмеченных данных. Этот подход особенно ценен в реальных сценариях компьютерного зрения (CV), где сбор необработанных изображений, таких как видеоматериалы с камер безопасности или спутников, относительно недорог, но процесс разметки данных экспертами-людьми дорог, медленен и трудоемок. Эффективно используя структуру, скрытую в неразмеченных примерах, SSL может существенно улучшить точность модели и ее способность к генерализации без необходимости выделения исчерпывающего бюджета на аннотирование.

Основные механизмы полуобученного обучения#

Основная цель SSL — распространить информацию, найденную в небольшом наборе размеченных примеров, на больший неразмеченный набор. Это позволяет нейронной сети изучать границы принятия решений, которые проходят через области данных с низкой плотностью, что приводит к более надежной классификации или детекции.

Две популярные техники лежат в основе большинства полуобученных рабочих процессов:

• Псевдоразметка: В этом методе модель сначала обучается на ограниченных размеченных данных. Затем она используется для выполнения инференса на неразмеченных данных. Предсказания, превышающие определенный порог уверенности, рассматриваются как «псевдометки» или истинные данные (ground truth). Эти уверенные предсказания добавляются в обучающие данные, и модель дообучается, итеративно улучшая свою производительность.
• Регуляризация согласованности: Эта техника опирается на аугментацию данных. Идея заключается в том, что модель должна выдавать схожие предсказания для изображения и слегка измененной (аугментированной) версии того же изображения. Минимизируя разницу в предсказаниях между оригинальной и аугментированной версиями, модель учится фокусироваться на ключевых признаках объекта, а не на шуме, улучшая свою способность справляться с переобучением.

Практическая реализация с помощью YOLO#

Следующий пример на Python демонстрирует простой рабочий процесс псевдоразметки с использованием пакета ultralytics. Здесь мы обучаем модель YOLO26 на небольшом наборе данных, а затем используем ее для генерации меток для директории с неразмеченными изображениями.

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train initially on a small available labeled dataset
model.train(data="coco8.yaml", epochs=10)

# Run inference on unlabeled data to generate pseudo-labels
# Setting save_txt=True saves the detections as text files for future training
results = model.predict(source="./unlabeled_images", save_txt=True, conf=0.85)

Реальные приложения#

Полуобученное обучение трансформирует отрасли, где данных много, а экспертных знаний не хватает.

• Медицинская визуализация: В ИИ в здравоохранении получение сканигов (рентген, МРТ) является стандартной процедурой, но требовать от сертифицированного радиолога аннотировать каждый пиксель для детекции опухолей непомерно дорого. SSL позволяет исследователям обучать высокопроизводительные модели, используя лишь часть случаев, размеченных экспертами, задействуя тысячи архивных сканов для уточнения понимания биологических структур моделью.
• Автономное вождение: Компании, занимающиеся созданием беспилотных автомобилей, ежедневно собирают петабайты видеоданных с транспортных средств автопарка. Размечать каждый кадр для детекции объектов и семантической сегментации невозможно. С помощью SSL система может учиться на подавляющем большинстве неразмеченных часов вождения, чтобы лучше понимать сложные дорожные условия, погодные условия и редкие краевые случаи.

Разграничение похожих концепций#

Для эффективного развертывания ИИ-решений важно понимать, чем SSL отличается от схожих стратегий:

• по сравнению с активным обучением: Хотя оба метода имеют дело с неразмеченными данными, их подход к разметке различается. SSL автоматически назначает метки на основе предсказаний модели. Напротив, активное обучение выявляет самые «запутанные» или неопределенные точки данных и явно запрашивает участие человека в контуре (human-in-the-loop) для их разметки, оптимизируя время человека, а не исключая его полностью.
• по сравнению с трансферным обучением: Трансферное обучение предполагает взятие модели, предварительно обученной на огромном внешнем наборе данных (таком как ImageNet), и ее тонкую настройку под вашу конкретную задачу. SSL же фокусируется на задействовании неразмеченной части распределения вашего конкретного набора данных непосредственно в процессе обучения.
• по сравнению с самоконтролируемым обучением (Self-Supervised Learning): Хотя названия похожи, самоконтролируемое обучение часто относится к «предтекстовым задачам» (например, сборка пазла из фрагментов изображения), где данные генерируют собственные сигналы контроля без каких-либо внешних меток. SSL специально предполагает использование меньшего набора проверенных меток для направления процесса.

Инструменты и перспективы на будущее#

По мере того как модели глубокого обучения (DL) увеличиваются в размерах, эффективность использования данных становится первостепенной. Современные фреймворки, такие как PyTorch и TensorFlow, обеспечивают вычислительную бэкенд-основу для этих продвинутых циклов обучения. Кроме того, такие инструменты, как Ultralytics Platform, упрощают жизненный цикл управления наборами данных. Используя такие функции, как автоаннотирование, команды могут проще реализовывать полуконтролируемые рабочие процессы, быстро превращая сырые данные в готовые к продакшену веса моделей. Эта эволюция в MLOps гарантирует, что порог входа для создания высокоточных систем компьютерного зрения продолжает снижаться.