Semi-Supervised Learning

Полуобученное обучение (SSL) — это стратегическая парадигма в машинном обучении (ML), которая служит связующим звеном между двумя традиционными методами обучения. В то время как обучение с учителем полностью опирается на полностью размеченные наборы данных, а обучение без учителя пытается найти закономерности в данных без каких-либо меток, SSL работает путем объединения небольшого количества размеченных данных со значительно большим пулом неразмеченных данных. Этот подход особенно ценен в реальных сценариях компьютерного зрения (CV), где сбор необработанных изображений — например, видеозаписей с камер безопасности или спутников — стоит относительно недорого, а процесс разметки данных экспертами-людьми является дорогостоящим, медленным и трудоемким. Эффективно используя структуру, скрытую внутри неразмеченных примеров, SSL может значительно улучшить точность модели и обобщающую способность без необходимости в исчерпывающем бюджете на аннотирование.

Link to this sectionОсновные механизмы полуобученного обучения#

Основная цель SSL заключается в распространении информации, полученной из небольшого набора размеченных примеров, на больший неразмеченный набор. Это позволяет нейронной сети изучить границы принятия решений, проходящие через области данных с низкой плотностью, что приводит к более надежной классификации или детекции.

Две популярные техники лежат в основе большинства полуобученных рабочих процессов:

• Псевдоразметка (Pseudo-Labeling): В этом методе модель сначала обучается на ограниченных размеченных данных. Затем она используется для выполнения инференса на неразмеченных данных. Прогнозы, превышающие определенный порог уверенности, рассматриваются как «псевдометки» или ground truth. Эти уверенные прогнозы добавляются в обучающие данные, и модель переобучается, итеративно улучшая свою производительность.
• Регуляризация согласованности (Consistency Regularization): Эта техника опирается на аугментацию данных. Идея заключается в том, что модель должна выдавать похожие прогнозы для изображения и слегка измененной (аугментированной) версии этого же изображения. Минимизируя разницу в прогнозах между исходной и аугментированной версией, модель учится фокусироваться на основных характеристиках объекта, а не на шуме, что улучшает ее способность справляться с переобучением.

Link to this sectionПрактическая реализация с помощью YOLO#

Следующий пример на Python демонстрирует простой рабочий процесс псевдоразметки с использованием пакета ultralytics. Здесь мы обучаем модель YOLO26 на небольшом наборе данных, а затем используем ее для создания меток для каталога неразмеченных изображений.

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train initially on a small available labeled dataset
model.train(data="coco8.yaml", epochs=10)

# Run inference on unlabeled data to generate pseudo-labels
# Setting save_txt=True saves the detections as text files for future training
results = model.predict(source="./unlabeled_images", save_txt=True, conf=0.85)

Link to this sectionРеальные приложения#

Полуобученное обучение трансформирует отрасли, где данных много, а экспертных знаний не хватает.

• Медицинская визуализация: В ИИ для здравоохранения получение сканов (рентген, МРТ) является стандартной процедурой, но привлечение сертифицированного радиолога для аннотирования каждого пикселя для детекции опухолей обходится непомерно дорого. SSL позволяет исследователям обучать высокопроизводительные модели, используя лишь часть размеченных экспертами случаев, задействуя тысячи архивных сканов для уточнения понимания моделью биологических структур.
• Автономное вождение: Компании, занимающиеся беспилотными автомобилями, ежедневно собирают петабайты видеоданных с автопарков. Разметка каждого кадра для детекции объектов и семантической сегментации невозможна. Благодаря SSL система может учиться на подавляющем большинстве неразмеченных часов вождения, чтобы лучше понимать сложные дорожные условия, погодные изменения и редкие граничные случаи.

Link to this sectionРазграничение похожих концепций#

Для эффективного развертывания ИИ-решений важно понимать, чем SSL отличается от схожих стратегий:

• vs. Активное обучение: Хотя оба метода работают с неразмеченными данными, их подход к разметке различается. SSL автоматически назначает метки на основе прогнозов модели. Напротив, активное обучение выявляет наиболее «запутанные» или сомнительные точки данных и прямо запрашивает человека в контуре для их разметки, оптимизируя время эксперта, а не исключая его полностью.
• vs. Обучение с переносом знаний: Обучение с переносом знаний включает взятие модели, предварительно обученной на огромном внешнем наборе данных (например, ImageNet), и ее дообучение под твою конкретную задачу. SSL же, напротив, фокусируется на использовании неразмеченной части распределения твоего конкретного набора данных непосредственно в процессе обучения.
• vs. Самообучение: Хотя названия похожи, самообучение часто относится к «предтекстовым задачам» (таким как решение пазла из фрагментов изображения), где данные сами генерируют сигналы обучения без каких-либо внешних меток. SSL же конкретно подразумевает использование небольшого набора проверенных меток для руководства процессом.

Link to this sectionИнструменты и перспективы на будущее#

По мере того как модели глубокого обучения (DL) увеличиваются в размерах, эффективность использования данных становится первостепенной. Современные фреймворки, такие как PyTorch и TensorFlow, обеспечивают вычислительную базу для этих продвинутых циклов обучения. Кроме того, такие инструменты, как Ultralytics Platform, упрощают жизненный цикл управления данными. Используя такие функции, как автоматическая аннотация, команды могут легче реализовывать полуобученные рабочие процессы, быстро превращая сырые данные в готовые к использованию веса модели. Эта эволюция в MLOps гарантирует, что порог входа для создания высокоточных систем компьютерного зрения продолжает снижаться.