Contrastive Learning

Контрастное обучение — это парадигма машинного обучения, которая учит модели понимать данные путем сравнения похожих и непохожих примеров. В отличие от традиционного обучения с учителем, которое сильно зависит от вручную размеченных наборов данных, контрастное обучение часто используется в контексте обучения без учителя. Основная идея проста, но эффективна: модель учится сближать представления связанных элементов (положительных пар) в векторном пространстве, одновременно раздвигая несвязанные элементы (отрицательные пары). Этот процесс позволяет алгоритмам создавать надежные, обобщаемые признаки из огромных объемов неразмеченных данных, что крайне важно для масштабирования систем искусственного интеллекта (ИИ).

Механизм контрастивного обучения#

В основе контрастного обучения лежит концепция обучения через сравнение. Вместо того чтобы запоминать, что конкретное изображение является «кошкой», модель учится тому, что две разные фотографии кошки более похожи друг на друга, чем каждая из них на фотографию собаки. Обычно это достигается с помощью аугментации данных. Входное изображение, часто называемое «якорем», преобразуется в две разные версии с использованием таких методов, как обрезка, отражение или изменение цвета. Эти две версии образуют положительную пару. Затем модель обучается минимизировать расстояние между их эмбеддингами и одновременно максимизировать расстояние до других случайных изображений (отрицательных примеров) в батче.

Этот подход помогает нейронной сети сосредоточиться на высокоуровневых семантических признаках, а не на низкоуровневых деталях пикселей. Например, независимо от того, является ли машина красной или синей, повернута ли она влево или вправо, основополагающее понятие «машины» остается прежним. Игнорируя эти поверхностные вариации, модель развивает более глубокое понимание визуального мира, что существенно помогает в таких последующих задачах, как обнаружение объектов и классификация.

Реальные приложения#

Контрастивное обучение стало краеугольным камнем для многих передовых приложений ИИ, особенно там, где размеченных данных мало или их получение стоит дорого.

1. Классификация изображений в нулевом кадре (Zero-Shot): Такие модели, как CLIP (Contrastive Language-Image Pre-training), используют контрастное обучение для сопоставления изображений и текста в общем пространстве признаков. Обучаясь на миллионах пар изображений и текста, модель учится связывать визуальные концепции с описаниями на естественном языке. Это делает возможным обучение в условиях нулевого кадра (zero-shot learning), когда модель может классифицировать изображения по категориям, которые она никогда не видела во время обучения, просто сопоставляя изображение с текстовым промптом.

2. Надежное предварительное обучение для медицинской визуализации: В здравоохранении получение размеченных экспертами медицинских сканов обходится дорого и требует много времени. Исследователи используют контрастное обучение для предварительного обучения моделей на больших базах данных неразмеченных рентгенограмм или МРТ-сканов. Это предварительное обучение без учителя создает мощный бэкбон, который можно дообучить с небольшим количеством размеченных примеров для высокоточного обнаружения таких заболеваний, как пневмония или опухоли. Эта техника использует трансферное обучение для улучшения диагностических инструментов в сфере ИИ в здравоохранении.

Разграничение похожих концепций#

Полезно отличать контрастное обучение от похожих методов, чтобы понять его уникальную роль в сфере машинного обучения (МО).

• По сравнению с автоэнкодерами: Хотя оба метода не используют учителя, автоэнкодеры стремятся восстановить входные данные пиксель за пикселем, сжимая их в узкий слой. Контрастное обучение, с другой стороны, не пытается воссоздать изображение, а фокусируется исключительно на изучении дискриминативных представлений, которые разделяют различные концепции.
• По сравнению с генеративно-состязательными сетями (GAN): GAN включают в себя генератор, создающий фальшивые данные, и дискриминатор, пытающийся их обнаружить. Контрастное обучение фокусируется на обучении представлений, а не на генерации данных, что делает его более подходящим для таких задач, как поиск, извлечение и классификация.
• По сравнению с триплетной функцией потерь: Традиционная триплетная функция потерь явно требует якорь, положительный и отрицательный пример. Современные контрастные методы, такие как SimCLR или MoCo, обобщают это, сравнивая якорь со множеством отрицательных примеров одновременно в рамках батча, часто используя определенную функцию потерь, такую как InfoNCE.

Практический пример с эмбеддингами#

Хотя обучение контрастной модели с нуля требует больших ресурсов, ты можешь легко использовать предобученные модели для извлечения признаков. Следующий пример демонстрирует, как загрузить модель и извлечь вектор признаков (эмбеддинг) для изображения с помощью пакета ultralytics. Этот эмбеддинг представляет семантическое содержимое, изученное с помощью методов, аналогичных контрастному предварительному обучению.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image to get the results
# The 'embed' argument can be used in advanced workflows to extract feature layers
results = model("https://ultralytics.com/images/bus.jpg")

# Access the top predicted class probability
# This prediction is based on the learned feature representations
print(f"Top class: {results[0].names[results[0].probs.top1]}")
print(f"Confidence: {results[0].probs.top1conf:.4f}")

Эта способность извлекать богатые, значимые признаки делает контрастное обучение необходимым для создания современных систем компьютерного зрения (КВ), обеспечивая эффективный поиск изображений и расширенную аналитику. Для управления наборами данных и обучения пользовательских моделей, которые используют эти продвинутые архитектуры, Ultralytics Platform предоставляет оптимизированную среду для развертывания и мониторинга.