Contrastive Learning

Kontrastives Lernen ist ein Machine-Learning-Paradigma, das Modellen beibringt, Daten durch den Vergleich ähnlicher und unähnlicher Stichproben zu verstehen. Im Gegensatz zum traditionellen supervised learning, das stark auf manuell beschriftete Datensätze angewiesen ist, wird kontrastives Lernen häufig in self-supervised learning-Kontexten eingesetzt. Die Kernidee ist einfach und doch wirkungsvoll: Das Modell lernt, Repräsentationen verwandter Elemente (positive Paare) in einem Vektorraum näher zusammenzubringen, während es unvoyale Elemente (negative Paare) weiter voneinander entfernt. Dieser Prozess ermöglicht es Algorithmen, robuste, generalisierbare Merkmale aus riesigen Mengen unbeschrifteter Daten zu erstellen, was für die Skalierung von artificial intelligence (AI)-Systemen entscheidend ist.

Der Mechanismus des kontrastiven Lernens#

Das Herzstück des kontrastiven Lernens ist das Konzept des Lernens durch Vergleich. Anstatt sich zu merken, dass ein bestimmtes Bild eine „Katze“ ist, lernt das Modell, dass zwei verschiedene Fotos einer Katze einander ähnlicher sind als jedes von ihnen einem Foto eines Hundes. Dies wird typischerweise durch data augmentation erreicht. Ein Eingabebild, oft als „Anker“ bezeichnet, wird mithilfe von Techniken wie Zuschneiden, Spiegeln oder Farbveränderung in zwei verschiedene Versionen transformiert. Diese beiden Versionen bilden ein positives Paar. Das Modell wird dann trainiert, den Abstand zwischen ihren embeddings zu minimieren und gleichzeitig den Abstand zu anderen zufälligen Bildern (negativen Stichproben) im Batch zu maximieren.

Dieser Ansatz hilft dem neural network, sich auf abstrakte semantische Merkmale anstelle von Low-Level-Pixeldetails zu konzentrieren. Unabhängig davon, ob ein Auto beispielsweise rot oder blau ist oder nach links oder rechts zeigt, bleibt das zugrundeliegende Konzept des „Autos“ dasselbe. Indem diese oberflächlichen Abweichungen ignoriert werden, entwickelt das Modell ein tieferes Verständnis der visuellen Welt, was nachgeschalteten Aufgaben wie object detection und Klassifizierung erheblich zugute kommt.

Praxisanwendungen#

Kontrastives Lernen ist zu einem Eckpfeiler vieler hochmoderner KI-Anwendungen geworden, insbesondere dort, wo beschriftete Daten knapp oder teuer zu beschaffen sind.

1. Zero-Shot-Bildklassifizierung: Modelle wie CLIP (Contrastive Language-Image Pre-training) nutzen kontrastives Lernen, um Bilder und Text in einem gemeinsamen Merkmalsraum auszurichten. Durch das Training mit Millionen von Bild-Text-Paaren lernt das Modell, visuelle Konzepte mit Beschreibungen in natürlicher Sprache zu verknüpfen. Dies ermöglicht zero-shot learning, bei dem das Modell Bilder einfach durch Abgleich des Bildes mit einer Textaufforderung in Kategorien klassifizieren kann, die es während des Trainings noch nie gesehen hat.

2. Robustes Pre-training für medizinische Bildgebung: Im Gesundheitswesen ist die Beschaffung von fachlich beschrifteten medizinischen Scans kostspielig und zeitaufwändig. Forscher nutzen kontrastives Lernen, um Modelle anhand großer Datenbanken unbeschrifteter Röntgen- oder MRT-Scans vorab zu trainieren. Dieses unüberwachte Pre-training erstellt ein leistungsstarkes backbone, das mit einer geringen Anzahl beschrifteter Beispiele feinabgestimmt werden kann, um Krankheiten wie Lungenentzündung oder Tumoren mit hoher Genauigkeit zu erkennen. Diese Technik nutzt transfer learning, um Diagnosewerkzeuge in AI in healthcare zu verbessern.

Unterscheidung verwandter Konzepte#

Es ist hilfreich, kontrastives Lernen von ähnlichen Techniken abzugrenzen, um seine einzigartige Rolle in der machine learning (ML)-Landschaft zu verstehen.

• vs. Autoencoder: Obwohl beides unüberwachte Methoden sind, zielen autoencoders darauf ab, die Eingabedaten Pixel für Pixel zu rekonstruieren und sie in eine Engpassschicht zu komprimieren. Kontrastives Lernen hingegen versucht nicht, das Bild nachzubilden, sondern konzentriert sich ausschließlich auf das Erlernen diskriminativer Repräsentationen, die verschiedene Konzepte trennen.
• vs. Generative Adversarial Networks (GANs): GANs beinhalten einen Generator, der gefälschte Daten erstellt, und einen Diskriminator, der versucht, diese zu erkennen. Kontrastives Lernen konzentriert sich auf Repräsentationslernen statt auf Datenerstellung, wodurch es sich besser für Aufgaben wie Suche, Abruf und Klassifizierung eignet.
• vs. Triplet-Verlust: Der traditionelle Triplet-Verlust erfordert explizit einen Anker, ein positives und ein negatives Muster. Moderne kontrastive Methoden wie SimCLR oder MoCo verallgemeinern dies, indem sie einen Anker gleichzeitig mit vielen negativen Mustern innerhalb eines Batches vergleichen, häufig unter Verwendung einer spezifischen loss function wie InfoNCE.

Praktisches Beispiel mit Einbettungen#

Obwohl das Training eines kontrastiven Modells von Grund auf ressourcenintensiv ist, kannst du vorab trainierte Modelle problemlos verwenden, um Merkmale zu extrahieren. Das folgende Beispiel zeigt, wie ein Modell geladen und der Vektor (Embedding) für ein Bild mithilfe des Pakets ultralytics extrahiert wird. Dieses Embedding repräsentiert den semantischen Inhalt, der über Techniken erlernt wurde, die dem kontrastiven Pre-training ähneln.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Run inference on an image to get the results
# The 'embed' argument can be used in advanced workflows to extract feature layers
results = model("https://ultralytics.com/images/bus.jpg")

# Access the top predicted class probability
# This prediction is based on the learned feature representations
print(f"Top class: {results[0].names[results[0].probs.top1]}")
print(f"Confidence: {results[0].probs.top1conf:.4f}")

Diese Fähigkeit, reichhaltige, aussagekräftige Merkmale zu extrahieren, macht kontrastives Lernen unverzichtbar für den Aufbau moderner computer vision (CV)-Systeme und ermöglicht eine effiziente image search sowie fortschrittliche Analysen. Zur Verwaltung von Datensätzen und zum Training benutzerdefinierter Modelle, die von diesen modernen Architekturen profitieren, bietet die Ultralytics Platform eine optimierte Umgebung für Bereitstellung und Überwachung.