Unsupervised Learning

Unüberwachtes Lernen ist ein Zweig des maschinellen Lernens, der Strukturen in Daten ohne Beschriftungen erkennt. Das Modell erhält nur Eingaben wie Bilder, Sensormessungen oder Kundendatensätze und lernt, wie sie organisiert sind: welche Beispiele einander ähneln, welche Merkmale gemeinsam variieren und welche Datenpunkte sich vom Rest unterscheiden. Beim überwachten Lernen muss für jedes Trainingsbeispiel eine richtige Antwort vorliegen. Da die meisten erfassten Daten nicht beschriftet werden, sind unüberwachte Verfahren oft der erste Schritt bei einem neuen Datensatz und liefern Gruppierungen, kompakte Merkmale und Anomaliewerte, auf denen spätere Modelle aufbauen.

Wichtigste Verfahrensgruppen#

Clustering gruppiert ähnliche Beispiele. Beim K-Means-Clustering wird jeder Punkt dem nächstgelegenen von k Zentren zugeordnet. DBSCAN bildet Cluster aus dichten Regionen und markiert einzelne Punkte als Rauschen. Gaußsche Mischmodelle passen mithilfe des Expectation-Maximization-Algorithmus überlappende Wahrscheinlichkeitsverteilungen an.

Die Dimensionsreduktion verdichtet zahlreiche Merkmale auf wenige, die den Großteil der Informationen bewahren. Die Hauptkomponentenanalyse (PCA) findet die Richtungen mit der größten Varianz. t-SNE und UMAP ordnen hochdimensionale Punkte auf einer zweidimensionalen Karte an, um Daten zu visualisieren. Autoencoder lernen eine ähnliche Verdichtung mithilfe eines neuronalen Netzes, das seine eigene Eingabe rekonstruieren muss.

Die Dichteschätzung modelliert, wie wahrscheinlich jede Eingabe ist. Dadurch wird eine Anomalieerkennung allein anhand normaler Daten möglich: Ein nur mit intakten Bauteilen oder üblichen Transaktionen trainiertes Modell meldet alles, was es für unwahrscheinlich hält. Beim Mining von Assoziationsregeln, etwa mit dem Apriori-Algorithmus, werden Elemente gefunden, die gemeinsam in Warenkörben oder Ereignisprotokollen auftreten.

Lernen und Bewerten ohne Beschriftungen#

Ohne Zielwerte optimiert jedes Verfahren ein Kriterium, das anhand der Eingaben selbst definiert ist: K-Means minimiert den Abstand der Punkte zu den Clusterzentren, PCA und Autoencoder minimieren den Rekonstruktionsfehler und Mischmodelle maximieren die Wahrscheinlichkeit der Daten. Genauigkeit lässt sich nicht direkt messen. Daher werden Ergebnisse anhand interner Werte wie des Silhouettenkoeffizienten, anhand des Nutzens für nachgelagerte Aufgaben oder im Vergleich mit nur zur Bewertung zurückgehaltenen Beschriftungen beurteilt.

In diesem scikit-learn-Beispiel werden 1.797 handgeschriebene Ziffernbilder anhand ihrer Pixelwerte gruppiert. Anschließend werden die Cluster mit den Ziffernbeschriftungen verglichen, die der Algorithmus nicht gesehen hat:

from sklearn.cluster import KMeans
from sklearn.datasets import load_digits
from sklearn.metrics import adjusted_rand_score

# Load 1,797 handwritten digit images as 64 pixel values each, then set the labels aside
X, y = load_digits(return_X_y=True)

# Group the images into 10 clusters using the pixels alone
kmeans = KMeans(n_clusters=10, n_init=10, random_state=0)
clusters = kmeans.fit_predict(X)

# Compare the clusters with the digit labels the model never saw
print(f"Adjusted Rand index: {adjusted_rand_score(y, clusters):.2f}")

Der adjustierte Rand-Index beträgt bei einer perfekten Übereinstimmung 1,0 und liegt bei einer Übereinstimmung durch Zufall bei etwa 0. Hier beträgt er 0,67. Nullen, Vieren und Sechsen landen fast vollständig in jeweils einem eigenen Cluster, während ein Cluster 100 Einsen mit 100 Achten mischt.

Unüberwachtes, halbüberwachtes und selbstüberwachtes Lernen#

Halbüberwachtes Lernen kombiniert einen kleinen beschrifteten Datensatz mit einem großen unbeschrifteten Datensatz. Üblicherweise wird zuerst mit den Beschriftungen trainiert und anschließend mit den sicheren Vorhersagen des Modells selbst weitergelernt. Selbstüberwachtes Lernen wird meist zum unüberwachten Lernen gezählt und ist das Verfahren, mit dem die meisten großen Deep-Learning-Modelle aus unbeschrifteten Daten lernen: Dabei werden Zielwerte aus den Daten selbst gewonnen, etwa das nächste Wort eines Satzes oder die verdeckten Bildbereiche bei maskierten Autoencodern. Große Sprachmodelle werden auf diese Weise mit unbeschrifteten Texten vortrainiert. DINOv2 von Meta lernte ohne Beschriftungen allgemeine Bildmerkmale aus 142 Millionen Bildern. Bestärkendes Lernen ist ein separates Verfahren, bei dem die Rückmeldung als Belohnung für Handlungen erfolgt und nicht aus der Struktur eines festen Datensatzes stammt.

Anwendungen#

Teams im Bereich Computer Vision verwenden unüberwachte Methoden, um Datensätze vor der Beschriftung oder dem Training zu untersuchen: Das Clustering von Bild-Einbettungen deckt nahezu identische Bilder, Ausreißer und überrepräsentierte Szenen auf, die ein Modell verzerren könnten. Das Clustering-Panel der Ultralytics Platform erledigt das für einen ganzen Datensatz: Es erzeugt Einbettungen für jedes Bild, ordnet die Bilder auf einer 2D-Karte an und markiert bei der Einstellung „Färben nach“ und „Cluster“ jede Insel aus visuell ähnlichen Bildern, beginnend mit der größten. Punkte außerhalb der Inseln werden als „Streut“ aufgeführt. Eine Reihe nahezu identischer Videoframes oder vereinzelte Ausreißer fallen so auf, bevor ein YOLO26-Modell mit den Daten trainiert wird.

Bei der industriellen Inspektion kommt die Anomalieerkennung zum Einsatz. Defekte sind selten und vielfältig, deshalb lernen viele Systeme zur Fehlererkennung nur das Erscheinungsbild einwandfreier Teile und markieren Bildbereiche, die davon abweichen. Banken wenden dieselbe Idee bei Transaktionen zur Betrugserkennung an, und Einzelhändler clustern Kaufverläufe zu Kundensegmenten für Marketing und Empfehlungssysteme. In der Einzelzellgenomik gruppieren Forschende die Genexpressionsprofile Tausender einzelner Zellen und stellen sie mit UMAP dar, um Zelltypen zu entdecken, ohne diese vorher zu kennen.