Embeddings

Embeddings sind dichte, niedrigdimensionale, kontinuierliche Vektordarstellungen diskreter Variablen und dienen als grundlegender Übersetzer zwischen menschlichen Daten und Maschinenlogik. Im Bereich der Artificial Intelligence (AI) können Computer unstrukturierte unstructured data wie Text, Bilder oder Audio nicht intuitiv verstehen. Embeddings lösen dieses Problem, indem sie diese Eingaben in Listen reeller Zahlen, sogenannte Vektoren, umwandeln, die sich in einem hochdimensionalen mathematischen Raum befinden. Im Gegensatz zu herkömmlichen Kodierungen, die einem Objekt möglicherweise nur eine zufällige ID zuweisen, werden Embeddings durch Training gelernt, wodurch sichergestellt wird, dass semantisch ähnliche Elemente – wie die Wörter „König“ und „Königin“ oder Bilder zweier verschiedener Katzen – im vector space nahe beieinander positioniert sind.

So funktionieren Embeddings#

Die Erstellung eines Embeddings beinhaltet die Einspeisung von Rohdaten in ein für die feature extraction entwickeltes neural network. Während des Trainings lernt das Modell, die wesentlichen Merkmale der Eingabe in eine kompakte numerische Form zu komprimieren. Beispielsweise sieht ein Modell des Computer Vision (CV), das ein Foto analysiert, nicht nur Pixel; es bildet Formen, Texturen und Farben auf eine bestimmte Koordinate in einem mehrdimensionalen Diagramm ab. Bei der Messung der Ähnlichkeit berechnen Systeme den Abstand zwischen diesen Koordinaten mithilfe von Metriken wie cosine similarity oder Euclidean distance. Diese mathematische Nähe ermöglicht es Algorithmen, komplexe Aufgaben wie Klassifizierung und Clustering mit hoher Effizienz auszuführen.

Praxisanwendungen#

Embeddings fungieren als Motor für viele intelligente Funktionen, die in modernen Softwareprodukten verwendet werden.

• Semantic Search: Herkömmliche Suchmaschinen basieren häufig auf exaktem keyword matching, was fehlschlägt, wenn ein Nutzer nach „Auto“ sucht, das Dokument jedoch „Wagen“ enthält. Embeddings erfassen die Bedeutung hinter den Wörtern. Indem die Suchanfrage und die Dokumente der Datenbank als Vektoren dargestellt werden, kann das System Ergebnisse abrufen, die der Absicht des Nutzers entsprechen, selbst wenn die spezifischen Wörter unterschiedlich sind.
• Recommendation Systems: Streaming-Dienste und E-Commerce-Websites nutzen Embeddings, um Nutzererlebnisse zu personalisieren. Wenn ein Nutzer einen Science-Fiction-Film ansieht, ermittelt das System den Vektor dieses Films und sucht in der Datenbank nach anderen Filmen mit Vektoren in der Nähe. Dies ermöglicht präzise Vorschläge basierend auf der Inhaltsähnlichkeit anstelle von rein manuellen Tags oder Kategorien.
• Zero-Shot Learning: Fortgeschrittene Modelle verwenden gemeinsame Embeddings, um verschiedene Modalitäten wie Text und Bilder zu verknüpfen. Dies versetzt ein System in die Lage, Objekte zu erkennen, die es während des Trainings noch nie explizit gesehen hat, indem das Bild-Embedding mit dem Text-Embedding des Namens des Objekts verknüpft wird.

Generierung von Embeddings mit Python#

State-of-the-Art-Modelle wie YOLO26 können effizient verwendet werden, um robuste Bild-Embeddings zu generieren. Das folgende Beispiel veranschaulicht, wie du mithilfe des Python-Pakets ultralytics einen Merkmalsvektor aus einem Bild extrahierst.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Generate embeddings for an image
# The embed() method returns the feature vector representing the image content
embedding_vector = model.embed("https://ultralytics.com/images/bus.jpg")

# Print the shape of the embedding (e.g., a vector of length 1280)
print(f"Embedding shape: {embedding_vector[0].shape}")

Embeddings im Vergleich zu verwandten Konzepten#

Um KI-Lösungen effektiv zu implementieren, ist es hilfreich, Embeddings von eng verwandten Fachbegriffen zu unterscheiden.

• Embeddings vs. Vector Search: Das Embedding ist die Datendarstellung selbst (die Liste von Zahlen). Die Vektorsuche ist der darauffolgende Prozess des Abfragens einer Datenbank, um die nächsten Nachbarn für dieses Embedding zu finden. Spezialisierte Werkzeuge, die als vector database bekannt sind, werden häufig verwendet, um diese Embeddings in großem Maßstab zu speichern und zu durchsuchen.
• Embeddings vs. Tokenization: In der Natural Language Processing (NLP) ist die Tokenisierung der vorbereitende Schritt, bei dem Text in kleinere Einheiten (Token) zerlegt wird. Diese Token werden anschließend auf Embeddings abgebildet. Folglich bereitet die Tokenisierung die Daten vor, während Embeddings die Bedeutung der Daten repräsentieren.
• Embeddings vs. Deep Learning: Deep Learning ist das breitere Feld des maschinellen Lernens auf Basis neuronaler Netze. Embeddings sind eine spezifische Ausgabe oder Schicht innerhalb einer Deep-Learning-Architektur und dienen oft als Brücke zwischen Roheingaben und den Entscheidungsschichten des Modells.

Entwickler, die den Lebenszyklus ihrer Datensätze verwalten möchten, einschließlich Annotation und Modelltraining zum Generieren benutzerdefinierter Embeddings, können die Ultralytics Platform nutzen. Dieses umfassende Werkzeug vereinfacht den Workflow von der Datenverwaltung bis zur Bereitstellung und stellt sicher, dass die Embeddings, die deine Anwendungen antreiben, aus hochwertigen, gut kuratierten Daten stammen. Unabhängig davon, ob du Frameworks wie PyTorch oder TensorFlow verwendest, ist die Beherrschung von Embeddings ein entscheidender Schritt beim Aufbau anspruchsvoller pattern recognition-Systeme.