Embeddings

Embeddings sind dichte, niedrigdimensionale, kontinuierliche Vektordarstellungen diskreter Variablen, die als grundlegender Übersetzer zwischen menschlichen Daten und Maschinenlogik dienen. Im Bereich der künstlichen Intelligenz (KI) können Computer unstrukturierte, unstrukturierte Daten wie Text, Bilder oder Audio nicht intuitiv verstehen. Embeddings lösen dies, indem sie diese Eingaben in Listen reeller Zahlen umwandeln, sogenannte Vektoren, die in einem hochdimensionalen mathematischen Raum existieren. Im Gegensatz zu herkömmlichen Codierungen, die einem Objekt möglicherweise nur eine zufällige ID zuweisen, werden Embeddings durch Training erlernt. Dadurch wird sichergestellt, dass semantisch ähnliche Elemente – wie die Wörter "König" und "Königin" oder Bilder von zwei verschiedenen Katzen – im Vektorraum nahe beieinander positioniert werden.

Link to this sectionSo funktionieren Embeddings#

Die Erstellung eines Embeddings beinhaltet die Einspeisung von Rohdaten in ein neuronales Netz, das für die Merkmalsextraktion ausgelegt ist. Während des Trainings lernt das Modell, die wesentlichen Merkmale der Eingabe in eine kompakte numerische Form zu komprimieren. Beispielsweise sieht ein Computer Vision (CV)-Modell, das ein Foto analysiert, nicht nur Pixel; es ordnet Formen, Texturen und Farben einer bestimmten Koordinate in einem mehrdimensionalen Graphen zu. Bei der Messung der Ähnlichkeit berechnen Systeme den Abstand zwischen diesen Koordinaten unter Verwendung von Metriken wie Kosinus-Ähnlichkeit oder euklidischem Abstand. Diese mathematische Nähe ermöglicht es Algorithmen, komplexe Aufgaben wie Klassifizierung und Clustering mit hoher Effizienz durchzuführen.

Link to this sectionPraxisanwendungen#

Embeddings fungieren als Motor für viele intelligente Funktionen, die in modernen Softwareprodukten verwendet werden.

• Semantische Suche: Herkömmliche Suchmaschinen verlassen sich oft auf exakte Stichwortübereinstimmung, was fehlschlägt, wenn ein Benutzer "Auto" abfragt, das Dokument aber "PKW" enthält. Embeddings erfassen die Bedeutung hinter den Wörtern. Indem die Suchanfrage und die Datenbankdokumente als Vektoren dargestellt werden, kann das System Ergebnisse abrufen, die der Absicht des Benutzers entsprechen, selbst wenn sich die spezifischen Wörter unterscheiden.
• Empfehlungssysteme: Streaming-Dienste und E-Commerce-Websites nutzen Embeddings, um das Benutzererlebnis zu personalisieren. Wenn ein Benutzer einen Science-Fiction-Film ansieht, identifiziert das System den Embedding-Vektor dieses Films und sucht in der Datenbank nach anderen Filmen mit Vektoren in der Nähe. Dies ermöglicht präzise Vorschläge basierend auf inhaltlicher Ähnlichkeit anstelle von bloßen manuellen Tags oder Kategorien.
• Zero-Shot Learning: Fortschrittliche Modelle verwenden gemeinsame Embeddings, um verschiedene Modalitäten wie Text und Bilder zu verknüpfen. Dies ermöglicht es einem System, Objekte zu erkennen, die es während des Trainings nie explizit gesehen hat, indem das Bild-Embedding mit dem Text-Embedding des Objektnamens assoziiert wird.

Link to this sectionGenerierung von Embeddings mit Python#

Modernste Modelle wie YOLO26 können verwendet werden, um effizient robuste Bild-Embeddings zu generieren. Das folgende Beispiel zeigt, wie ein Merkmalsvektor aus einem Bild mit dem Python-Paket ultralytics extrahiert wird.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Generate embeddings for an image
# The embed() method returns the feature vector representing the image content
embedding_vector = model.embed("https://ultralytics.com/images/bus.jpg")

# Print the shape of the embedding (e.g., a vector of length 1280)
print(f"Embedding shape: {embedding_vector[0].shape}")

Link to this sectionEmbeddings im Vergleich zu verwandten Konzepten#

Um KI-Lösungen effektiv zu implementieren, ist es hilfreich, Embeddings von eng verwandten Fachbegriffen zu unterscheiden.

• Embeddings vs. Vektorsuche: Das Embedding ist die Datendarstellung selbst (die Liste der Zahlen). Die Vektorsuche ist der nachfolgende Prozess der Abfrage einer Datenbank, um die nächsten Nachbarn zu diesem Embedding zu finden. Spezialisierte Werkzeuge, sogenannte Vektordatenbanken, werden häufig verwendet, um diese Embeddings in großem Maßstab zu speichern und zu durchsuchen.
• Embeddings vs. Tokenisierung: Im Bereich der Natural Language Processing (NLP) ist die Tokenisierung der vorbereitende Schritt, Text in kleinere Stücke (Token) zu zerlegen. Diese Token werden dann Embeddings zugeordnet. Daher bereitet die Tokenisierung die Daten auf, während Embeddings die Bedeutung der Daten repräsentieren.
• Embeddings vs. Deep Learning: Deep Learning ist das breitere Feld des maschinellen Lernens, das auf neuronalen Netzen basiert. Embeddings sind ein spezifischer Output oder eine Schicht innerhalb einer Deep-Learning-Architektur und dienen oft als Brücke zwischen rohen Eingaben und den Entscheidungsfindungsschichten des Modells.

Entwickler, die den Lebenszyklus ihrer Datensätze verwalten möchten, einschließlich Annotation und Modelltraining zur Generierung benutzerdefinierter Embeddings, können die Ultralytics Platform nutzen. Dieses umfassende Tool vereinfacht den Arbeitsablauf von der Datenverwaltung bis zur Bereitstellung und stellt sicher, dass die Embeddings, die deine Anwendungen antreiben, aus hochwertigen, gut kuratierten Daten stammen. Ob du Frameworks wie PyTorch oder TensorFlow verwendest, die Beherrschung von Embeddings ist ein entscheidender Schritt beim Aufbau hochentwickelter Systeme zur Mustererkennung.