Transformer

Ein Transformer ist eine Deep-Learning-Architektur, die auf einem Mechanismus namens Self-Attention beruht, um sequentielle Eingabedaten wie natürliche Sprache oder visuelle Merkmale zu verarbeiten. Ursprünglich von Google-Forschern in der wegweisenden Arbeit Attention Is All You Need vorgestellt, revolutionierte der Transformer den Bereich der künstlichen Intelligenz (KI), indem er die Einschränkungen der sequentiellen Verarbeitung früherer Recurrent Neural Networks (RNNs) aufhob. Stattdessen analysieren Transformer gesamte Datensequenzen gleichzeitig, was eine massive Parallelisierung und deutlich schnellere Trainingszeiten auf moderner Hardware wie GPUs ermöglicht.

So funktionieren Transformer#

Die Kerninnovation des Transformers ist der self-attention-Mechanismus. Dieser ermöglicht es dem Modell, die Wichtigkeit verschiedener Teile der Eingabedaten relativ zueinander zu gewichten. Beispielsweise kann das Modell in einem Satz lernen, dass das Wort „bank“ basierend auf dem umliegenden Kontext enger mit „Geld“ als mit „Fluss“ zusammenhängt.

Diese Architektur besteht im Allgemeinen aus zwei Hauptkomponenten:

• Encoder: Verarbeitet die Eingabedaten zu einer reichhaltigen numerischen Repräsentation oder einem embedding.
• Decoder: Verwendet die Ausgabe des Encoders, um das Endergebnis zu generieren, wie etwa einen übersetzten Satz oder eine vorhergesagte Bounding Box.

Im Bereich des computer vision (CV) verwenden Modelle üblicherweise eine Variante namens Vision Transformer (ViT). Anstatt Text-Token zu verarbeiten, wird das Bild in Fache mit fester Größe (z. B. 16x16 Pixel) unterteilt. Diese Patches werden flachgemacht und als Sequenz behandelt, wodurch das Modell „globalen Kontext“ erfassen kann – also Beziehungen zwischen weit entfernten Teilen eines Bildes besser versteht als ein standardmäßiges Convolutional Neural Network (CNN).

Transformer vs. verwandte Konzepte#

Es ist wichtig, die Transformer-Architektur von verwandten Begriffen zu unterscheiden:

• Attention Mechanism: Dies ist das allgemeine Konzept, sich auf bestimmte Teile von Daten zu konzentrieren. Der Transformer ist eine spezifische Architektur, die vollständig um Attention-Layer herum aufgebaut ist, während andere Modelle Attention möglicherweise nur als kleine Ergänzung nutzen.
• Large Language Model (LLM): Begriffe wie „GPT“ beziehen sich auf spezifische Modelle, die mit riesigen Mengen Text trainiert wurden. Fast alle modernen LLMs verwenden die Transformer-Architektur als zugrundeliegende Engine.

Praxisanwendungen#

Die Vielseitigkeit von Transformern hat zu ihrer Einführung in verschiedenen Branchen geführt:

1. Medizinische Bildgebung: In AI in Healthcare werden Transformer für komplexe Aufgaben wie die medical image analysis eingesetzt. Ihre Fähigkeit, globale räumliche Beziehungen zu verstehen, hilft dabei, subtile Anomalien in hochauflösenden MRT- oder CT-Scans zu erkennen, die von auf lokale Merkmale fokussierten CNNs möglicherweise übersehen werden.

2. Autonome Systeme: Für autonomous vehicles ist das Verständnis der Trajektorie von Fußgängern und anderen Fahrzeugen von entscheidender Bedeutung. Transformer zeichnen sich durch video understanding aus, indem sie Objekte über Zeitrahmen hinweg verfolgen und zukünftige Bewegungen vorhersagen, um eine sichere Navigation zu gewährleisten.

Objekterkennung mit Transformern#

Während CNNs die Objekterkennung traditionell dominiert haben, haben sich auf Transformern basierende Modelle wie das Real-Time Detection Transformer (RT-DETR) als leistungsstarke Alternativen etabliert. RT-DETR kombiniert die Geschwindigkeit von CNN-Backbones mit der Präzision von Transformer-Dekodierungsköpfen.

Reine Transformer-Modelle können jedoch rechenintensiv sein. Für viele Edge-Anwendungen bieten hochoptimierte Hybridmodelle wie YOLO26 – die effiziente Attention-Mechanismen mit schneller Faltungsverarbeitung kombinieren – eine überlegene Balance aus Geschwindigkeit und Genauigkeit. Sie können das Training und die Bereitstellung dieser Modelle ganz einfach über die Ultralytics Platform verwalten, die den Arbeitsablauf von der Datensatzannotation bis zum Modellexport optimiert.

Python-Beispiel: Verwendung von RT-DETR#

Das folgende Beispiel veranschaulicht, wie Inferenz mit einem Transformer-basierten Modell innerhalb des Pakets ultralytics durchgeführt wird. Dieser Code lädt ein vortrainiertes RT-DETR-Modell und erkennt Objekte in einem Bild.

from ultralytics import RTDETR

# Load a pre-trained Real-Time Detection Transformer (RT-DETR) model
model = RTDETR("rtdetr-l.pt")

# Run inference on an image URL
# The model uses self-attention to identify objects with high accuracy
results = model("https://ultralytics.com/images/bus.jpg")

# Display the detection results with bounding boxes
results[0].show()

Für weitere Lektüre zu den mathematischen Grundlagen bietet die PyTorch documentation on Transformer layers technische Tiefe, während IBM's guide to Transformers eine übergeordnete Geschäftsperspektive eröffnet.