GPU (Graphics Processing Unit)

Eine Graphics Processing Unit (GPU) ist ein spezialisierter elektronischer Schaltkreis, der ursprünglich dazu entwickelt wurde, die Manipulation und Erstellung von Bildern in einem Frame-Buffer für die Anzeigeausgabe zu beschleunigen. Während ihre Wurzeln im Rendering von computer graphics für Spiele und professionelle Visualisierungen liegen, haben sich GPUs zum fundamentalen Motor der modernen Artificial Intelligence (AI) entwickelt. Im Gegensatz zu einem Standardprozessor, der einige wenige leistungsstarke Kerne zur sequenziellen Abarbeitung von Aufgaben nutzt, besteht eine GPU-Architektur aus Tausenden kleinerer, effizienter Kerne, die für die gleichzeitige Ausführung mehrerer Aufgaben konzipiert sind. Diese Fähigkeit, bekannt als parallel computing, macht sie außergewöhnlich effizient für die massiven Matrix- und Vektoroperationen, die Deep Learning (DL) und komplexe Neural Networks (NN) zugrunde liegen.

Link to this sectionBeschleunigung von KI-Workloads#

Der Hauptgrund, warum GPUs für Machine Learning (ML) unverzichtbar sind, ist ihre Fähigkeit zur Durchführung von Hochgeschwindigkeits-Matrixmultiplikationen. Deep-Learning-Frameworks wie PyTorch und TensorFlow sind speziell darauf optimiert, diese Hardwarebeschleunigung zu nutzen. Dies führt zu einer signifikanten Reduzierung der Zeiten für model training, wodurch aus Wochen der Berechnung auf einem Standardprozessor oft nur Stunden auf einer GPU werden. Der rechnerische Durchsatz dieser Geräte wird typischerweise in FLOPS (Floating Point Operations Per Second) gemessen, einer kritischen Kennzahl zur Bewertung der Fähigkeit von Hardware, die hohen Anforderungen modernster Modelle wie YOLO26 zu erfüllen.

Link to this sectionHardware-Unterschiede: GPU vs. CPU vs. TPU#

Um die Hardware-Landschaft zu verstehen, ist es hilfreich, die GPU von anderen Prozessoreinheiten zu unterscheiden:

• CPU (Central Processing Unit): Das Allzweck-"Gehirn" eines Computers. CPUs sind hervorragend für sequenzielle Verarbeitung und komplexe logische Verzweigungen geeignet, jedoch weniger effizient für die massive Parallelisierung, die für groß angelegtes KI-Training erforderlich ist.
• GPU (Graphics Processing Unit): Der Industriestandard für Training und Inferenz. Führende Hersteller wie NVIDIA nutzen Software-Ökosysteme wie CUDA, um Entwicklern die direkte Programmierung der GPU für allgemeine Rechenaufgaben zu ermöglichen.
• TPU (Tensor Processing Unit): Ein Application-Specific Integrated Circuit (ASIC), das speziell für neuronale Netzwerk-Maschinenlernen entwickelt wurde. Während sie für spezifische Tensor-Operationen äußerst effizient sind, sind sie für allgemeinere Rechenaufgaben weniger vielseitig als GPUs.

Link to this sectionPraxisanwendungen#

Die Implementierung von Hochleistungs-GPUs hat Innovationen in verschiedensten Branchen vorangetrieben:

• Autonomous Vehicles: Selbstfahrende Autos müssen jede Sekunde Gigabytes an Daten von Kameras, Radar- und LiDAR-Sensoren verarbeiten. GPUs ermöglichen real-time inference, wodurch der Bordcomputer des Fahrzeugs Object Detection-Modelle ausführen kann, die Fußgänger, Verkehrsschilder und Hindernisse augenblicklich identifizieren.
• Medical Image Analysis: Im Gesundheitswesen beschleunigen GPUs die Verarbeitung hochauflösender Scans wie MRTs und CTs. Sie ermöglichen anspruchsvolle Image Segmentation-Algorithmen zur präzisen Abgrenzung von Tumoren oder Organen und unterstützen Radiologen dabei, schnellere und genauere Diagnosen zu stellen, ohne sich ausschließlich auf die manuelle Untersuchung verlassen zu müssen.

Link to this sectionTraining mit GPUs#

Bei der Verwendung des ultralytics-Pakets ist die Nutzung einer GPU unkompliziert und für effiziente Arbeitsabläufe sehr zu empfehlen. Die Bibliothek unterstützt die automatische Geräteerkennung, aber du kannst das Gerät auch explizit angeben.

Das folgende Beispiel zeigt, wie du ein YOLO26-Modell auf der ersten verfügbaren GPU trainierst:

from ultralytics import YOLO

# Load the YOLO26n model
model = YOLO("yolo26n.pt")

# Train the model on the first available GPU (device=0)
# This significantly accelerates training compared to CPU usage
results = model.train(data="coco8.yaml", epochs=5, imgsz=640, device=0)

Link to this sectionBereitstellung und Optimierung#

Über das Training hinaus spielen GPUs eine entscheidende Rolle bei der Model Deployment. Um die Effizienz während der Inferenz zu maximieren, werden Modelle oft in optimierte Formate wie TensorRT konvertiert, wodurch das neuronale Netzwerk so umstrukturiert wird, dass es perfekt auf die spezifische GPU-Architektur abgestimmt ist und die Latenz reduziert wird. Für Entwickler, die keinen Zugang zu lokaler High-End-Hardware haben, bietet die Ultralytics Platform cloudbasierte Lösungen zur Verwaltung von Datensätzen und zum Training von Modellen auf leistungsstarken Remote-GPU-Clustern. Diese Zugänglichkeit treibt Innovationen im Bereich Edge AI voran und ermöglicht es, komplexe Computer Vision (CV)-Aufgaben auf kleineren, energieeffizienten Geräten im Feld einzusetzen.