CPU

Eine Zentraleinheit (CPU) ist die zentrale Komponente eines Computers, die als sein „Gehirn“ fungiert und für die Interpretation und Ausführung von Anweisungen aus Hard- und Software verantwortlich ist. Im Kontext der künstlichen Intelligenz (AI) spielt die CPU eine grundlegende Rolle bei der Datenverarbeitung, der Systemsteuerung und der Ausführung von Inferenz, insbesondere auf Edge-Geräten, bei denen Energieeffizienz entscheidend ist. Während spezialisierte Hardware wie GPUs häufig mit der rechenintensiven Verarbeitung beim Training von Deep-Learning-Modellen in Verbindung gebracht wird, bleibt die CPU für die gesamte Pipeline des maschinellen Lernens (ML) unverzichtbar.

Die Rolle von CPUs in Arbeitsabläufen der künstlichen Intelligenz#

Obwohl GPUs für ihre massive Parallelverarbeitung während des Trainings bekannt sind, ist die CPU bei vielen wichtigen Phasen des Lebenszyklus von Computervision (CV) das Arbeitstier. Ihre Architektur basiert typischerweise auf x86- (Intel, AMD) oder ARM-Designs und ist für die sequenzielle Verarbeitung sowie die Steuerung komplexer Logik optimiert.

• Datenvorverarbeitung: Bevor ein neuronales Netzwerk lernen kann, müssen Daten vorbereitet werden. CPUs eignen sich hervorragend für Aufgaben wie das Laden von Dateien, die Datenbereinigung und komplexe Transformationen mit Bibliotheken wie NumPy und OpenCV.
• Inferenz am Rand: Für den praktischen Einsatz ist die Ausführung von Modellen auf großen Servern nicht immer sinnvoll. CPUs ermöglichen eine effiziente Bereitstellung von Modellen auf handelsüblicher Hardware, etwa die Ausführung von Ultralytics YOLO26 auf einem Laptop oder einem Raspberry Pi.
• Nachverarbeitung: Nachdem ein Modell unverarbeitete Wahrscheinlichkeiten ausgegeben hat, übernimmt die CPU häufig die abschließende Logik, beispielsweise die Unterdrückung nicht maximaler Werte (NMS) bei der Objekterkennung, um doppelte Vorhersagen herauszufiltern und die Ergebnisse zu verfeinern.

CPU vs. GPU vs. TPU#

Das Verständnis der Hardwarelandschaft ist entscheidend für die Optimierung des Betriebs maschineller Lernsysteme (MLOps). Diese Prozessoren unterscheiden sich deutlich in ihrer Architektur und ihren idealen Einsatzbereichen.

• CPU: Für Vielseitigkeit und komplexe Logik ausgelegt. Sie verfügt über einige leistungsstarke Kerne, die Aufgaben sequenziell verarbeiten. Sie eignet sich am besten für Datenerweiterung, die Verwaltung von Datenverarbeitungspipelines und Inferenz mit geringer Latenz bei kleinen Stapeln.
• GPU (Grafikprozessor): Ursprünglich für Grafikanwendungen entwickelt, verfügen GPUs über Tausende kleinerer Kerne, die für die Parallelverarbeitung ausgelegt sind. Sie sind der Standard für das Training von Modellen, da sie Matrixmultiplikationen deutlich schneller als eine CPU ausführen können.
• TPU (Tensorverarbeitungseinheit): Eine spezialisierte Schaltung (ASIC), die von Google Cloud speziell für Tensorberechnungen entwickelt wurde. Obwohl sie für bestimmte Arbeitslasten äußerst effizient ist, fehlt ihr die Flexibilität einer CPU für allgemeine Aufgaben.

Anwendungen in der Praxis#

CPUs sind häufig die bevorzugte Hardware für Anwendungen, bei denen Kosten, Verfügbarkeit und Energieverbrauch wichtiger sind als ein maximaler Rohdurchsatz.

1. Intelligente Sicherheitskameras: In Sicherheitsalarmsystemen verarbeiten Kameras Videodaten häufig lokal. Ein CPU-basiertes Modell zur Objekterkennung kann eine Person oder ein Fahrzeug erkennen und einen Alarm auslösen, ohne Videodaten an die Cloud zu senden. Dadurch werden Bandbreite eingespart und die Privatsphäre der Nutzenden geschützt.

2. Industrielle Automatisierung: In Fabrikhallen verwenden Systeme zur vorausschauenden Wartung CPUs, um Sensordaten von Maschinen zu überwachen. Diese Systeme analysieren Vibrationen oder Temperaturspitzen in Echtzeit, um Ausfälle vorherzusagen und eine reibungslose Fertigungsautomatisierung ohne teure GPU-Cluster sicherzustellen.

Inferenz auf der CPU mit Ultralytics ausführen#

Entwickler testen Modelle häufig auf CPUs, um die Kompatibilität mit Umgebungen für serverloses Computing oder Geräten mit geringem Energieverbrauch zu überprüfen. Die Ultralytics API ermöglicht es dir, einfach die CPU als Ziel festzulegen, sodass deine Anwendung überall ausgeführt werden kann.

Das folgende Beispiel zeigt, wie du ein leichtgewichtiges Modell lädst und die Inferenz gezielt auf der CPU ausführst:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Um die Leistung auf Intel-CPUs weiter zu verbessern, können Entwickler ihre Modelle in das OpenVINO-Format exportieren, das die Struktur des neuronalen Netzwerks speziell für die x86-Architektur optimiert. Für die Verwaltung von Datensätzen und die Steuerung dieser Bereitstellungen vereinfachen Werkzeuge wie die Ultralytics Platform den Arbeitsablauf von der Annotation bis zur Ausführung am Edge.