CPU

Eine Central Processing Unit (CPU) ist die Hauptkomponente eines Computers, die als dessen „Gehirn“ dient und für das Interpretieren und Ausführen von Anweisungen aus Hardware und Software verantwortlich ist. Im Kontext der artificial intelligence (AI) spielt die CPU eine grundlegende Rolle bei der Datenverarbeitung, der Systemorchestrierung und der Ausführung von Inferenz, insbesondere auf Edge-Geräten, bei denen Energieeffizienz entscheidend ist. Während spezialisierte Hardware wie GPUs oft mit der Schwerstarbeit beim Training von Deep-Learning-Modellen in Verbindung gebracht wird, bleibt die CPU für die gesamte machine learning (ML)-Pipeline unverzichtbar.

Die Rolle von CPUs in KI-Workflows#

Obwohl GPUs für ihre massive Parallelität beim Training gefeiert werden, ist die CPU das Arbeitstier für viele wesentliche Phasen des computer vision (CV)-Lebenszyklus. Ihre Architektur, die typischerweise auf x86- (Intel, AMD) oder ARM-Designs basiert, ist für sequenzielle Verarbeitung und komplexe Logiksteuerung optimiert.

• Datenvorverarbeitung: Bevor ein neuronales Netz lernen kann, müssen Daten aufbereitet werden. CPUs eignen sich hervorragend für Aufgaben wie das Laden von Dateien, data cleaning und komplexe Transformationen mithilfe von Bibliotheken wie NumPy und OpenCV.
• Edge-Inferenz: Für den realen Einsatz ist das Ausführen von Modellen auf massiven Servern nicht immer machbar. CPUs ermöglichen eine effiziente model deployment auf Verbraucherhardware, wie etwa das Ausführen von Ultralytics YOLO26 auf einem Laptop oder einem Raspberry Pi.
• Nachbearbeitung: Nachdem ein Modell rohe Wahrscheinlichkeiten ausgegeben hat, übernimmt die CPU häufig die finale Logik, wie etwa Non-Maximum Suppression (NMS) bei der Objekterkennung, um doppelte Vorhersagen herauszufiltern und Ergebnisse zu verfeinern.

CPU vs. GPU vs. TPU#

Das Verständnis der Hardware-Landschaft ist entscheidend für die Optimierung von machine learning operations (MLOps). Diese Prozessoren unterscheiden sich erheblich in ihrer Architektur und ihren idealen Anwendungsfällen.

• CPU: Entwickelt für Vielseitigkeit und komplexe Logik. Sie verfügt über einige wenige leistungsstarke Kerne, die Aufgaben nacheinander verarbeiten. Sie eignet sich am besten für data augmentation, Pipeline-Management und latenzarme Inferenz bei kleinen Batches.
• GPU (Graphics Processing Unit): Ursprünglich für Grafiken gedacht, verfügen GPUs über Tausende kleinerer Kerne, die für parallel processing ausgelegt sind. Sie sind der Standard für das model training, da sie Matrixmultiplikationen viel schneller ausführen können als eine CPU.
• TPU (Tensor Processing Unit): Eine spezialisierte Schaltung (ASIC), die von Google Cloud speziell für Tensormathematik entwickelt wurde. Sie ist zwar für bestimmte Workloads äußerst effizient, entbehrt jedoch der universellen Flexibilität einer CPU.

Praxisanwendungen#

CPUs sind häufig die Hardware der Wahl für Anwendungen, bei denen Kosten, Verfügbarkeit und Energieverbrauch wichtiger sind als die Notwendigkeit für massiven, rohen Durchsatz.

1. Intelligente Sicherheitskameras: In security alarm systems verarbeiten Kameras Videostreams oft lokal. Ein auf einer CPU basierendes object detection-Modell kann eine Person oder ein Fahrzeug identifizieren und einen Alarm auslösen, ohne Videos in die Cloud zu senden, wodurch Bandbreite und die Privatsphäre der Nutzer gewahrt bleiben.

2. Industrielle Automatisierung: In Werkshallen nutzen predictive maintenance-Systeme CPUs, um Sensordaten von Maschinen zu überwachen. Diese Systeme analysieren Vibrationen oder Temperaturspitzen in Echtzeit, um Ausfälle vorherzusagen, und gewährleisten so eine reibungslose manufacturing automation ohne den Bedarf an teuren GPU-Clustern.

Ausführen von Inferenz auf der CPU mit Ultralytics#

Entwickler testen Modelle häufig auf CPUs, um die Kompatibilität mit serverless computing-Umgebungen oder leistungsschwachen Geräten zu überprüfen. Die Ultralytics API ermöglicht es dir, die CPU ganz einfach anzusprechen, damit deine Anwendung überall läuft.

Das folgende Beispiel demonstriert, wie man ein leichtgewichtiges Modell lädt und die Inferenz speziell auf der CPU ausführt:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Um die Leistung auf Intel CPUs weiter zu steigern, können Entwickler ihre Modelle in das OpenVINO-Format exportieren, das die Struktur des neuronalen Netzwerks speziell für die x86-Architektur optimiert. Zur Verwaltung von Datensätzen und zur Orchestrierung dieser Bereitstellungen vereinfachen Tools wie die Ultralytics Platform den Workflow von der Annotation bis zur Edge-Ausführung.