CPU

Eine Central Processing Unit (CPU) ist die Hauptkomponente eines Computers, die als dessen "Gehirn" fungiert und für die Interpretation und Ausführung von Befehlen aus Hardware und Software verantwortlich ist. Im Kontext der künstlichen Intelligenz (KI) spielt die CPU eine grundlegende Rolle bei der Datenverarbeitung, der Systemorchestrierung und der Ausführung von Inferenz, insbesondere auf Edge-Geräten, wo Energieeffizienz entscheidend ist. Während spezialisierte Hardware wie GPUs oft mit der Schwerstarbeit des Trainings von Deep-Learning-Modellen assoziiert wird, bleibt die CPU für die gesamte Pipeline für maschinelles Lernen (ML) unverzichtbar.

Link to this sectionDie Rolle von CPUs in KI-Workflows#

Obwohl GPUs für ihre massive Parallelität während des Trainings gefeiert werden, ist die CPU das Arbeitstier für viele wesentliche Phasen des Lebenszyklus von Computer Vision (CV). Ihre Architektur, die typischerweise auf x86 (Intel, AMD) oder ARM-Designs basiert, ist für sequentielle Verarbeitung und komplexe Logiksteuerung optimiert.

• Datenvorverarbeitung: Bevor ein neuronales Netz lernen kann, müssen Daten vorbereitet werden. CPUs sind hervorragend geeignet für Aufgaben wie das Laden von Dateien, die Datenbereinigung und komplexe Transformationen unter Verwendung von Bibliotheken wie NumPy und OpenCV.
• Edge-Inferenz: Für den realen Einsatz ist es nicht immer machbar, Modelle auf riesigen Servern auszuführen. CPUs ermöglichen eine effiziente Modellbereitstellung auf Consumer-Hardware, wie zum Beispiel die Ausführung von Ultralytics YOLO26 auf einem Laptop oder einem Raspberry Pi.
• Nachbearbeitung: Nachdem ein Modell rohe Wahrscheinlichkeiten ausgegeben hat, übernimmt die CPU oft die finale Logik, wie zum Beispiel die Non-Maximum Suppression (NMS) bei der Objekterkennung, um doppelte Vorhersagen herauszufiltern und Ergebnisse zu verfeinern.

Link to this sectionCPU vs. GPU vs. TPU#

Das Verständnis der Hardware-Landschaft ist entscheidend für die Optimierung von Machine Learning Operations (MLOps). Diese Prozessoren unterscheiden sich signifikant in ihrer Architektur und ihren idealen Anwendungsfällen.

• CPU: Entwickelt für Vielseitigkeit und komplexe Logik. Sie verfügt über wenige, aber leistungsstarke Kerne, die Aufgaben sequentiell verarbeiten. Sie ist am besten geeignet für Datenaugmentierung, Pipeline-Management und Inferenz mit niedriger Latenz bei kleinen Batches.
• GPU (Graphics Processing Unit): Ursprünglich für Grafik gedacht, verfügen GPUs über Tausende kleinerer Kerne, die für parallele Verarbeitung ausgelegt sind. Sie sind der Standard für das Modelltraining, da sie Matrixmultiplikationen viel schneller durchführen können als eine CPU.
• TPU (Tensor Processing Unit): Ein spezialisierter Schaltkreis (ASIC), der von Google Cloud speziell für Tensor-Berechnungen entwickelt wurde. Obwohl er für bestimmte Arbeitslasten äußerst effizient ist, fehlt ihm die allgemeine Flexibilität einer CPU.

Link to this sectionPraxisanwendungen#

CPUs sind häufig die Hardware der Wahl für Anwendungen, bei denen Kosten, Verfügbarkeit und Energieverbrauch wichtiger sind als die Notwendigkeit für massiven, rohen Durchsatz.

1. Intelligente Überwachungskameras: In Sicherheitsalarmsystemen verarbeiten Kameras Videostreams oft lokal. Ein CPU-basiertes Modell zur Objekterkennung kann eine Person oder ein Fahrzeug identifizieren und einen Alarm auslösen, ohne Videos in die Cloud zu senden, was Bandbreite und die Privatsphäre des Nutzers schont.

2. Industrielle Automatisierung: In Fabriken nutzen Systeme zur vorausschauenden Wartung CPUs, um Sensordaten von Maschinen zu überwachen. Diese Systeme analysieren Vibrationen oder Temperaturspitzen in Echtzeit, um Ausfälle vorherzusagen und eine reibungslose Fertigungsautomatisierung ohne die Notwendigkeit teurer GPU-Cluster zu gewährleisten.

Link to this sectionAusführen von Inferenz auf der CPU mit Ultralytics#

Entwickler testen Modelle oft auf CPUs, um die Kompatibilität mit Serverless Computing-Umgebungen oder stromsparenden Geräten zu überprüfen. Die Ultralytics API ermöglicht es dir, einfach die CPU anzusprechen und sicherzustellen, dass deine Anwendung überall läuft.

Das folgende Beispiel demonstriert, wie man ein leichtgewichtiges Modell lädt und die Inferenz speziell auf der CPU ausführt:

from ultralytics import YOLO

# Load the lightweight YOLO26 nano model
# Smaller models are optimized for faster CPU execution
model = YOLO("yolo26n.pt")

# Run inference on an image, explicitly setting the device to 'cpu'
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Print the detection results (bounding boxes)
print(results[0].boxes.xywh)

Um die Leistung auf Intel-CPUs weiter zu verbessern, können Entwickler ihre Modelle in das OpenVINO-Format exportieren, das die Struktur des neuronalen Netzes speziell für die x86-Architektur optimiert. Für die Verwaltung von Datensätzen und die Orchestrierung dieser Bereitstellungen vereinfachen Tools wie die Ultralytics Platform den Workflow von der Annotation bis zur Edge-Ausführung.