Scalability

Skalierbarkeit bezeichnet die Fähigkeit eines Systems, Netzwerks oder Prozesses, ein wachsendes Arbeitsaufkommen durch das Hinzufügen von Ressourcen zu bewältigen. Im Kontext von Künstlicher Intelligenz (KI) und Maschinellem Lernen (ML) beschreibt Skalierbarkeit die Fähigkeit eines Modells oder einer Infrastruktur, das Leistungsniveau bei steigendem Bedarf aufrechtzuerhalten. Dieser Bedarf äußert sich typischerweise in größeren Datensätzen während des Trainings, höherem Benutzeraufkommen bei der Inferenz oder erhöhter Komplexität bei Rechenaufgaben. Eine skalierbare Architektur ermöglicht eine nahtlose Erweiterung – sei es durch die Bereitstellung eines Computer Vision Modells auf einem einzelnen eingebetteten Gerät oder die Bedienung von Millionen von API-Anfragen über Cloud-Cluster –, wodurch sichergestellt wird, dass die Inferenzlatenz auch bei hoher Last niedrig bleibt.

Link to this sectionDie Bedeutung von Skalierbarkeit in der KI#

Das Design auf Skalierbarkeit ist ein kritischer Bestandteil erfolgreicher Machine Learning Operations (MLOps). Ein Modell, das in einer kontrollierten Forschungsumgebung perfekt funktioniert, kann versagen, wenn es mit den hochfrequenten Datenströmen in der Produktion konfrontiert wird. Die effektive Verwaltung von Big Data erfordert Systeme, die horizontal (Hinzufügen weiterer Maschinen zu einem Cluster) oder vertikal (Hinzufügen von mehr Leistung, wie RAM oder GPUs, zu bestehenden Maschinen) skalieren können.

Zu den Hauptvorteilen skalierbarer KI-Systeme gehören:

• Zuverlässigkeit: Skalierbare Systeme gewährleisten eine konsistente Verfügbarkeit bei unerwarteten Verkehrsspitzen und verhindern Abstürze in kritischen Anwendungen.
• Kosteneffizienz: Dynamische Skalierung ermöglicht es, Ressourcen in Zeiten geringer Auslastung herunterzufahren, eine Funktion, die oft von Cloud-Computing Plattformen wie AWS oder Google Cloud verwaltet wird.
• Zukunftssicherheit: Eine skalierbare Infrastruktur ermöglicht die Aufnahme neuerer, komplexerer Algorithmen, wie z. B. Vision Transformers (ViT), ohne dass eine komplette Überholung des Hardware-Ökosystems erforderlich ist.

Link to this sectionStrategien zur Erreichung von Skalierbarkeit#

Die Schaffung skalierbarer KI-Lösungen beinhaltet die Optimierung sowohl der Modellarchitektur als auch der Bereitstellungsinfrastruktur.

• Verteiltes Training: Wenn Trainingsdatensätze für einen einzelnen Prozessor zu groß werden, verteilt verteiltes Training die Arbeitslast auf mehrere Graphics Processing Units (GPUs). Frameworks wie PyTorch Distributed ermöglichen es Entwicklern, Berechnungen zu parallelisieren, was die für das Training von Basismodellen benötigte Zeit erheblich verkürzt. Tools wie die Ultralytics Platform vereinfachen diesen Prozess durch die automatische Verwaltung von Cloud-Trainingsressourcen.
• Effiziente Modellarchitekturen: Die Wahl der richtigen Modellarchitektur ist entscheidend für den Durchsatz. Das neueste Ultralytics YOLO26 ist so konzipiert, dass es kleiner und schneller als seine Vorgänger ist, wodurch es nativ über diverse Hardware hinweg skalierbar ist, von Edge AI Geräten bis hin zu massiven Serverfarmen.
• Containerisierung und Orchestrierung: Das Verpacken von Anwendungen mit Docker stellt sicher, dass sie konsistent in verschiedenen Umgebungen ausgeführt werden können. Für die Verwaltung großer Container-Cluster automatisiert Kubernetes die Bereitstellung, Skalierung und Verwaltung containerisierter Anwendungen.
• Modelloptimierung: Techniken wie Modellquantisierung und Pruning reduzieren den Speicherbedarf und die Rechenkosten eines Modells. Tools wie NVIDIA TensorRT können die Inferenzgeschwindigkeit weiter beschleunigen und so einen höheren Durchsatz auf bestehender Hardware ermöglichen.

Link to this sectionCode-Beispiel: Skalierbare Batch-Inferenz#

Eine effektive Methode zur Verbesserung der Skalierbarkeit während der Inferenz ist die Verarbeitung von Eingaben in Batches statt sequenziell. Dies maximiert die GPU-Auslastung und erhöht den Gesamtdurchsatz.

from ultralytics import YOLO

# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")

Link to this sectionPraxisanwendungen#

Skalierbarkeit ermöglicht es KI-Technologien, von der theoretischen Forschung zu globalen industriellen Werkzeugen überzugehen.

• Intelligente Fertigung: Im Bereich der KI in der Fertigung müssen automatisierte Inspektionssysteme Tausende von Komponenten pro Stunde an Hochgeschwindigkeits-Montagelinien analysieren. Ein skalierbares Objekterkennungssystem stellt sicher, dass bei steigenden Produktionsgeschwindigkeiten der Qualitätskontrollprozess eine hohe Genauigkeit beibehält, ohne zum Flaschenhals zu werden.
• Einzelhandels-Empfehlungs-Engines: Große E-Commerce-Plattformen nutzen Empfehlungssysteme, um sofort Millionen von personalisierten Produktvorschlägen bereitzustellen. Eine skalierbare Infrastruktur ermöglicht es diesen Plattformen, massive Ereignisse wie den Black Friday zu bewältigen, bei denen der Datenverkehr um das 100-fache ansteigen kann, indem dynamisch zusätzliche Serverknoten über Microsoft Azure oder ähnliche Anbieter bereitgestellt werden.

Link to this sectionSkalierbarkeit vs. verwandte Konzepte#

Obwohl sie oft synonym verwendet werden, unterscheidet sich Skalierbarkeit von Leistung und Effizienz.

• Skalierbarkeit vs. Leistung: Leistung bezieht sich normalerweise darauf, wie schnell oder genau ein System zu einem bestimmten Zeitpunkt ist (z. B. Bilder pro Sekunde). Skalierbarkeit beschreibt die Fähigkeit des Systems, diese Leistung beizubehalten, während das Arbeitsaufkommen zunimmt.
• Skalierbarkeit vs. Effizienz: Effizienz misst die Ressourcen, die zur Erledigung einer bestimmten Aufgabe verwendet werden (z. B. Energieverbrauch pro Inferenz). Ein System kann effizient, aber nicht skalierbar sein (wenn es keine parallelen Aufgaben bewältigen kann), oder skalierbar, aber ineffizient (wenn es übermäßige Ressourcen verwendet, um Wachstum zu bewältigen).
• Skalierbarkeit vs. Flexibilität: Flexibilität ermöglicht es einem System, verschiedene Arten von Aufgaben zu bewältigen, wie zum Beispiel YOLO11, das Erkennung, Segmentierung und Pose-Schätzung handhabt. Skalierbarkeit konzentriert sich speziell darauf, mehr von derselben Aufgabe zu bewältigen.