Docker

Docker ist eine Open-Source-Plattform, die es Entwicklern ermöglicht, die Bereitstellung, Skalierung und Verwaltung von Anwendungen mittels Containerisierung zu automatisieren. Im Kontext von künstlicher Intelligenz und maschinellem Lernen fungiert Docker als standardisierte Softwareeinheit, die Code und alle dazugehörigen Abhängigkeiten – wie Bibliotheken, Systemwerkzeuge und Einstellungen – verpackt, sodass die Anwendung schnell und zuverlässig von einer Rechenumgebung zur nächsten übertragen werden kann. Dies eliminiert das bekannte Problem "auf meinem Rechner funktioniert es", da sichergestellt wird, dass ein auf dem Laptop eines Forschers trainiertes neural network sich bei der Bereitstellung auf einem massiven Cloud-Server oder einem Edge-Gerät exakt genauso verhält.

Link to this sectionWarum Docker für KI und maschinelles Lernen wichtig ist#

Moderne machine learning operations (MLOps) stützen sich stark auf Reproduzierbarkeit und Portabilität. Ein KI-Projekt umfasst oft einen komplexen Software-Stack, einschließlich spezifischer Versionen von Python, CUDA-Treiber für GPU acceleration sowie Deep-Learning-Frameworks wie PyTorch oder TensorFlow. Die manuelle Verwaltung dieser Komponenten über verschiedene Teams und Infrastrukturen hinweg ist fehleranfällig.

Docker vereinfacht dies durch das Erstellen leichtgewichtiger, eigenständiger Container. Im Gegensatz zu traditionellen virtuellen Maschinen (VMs), die für jede Instanz ein vollständiges Betriebssystem benötigen, nutzen Container den OS-Kernel der Host-Maschine, laufen jedoch in isolierten Benutzerumgebungen. Dies macht sie deutlich ressourceneffizienter und schneller beim Start, was bei der Skalierung von model serving-Infrastrukturen oder bei der Ausführung verteilter Trainingsjobs von entscheidender Bedeutung ist.

Link to this sectionPraxisanwendungen#

Docker ist im KI-Lebenszyklus allgegenwärtig, von der ersten Experimentierphase bis zur endgültigen Bereitstellung.

1. Konsistente Trainingsumgebungen: Ein Data-Science-Team kann Docker-Images verwenden, um eine einheitliche Entwicklungsumgebung zu teilen. Beispielsweise kann ein Forscher, der an object detection arbeitet, ein vorkonfiguriertes Image abrufen, das alle notwendigen Treiber und Bibliotheken enthält. Dies stellt sicher, dass die Ergebnisse beim Training eines YOLO26-Modells von Kollegen reproduziert werden können, unabhängig von den zugrunde liegenden Hardware-Unterschieden.

2. Edge AI-Bereitstellung: Bei der smart city surveillance müssen aktualisierte Modelle auf tausende Edge-Geräte übertragen werden, wie zum Beispiel Verkehrskameras oder Drohnen. Docker-Container ermöglichen es Ingenieuren, eine neue Modellversion zu verpacken und drahtlos bereitzustellen. Da der Container die Inference-Runtime enthält, verläuft der Update-Prozess reibungslos und beeinträchtigt nicht das zugrunde liegende Betriebssystem des Geräts.

Link to this sectionDocker vs. Kubernetes vs. Virtuelle Maschinen#

Es ist hilfreich, Docker von verwandten Technologien abzugrenzen, um seine spezifische Rolle zu verstehen:

• Docker vs. Virtuelle Maschinen (VMs): VMs virtualisieren die Hardware, was bedeutet, dass jede VM ein vollwertiges Betriebssystem (wie Windows oder Linux) auf einem Hypervisor ausführt. Dies verbraucht erheblichen Arbeitsspeicher und CPU-Leistung. Docker virtualisiert das Betriebssystem, wodurch Container wesentlich kleiner und schneller als VMs sind.
• Docker vs. Kubernetes: Dies sind komplementäre, nicht konkurrierende Technologien. Docker ist das Werkzeug, mit dem einzelne Container erstellt und ausgeführt werden. Kubernetes ist eine Container-Orchestrierungsplattform, die Cluster von Docker-Containern verwaltet und Aufgaben wie Auto-Scaling, Lastverteilung und Selbstheilung in großen cloud computing-Umgebungen übernimmt.

Link to this sectionBeispiel: Ausführung von Inference in einem Container#

Das folgende Beispiel zeigt, wie ein Python-Skript in einem für Computer Vision entwickelten Docker-Container aussehen könnte. Dieses Skript verwendet das ultralytics-Paket, um ein Modell zu laden und Inference durchzuführen. Die Container-Umgebung stellt sicher, dass die korrekten Abhängigkeiten (wie opencv-python und torch) bereits vorhanden sind.

from ultralytics import YOLO

# Load the YOLO26 model (weights are typically included in the Docker image)
model = YOLO("yolo26n.pt")

# Perform inference on an image source
# In a containerized microservice, this might process incoming API requests
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Log the detection results
print(f"Detected {len(results[0].boxes)} objects in the image.")

Link to this sectionIntegration von Docker in deinen Workflow#

Um mit der Containerisierung zu beginnen, definieren Entwickler üblicherweise ein Dockerfile, ein Textdokument mit allen Befehlen zum Erstellen eines Images. Nach dem Erstellen können diese Images in Registries wie Docker Hub oder dem NVIDIA NGC Catalog, das GPU-optimierte Container bietet, gespeichert werden.

Für diejenigen, die den Trainings- und Bereitstellungsprozess optimieren möchten, ohne Dockerfiles manuell zu verwalten, bietet die Ultralytics Platform integrierte Tools, die die Komplexität von Cloud-Umgebungen handhaben. Dies ermöglicht es Benutzern, sich auf die Verbesserung der model accuracy zu konzentrieren, anstatt die Infrastruktur zu konfigurieren. Darüber hinaus kannst du unseren Docker Quickstart Guide erkunden, um zu lernen, wie man Ultralytics-Modelle sofort in Containern ausführt.