Cloud Computing

Cloud Computing ist die bedarfsgerechte Bereitstellung von Rechenressourcen wie Servern, Speicher, Datenbanken, Netzwerken, GPUs und vollständigen Softwareanwendungen über das Internet aus den Rechenzentren eines Anbieters. Abgerechnet wird nach der tatsächlichen Nutzung. Das US-amerikanische Nationale Institut für Standards und Technologie definierte den Begriff 2011 in NIST SP 800-145 anhand von fünf wesentlichen Merkmalen: bedarfsgerechter Selbstbedienung, umfassendem Netzwerkzugriff, gemeinsamer Nutzung von Ressourcen durch viele Kunden, schneller Elastizität und messbarem Dienst. Amazon Web Services führte 2006 seine Speicherdienste S3 und seinen Rechendienst EC2 ein. AWS, Microsoft Azure und Google Cloud gehören heute zu den größten Anbietern. Für künstliche Intelligenz macht die Cloud teure Beschleuniger zu Ressourcen, die sich für einen Nachmittag mieten lassen. So trainieren die meisten Teams große Modelle, ohne ein eigenes Rechenzentrum zu besitzen.

Dienst- und Bereitstellungsmodelle#

Die Dienstmodelle unterscheiden sich darin, wie viele Ebenen des Technologie-Stacks der Anbieter verwaltet:

• Infrastructure as a Service (IaaS): Virtuelle Maschinen, Blockspeicher und Netzwerke, wobei der Kunde Betriebssystem, Treiber und Software selbst verwaltet. GPU-Instanzen virtueller Maschinen wie Amazon-EC2-P5-Instanzen sind IaaS.
• Platform as a Service (PaaS): Verwaltete Laufzeitumgebungen, Datenbanken und Kubernetes-Cluster. Der Kunde stellt den Code bereit, während der Anbieter Server und Aktualisierungen verwaltet. Verwaltete ML-Plattformen wie Amazon SageMaker, Google Vertex AI und Azure Machine Learning ergänzen dies um Trainingsaufträge und Modellendpunkte.
• Serverloses Computing: Funktionen oder Container, die bei jeder Anfrage gestartet werden, im Leerlauf auf null herunterskalieren und pro Anfrage sowie Ausführungszeit abgerechnet werden. Dieses neuere Modell macht Server vollständig unsichtbar.
• Software as a Service (SaaS): Vollständige Anwendungen, die in einem Browser oder über eine API genutzt werden, ohne dass der Kunde etwas betreiben muss.

NIST benennt außerdem vier Bereitstellungsmodelle: öffentliche Clouds, die von vielen Kunden gemeinsam genutzt werden; private Clouds, die für eine Organisation betrieben werden; Community-Clouds, die Organisationen mit gemeinsamen Anforderungen nutzen; und hybride Clouds, die diese Modelle kombinieren. Bei allen Modellen gilt ein Modell der geteilten Verantwortung: Der Anbieter sichert die physischen Rechenzentren und die Virtualisierungsebene ab, während der Kunde für Identitäten, Konfigurationen und Datensicherheit verantwortlich ist.

Cloud Computing für KI#

Das Training beansprucht am meisten Rechenleistung in der KI. Cloud-Anbieter vermieten einzelne GPUs oder Cluster aus NVIDIA-H100-, H200- und B200-Beschleunigern, die für verteiltes Training über schnelle Verbindungen gekoppelt sind. Google Cloud bietet außerdem eigene TPUs an. Freie Kapazitäten sind günstiger: AWS-Spot-Instances kosten bis zu 90 % weniger als bedarfsgerecht bereitgestellte Instanzen, können aber mit einer Vorwarnzeit von zwei Minuten zurückgefordert werden. Auf solchen Instanzen laufende Aufträge speichern deshalb regelmäßig Prüfpunkte ihrer Modellgewichte, damit sie fortgesetzt werden können.

Die Platzierung von Daten beeinflusst die Cloud-Kosten. Datensätze liegen im Objektspeicher, der häufig als Data Lake organisiert ist. Anbieter berechnen Gebühren für aus ihrem Netzwerk ausgehende Daten, während eingehende Daten meist kostenlos sind. Deshalb wird die Trainingsberechnung häufig in derselben Region wie die gelesenen Big Data ausgeführt. Für die Inferenz laufen als Docker-Container verpackte Modelle auf verwalteten Endpunkten für die Modellbereitstellung oder in Kubernetes-Clustern, die bei verändertem Datenverkehr Replikate hinzufügen oder entfernen. Das entspricht der schnellen Elastizität in NISTs Definition. Regionen in Nutzernähe halten die Inferenzlatenz niedrig. Cloud-ML-Plattformen bieten außerdem die umgebenden MLOps-Tools für Experimentverfolgung, Modellregister und Modellüberwachung.

Die Ultralytics Platform überträgt dieses nutzungsbasierte Mietmodell auf das YOLO-Training: Cloud-Training bietet 26 GPU-Typen, von einer RTX 2000 Ada mit 16 GB bis zu einer B300 mit 288 GB. Abgerechnet wird die tatsächlich für einen Lauf genutzte GPU-Zeit. Ist die ausgewählte GPU nicht verfügbar, wird die ähnlichste verfügbare GPU vorgeschlagen – zuerst anhand des VRAM, dann der Geschwindigkeit und schließlich des Preises.

Cloud Computing und Edge Computing im Vergleich#

Edge Computing verarbeitet Daten auf oder nahe den Geräten, die sie erzeugen, etwa Kameras, Robotern und Gateways. So entfällt der Umweg über das Netzwerk zu einem Rechenzentrum, und der Betrieb läuft auch bei unterbrochener Verbindung weiter. Cloud Computing bündelt elastische Kapazitäten für Aufgaben mit besonders hohem Bedarf: Training, umfangreiche Stapelverarbeitung, Langzeitspeicherung und Dienste, bei denen Nutzer Verzögerungen im Netzwerk von einigen Dutzend Millisekunden tolerieren können. Die meisten Systeme für Computer Vision kombinieren beides. Ein auf Cloud-GPUs trainiertes Modell wird in ein kompaktes Format wie ONNX oder TensorRT exportiert und als Edge-KI auf dem Gerät ausgeführt. Das Gerät sendet Erkennungen und ausgewählte Bilder zurück in die Cloud, wo sie als Trainingsdaten für die nächste Modellversion dienen.