So wählst du eine Cloud-GPU für Vision-KI-Training auf der Ultralytics Platform

Letzten Monat haben wir die Ultralytics Platform eingeführt, eine End-to-End-Umgebung, die entwickelt wurde, um den gesamten Workflow der Computer Vision zu optimieren – von der Datensatzverwaltung bis hin zum Modelltraining und Deployment. Die Ultralytics Platform vereint alles, was du zum Erstellen und Skalieren von Vision-AI-Modellen benötigst, in einer einzigen, einheitlichen Erfahrung.

Ein zentraler Teil dieses Workflows ist das Modelltraining, bei dem neuronale Netze Muster aus Daten lernen, um präzise Vorhersagen zu treffen. Der Zugriff auf die richtigen Rechenressourcen spielt dabei eine entscheidende Rolle. Wir haben bereits untersucht, wie die Ultralytics Platform Cloud-GPU-gestütztes Modelltraining unterstützt, wodurch Nutzer Computer-Vision-Modelle trainieren können, ohne lokale Infrastruktur verwalten zu müssen.

Dank On-Demand-Zugriff auf leistungsstarke NVIDIA-GPUs können Nutzer – von Studenten und Startups bis hin zu Forschern und großen Unternehmen – KI-Workloads effizienter als je zuvor ausführen. Der Einstieg in das Cloud-Training ist zwar unkompliziert, aber bei der Wahl der richtigen GPU müssen Faktoren wie Datensatzgröße, Modellkomplexität und Kosten berücksichtigt werden.

Mit der heute verfügbaren breiten Palette an Optionen, von kosteneffizienten RTX-GPUs bis hin zu leistungsstarken NVIDIA H100 und der Blackwell-Hardware der nächsten Generation, kann die Auswahl der richtigen Konfiguration sowohl die Modellentwicklung als auch die Kosten erheblich beeinflussen.

In diesem Artikel betrachten wir das Cloud-GPU-Training für Computer Vision auf der Ultralytics Platform und wie du die passende Hardware für deinen Workload auswählst. Legen wir los!

Link to this sectionEin Überblick über das Cloud-Training auf der Ultralytics Platform#

Bevor wir uns damit befassen, wie man eine GPU für das Cloud-Training auf der Ultralytics Platform auswählt, machen wir einen Schritt zurück und betrachten, wie Cloud-Training funktioniert.

Link to this sectionWas ist Cloud-GPU-Training?#

Cloud-GPU-Training bedeutet, dass in einer Cloud-Umgebung gehostete GPUs verwendet werden, um Machine-Learning- und Deep-Learning-Modelle zu trainieren, anstatt sich auf eigene lokale Hardware oder Workstations zu verlassen. Auf der Ultralytics Platform ermöglicht dir dies den On-Demand-Zugriff auf leistungsstarke GPUs und das remote Ausführen von Trainingsaufträgen, ohne dass du ein eigenes Setup benötigst.

Dadurch ist es einfach, deine Ressourcen basierend auf deinem Workload zu skalieren. Du kannst leistungsstärkere GPUs wählen oder die Kapazität nach Bedarf erhöhen, ohne durch die Fähigkeiten deines eigenen Systems eingeschränkt zu sein. Du kannst es dir wie den Zugriff auf leistungsstarke Maschinen oder Knoten in entfernten Rechenzentren vorstellen, die du je nach Bedarf hoch- oder herunterskalieren kannst.

Es entfällt auch die Notwendigkeit, teure Hardware einzurichten und zu warten. Du musst keine GPUs kaufen, keine Treiber installieren oder dich mit Kompatibilitätsproblemen herumschlagen.

Die Ultralytics Platform erledigt alles über verwaltete Cloud-Dienste, von der Bereitstellung der Ressourcen bis zur Umgebungs-Einrichtung, Orchestrierung und Durchführung von Trainingsjobs, sodass du dich voll auf das Training, Experimentieren und Verbessern deiner Modelle konzentrieren kannst.

Link to this sectionWie Modelltraining auf der Ultralytics Platform funktioniert#

Auf der Ultralytics Platform ist der GPU-beschleunigte Trainings-Workflow unkompliziert. Du kannst damit beginnen, deinen Datensatz auf verschiedene Arten einzubinden.

Du kannst deine eigenen Daten hochladen, öffentliche Datensätze nutzen, die auf der Plattform verfügbar sind, oder von der Community geteilte Datensätze klonen, um auf bestehenden Arbeiten aufzubauen. Durch das Klonen eines Datensatzes wird eine Kopie in deinem Arbeitsbereich erstellt, die du bearbeiten und erweitern kannst, während das Original unverändert bleibt.

Sobald du einen Datensatz ausgewählt hast, kannst du deine Bilder und Annotationen überprüfen und organisieren, um sicherzustellen, dass alles korrekt strukturiert ist. Die Plattform enthält außerdem integrierte Annotationswerkzeuge, mit denen du Daten für Aufgaben wie Objekterkennung, Segmentierung und Klassifizierung labeln oder den Prozess mit KI-gestützten Funktionen beschleunigen kannst.

Abb. 1. Anzeigen eines Datensatzes innerhalb der Ultralytics Platform (Quelle)

Als Nächstes kannst du ein Projekt auswählen oder erstellen, um deine Trainingsläufe zu verwalten. Projekte helfen dir dabei, Modelle zu organisieren und zu vergleichen, Leistungsmetriken zu verfolgen und zugehörige Experimente an einem Ort zu speichern.

Von dort aus kannst du zum Cloud-Training übergehen, wo du ein Modell auswählst, Parameter konfigurierst und eine GPU basierend auf deinen Leistungs- und Budgetanforderungen auswählst. Die Plattform kümmert sich um die zugrunde liegende Cloud-Infrastruktur für dich.

Sie stellt die gewählte GPU-Instanz bereit, bereitet deinen Datensatz vor und führt den Trainingsauftrag in der Cloud aus. Während das Training läuft, kannst du Metriken, Logs und Systemleistung in Echtzeit überwachen, ohne Setup, CUDA-Umgebungen, Frameworks wie PyTorch oder TensorFlow oder Hardware verwalten zu müssen.

Link to this sectionWichtige GPU-Trainingsfunktionen auf der Ultralytics Platform#

Hier sind einige wichtige Funktionen des Cloud-GPU-Trainings auf der Ultralytics Platform:

• One-Click-Training: Starte Trainingsaufträge mit minimalem Setup und wechsle schnell vom Datensatz zum Modelltraining ohne komplexe Konfiguration.
• On-Demand-GPUs: Wähle aus einer Reihe von GPU-Optionen basierend auf deinen Bedürfnissen und skaliere Ressourcen nach Bedarf, ohne langfristige Verpflichtungen.
• Echtzeit-Überwachung: Verfolge den Trainingsfortschritt mit Live-Diagrammen und Logs und sieh dir Systemmetriken wie GPU-Auslastung und Speicher in Echtzeit an.
• Automatische Checkpoints: Der Trainingsfortschritt wird in regelmäßigen Abständen gespeichert, was es einfach macht, die Arbeit bei Bedarf fortzusetzen oder wiederherzustellen.
• Einfaches Deployment: Sobald das Training abgeschlossen ist, kannst du deine trainierten Modelle bereitstellen und sie in Anwendungen oder Workflows über gemeinsam genutzte Inferenz-APIs, dedizierte Endpunkte oder durch Export zur Verwendung auf externen Systemen nutzen. Diese Bereitstellungsoptionen ermöglichen Inferenz mit geringer Latenz und machen es möglich, Echtzeitanwendungen wie Videoanalysen, Automatisierungssysteme und interaktive KI-Lösungen zu betreiben.

Link to this sectionVerschiedene Cloud-GPU-Optionen innerhalb der Ultralytics Platform#

Nachdem wir nun gesehen haben, wie das Training auf der Plattform funktioniert, lass uns die verschiedenen verfügbaren GPU-Optionen betrachten. Die von dir gewählte GPU kann beeinflussen, wie schnell dein Modell trainiert, wie gut es funktioniert und wie viel es kostet.

Die Ultralytics Platform bietet eine breite Palette an GPUs, angefangen bei Optionen wie der RTX 2000 Ada und RTX A4500, über GPUs wie die RTX 4000 Ada, RTX A5000, RTX 3090 und RTX A6000, bis hin zu leistungsstärkeren Optionen wie der RTX 4090 und RTX PRO 6000.

Abb. 2. Ein Beispiel für die verschiedenen von der Ultralytics Platform unterstützten GPU-Optionen (Quelle)

Für die meisten Nutzer ist die RTX PRO 6000 eine ausgewogene Standardwahl. Sie liefert zuverlässige Leistung bei einer Vielzahl von Workloads, ohne dass viel Tuning erforderlich ist. Die RTX 4090 ist eine weitere beliebte Option, die ein starkes Preis-Leistungs-Verhältnis bietet.

Für kleinere Aufgaben wie schnelle Experimente, Prototyping oder die Arbeit mit leichtgewichtigen Datensätzen sind GPUs wie die RTX 2000 Ada und RTX A4500 ein guter Ausgangspunkt. Wenn dein Workload wächst, bieten Optionen wie die RTX 4000 Ada, RTX A5000 und RTX 3090 eine konsistentere Leistung für allgemeines Training.

Im High-End-Bereich sind GPUs wie die A100 (Ampere), H100 und H200 (Hopper) sowie B200 (Blackwell) für große Workloads konzipiert. Diese eignen sich am besten für das Training sehr großer Modelle, den Umgang mit massiven Datensätzen oder die Ausführung von Jobs, bei denen Geschwindigkeit und Leistung entscheidend sind.

Link to this sectionVerständnis der verschiedenen GPU-Typen und ihrer Anwendungsfälle#

Als Nächstes betrachten wir, wie sich verschiedene GPU-Typen vergleichen lassen und wo sie am besten passen.

RTX-GPUs von NVIDIA sind im Allgemeinen kosteneffizienter und werden häufig für alltägliches Training, Experimente sowie kleine bis mittlere Workloads verwendet. Sie bieten ein Gleichgewicht zwischen Leistung und Zugänglichkeit, was sie für eine breite Palette von Anwendungsfällen geeignet macht.

Im Vergleich dazu sind GPUs wie die A100, A40 und L40 für schwerere Workloads und Training in größerem Maßstab konzipiert. Sie bieten eine höhere Stabilität und Skalierbarkeit, insbesondere bei der Arbeit mit größeren Datensätzen oder komplexeren Modellen.

Im High-End-Bereich stellen GPUs wie die H100 und solche, die auf der Blackwell-Architektur von NVIDIA basieren, neuere KI-Hardware dar. Diese sind für Hochleistungs-Workloads konzipiert und werden typischerweise für groß angelegtes Training, fortgeschrittene Forschung oder zeitkritische Aufgaben eingesetzt.

Die Bandbreite der auf der Ultralytics Platform verfügbaren GPU-Optionen bietet Flexibilität für verschiedene Workloads. Abhängig von deinen Anforderungen kannst du mit kleineren Setups beginnen und bei Bedarf hochskalieren.

Link to this sectionSo wählst du die richtige Cloud-GPU für dein Projekt aus#

Bei der Auswahl einer GPU für das Cloud-Training auf der Ultralytics Platform gibt es mehrere Faktoren zu berücksichtigen, darunter Datensatzgröße, Modellkomplexität und Kosten. Gehen wir jeden dieser Faktoren durch.

Link to this sectionAnpassung der GPU-Leistung an die Datensatzgröße#

Einer der Hauptfaktoren bei der Auswahl einer GPU ist die Größe deines Datensatzes, da sie beeinflusst, wie lange das Training dauert und wie viel Rechenleistung du benötigst.

Für kleine Datensätze, in der Regel weniger als 1.000 Bilder, reicht eine leichtgewichtige GPU wie die RTX 2000 oft aus. Dies funktioniert gut für schnelle Experimente und kürzere Trainingsläufe.

Für mittelgroße Datensätze, etwa 1.000 bis 10.000 Bilder, bieten GPUs wie die RTX 4090 oder RTX A6000 eine bessere Balance zwischen Leistung und Effizienz, was dir hilft, reibungsloser ohne lange Verzögerungen zu trainieren.

Für größere Datensätze, über 10.000 Bilder, benötigst du wahrscheinlich leistungsstärkere Hardware, um die Trainingszeiten in einem angemessenen Rahmen zu halten. GPUs wie die H100 eignen sich besser für schwerere Workloads und eine effektive Skalierung.

Insgesamt geht es darum, die Datensatzgröße mit der benötigten Rechenleistung und Parallelverarbeitungsfähigkeit abzustimmen.

Link to this sectionAuswahl einer GPU basierend auf Modellgröße und Komplexität#

Ein weiterer wichtiger Faktor bei der Auswahl einer GPU ist die Größe und Komplexität deines Vision-AI-Modells. Modelle unterschiedlicher Größe benötigen unterschiedliche Mengen an Rechenleistung.

Zum Beispiel benötigen kleinere Modelle weniger GPU-Rechenleistung und können effizient auf GPUs wie der RTX 2000 Ada, RTX A4500 oder sogar der RTX 4090 ausgeführt werden, wenn du schnellere Ergebnisse wünschst. Diese sind ideal für schnelle Experimente, Prototyping und einfachere Aufgaben, was es dir ermöglicht, schneller zu iterieren und Ideen ohne hohe Rechenkosten zu testen.

Auf der anderen Seite erfordern größere und komplexere Modelle deutlich mehr Speicher und Rechenleistung. GPUs wie die RTX A6000, RTX PRO 6000 und High-End-Optionen wie die H100 sind besser für diese Workloads geeignet. Sie können größere Architekturen bewältigen, die Trainingszeit verkürzen und Speicherprobleme verhindern, was besonders bei der Arbeit mit hochauflösenden Bildern, großen Batch-Größen oder fortgeschritteneren Modelldesigns wichtig ist.

Link to this sectionVergleich von Batch-Größe und GPU-Speicher#

Ebenso spielt die Batch-Größe eine wichtige Rolle beim Modelltraining. Sie bezieht sich auf die Anzahl der Trainingsbeispiele, die das Modell gleichzeitig in einem einzigen Schritt verarbeitet.

Größere Batch-Größen können die Trainingseffizienz verbessern, indem mehr Daten auf einmal verarbeitet werden, sie erfordern jedoch auch mehr GPU-Speicher (VRAM). Im Allgemeinen können GPUs mit höherer Speicherbandbreite größere Batch-Größen unterstützen, während GPUs mit weniger Speicher möglicherweise kleinere Batches erfordern.

Zum Beispiel können GPUs wie die RTX A6000, RTX PRO 6000 oder A100 aufgrund ihres größeren Speichers problemlos größere Batch-Größen bewältigen, während Optionen wie die RTX 4090 oder RTX 2000 Ada je nach Workload kleinere Batch-Größen erfordern können.

Allerdings ist die Nutzung der größten GPU nicht immer notwendig. High-End-GPUs können zwar Geschwindigkeit und Kapazität verbessern, sind aber auch mit höheren Kosten verbunden. In vielen Fällen kann die Anpassung der Batch-Größe auf einer kleineren GPU die effizientere Wahl sein.

Letztendlich geht es darum, das richtige Gleichgewicht zwischen Batch-Größe, verfügbarem GPU-Speicher und Kosten basierend auf deinem Modell und Datensatz zu finden.

Link to this sectionDer Einfluss der Trainingskonfiguration auf die GPU-Leistung#

Ein weiterer Faktor, der die GPU-Leistung beeinflusst, ist die Trainingskonfiguration. Dies umfasst Parameter wie die Anzahl der Epochen, die Bildgröße und andere Einstellungen, die steuern, wie ein Modell trainiert wird.

Beispielsweise erhöhen größere Bildgrößen den Rechenaufwand pro Schritt. Dies kann das Training verlangsamen und mehr Rechenleistung oder Speicher erfordern, um eine gute Leistung aufrechtzuerhalten.

Ebenso verlängert die Erhöhung der Epochenanzahl die gesamte Trainingszeit, insbesondere auf weniger leistungsstarker Hardware. Eine Epoche bezieht sich auf einen vollständigen Durchlauf durch den gesamten Datensatz während des Trainings.

Techniken wie Datenerweiterung (Data Augmentation) fügen während des Trainings zusätzliche Verarbeitungsschritte hinzu. Data Augmentation wendet Transformationen wie Spiegeln, Drehen oder Skalieren an, um die Datenvielfalt zu erhöhen und die Modellleistung zu verbessern. Während dies die Robustheit des Modells verbessern kann, kann es auch die Trainingsgeschwindigkeit verringern.

Im Allgemeinen können leistungsstärkere GPUs diese erhöhten Anforderungen effizienter bewältigen, aber der Einfluss hängt von der gesamten Konfiguration und dem Workload ab.

Link to this sectionAbwägung von Kosten und Trainingszeit#

Bei der Auswahl einer GPU für dein Projekt gibt es oft einen Kompromiss zwischen Trainingsgeschwindigkeit und GPU-Preis.

Die Ultralytics Platform macht es einfach, diese Kosten vor dem Start eines Trainingsauftrags zu schätzen und nachzuvollziehen. Basierend auf deiner Konfiguration, einschließlich Datensatzgröße, Modell und GPU, kannst du vorab die geschätzten Kosten und die Trainingsdauer einsehen.

Abb. 3. Die Ultralytics Platform macht Cloud-Kosten einfach einschätzbar und nachvollziehbar. (Quelle)

Schnellere GPUs haben typischerweise höhere Stundensätze, können aber die gesamte Trainingszeit verkürzen. GPUs wie die RTX 4090, RTX PRO 6000 und H100 können das Training aufgrund ihrer höheren Leistung im Allgemeinen schneller abschließen.

Langsamere GPUs tendieren zu niedrigeren Stundensätzen, benötigen aber länger für das Training. GPUs wie die RTX 2000 Ada und RTX A4500 werden beispielsweise oft für kleinere Workloads oder länger laufende Jobs verwendet, bei denen niedrigere Kosten priorisiert werden.

Darüber hinaus sind einige der High-End-GPUs wie die H200 und B200 nur in Pro- oder Enterprise-Plänen verfügbar, während die meisten anderen Optionen auch im Free-Tarif zugänglich sind.

Link to this sectionEin Blick auf Strategien zur Kostenoptimierung#

Abgesehen von der Wahl der richtigen GPU gibt es einige praktische Möglichkeiten, die Trainingskosten unter Kontrolle zu halten. Einer der effektivsten Ansätze ist es, mit kleinen Testläufen zu beginnen, bevor man hochskaliert.

Anstatt direkt mit dem vollen Training zu starten, beginne mit weniger Epochen, um sicherzustellen, dass dein Setup wie erwartet funktioniert. Dies hilft dir, deine Daten, Annotationen und Modellkonfiguration schnell zu validieren und vermeidet, Zeit und Rechenressourcen für Läufe zu verschwenden, die möglicherweise keine nützlichen Ergebnisse liefern.

Behalte während des Trainings deine Metriken im Auge und stoppe Läufe frühzeitig, wenn die Leistung stagniert oder sich nicht mehr verbessert. Die Überwachung von Trainingskurven kann dir bei der Entscheidung helfen, ob du fortfahren oder dein Setup anpassen solltest.

Du kannst auch Parameter wie Batch-Größe und Bildgröße anpassen. Kleinere Werte reduzieren den Speicher- und Rechenbedarf, was es praktikabler macht, zu experimentieren, verschiedene Konfigurationen zu testen oder Simulationen im kleinen Maßstab durchzuführen, bevor man hochskaliert.

Abb. 4. Visualisierung der Trainingsmetriken auf der Ultralytics Platform (Quelle)

Darüber hinaus hilft die Ultralytics Platform dabei, das Kostenmanagement zu vereinfachen. Sie bietet eine integrierte Kostenschätzung, damit du die zu erwartenden Ausgaben vor dem Start eines Jobs nachvollziehen kannst.

Mit einem Pay-per-Use-System auf Kreditbasis zahlst du nur für die Rechenzeit, die du tatsächlich nutzt. Dies macht es einfacher, innerhalb des Budgets zu bleiben und hochzuskalieren, sobald du dir bei deinem Trainings-Setup sicher bist.

Link to this sectionBest Practices für Cloud-GPU-Training in der Computer Vision#

Hier sind einige Best Practices für das Cloud-GPU-Training auf der Ultralytics Platform:

• Datensätze vor dem Training validieren: Stelle sicher, dass dein Datensatz sauber, gut annotiert und konsistent ist, bevor du startest. Probleme frühzeitig zu erkennen hilft, verschwendete Rechenressourcen zu vermeiden und die Modellleistung zu verbessern.
• Schnelle Experimente zuerst durchführen: Beginne mit kleinen Testläufen und weniger Epochen, um dein Setup zu verifizieren. Dies hilft dabei, Probleme frühzeitig zu identifizieren, ohne sich auf lange, teure Trainingsaufträge festzulegen. Auf diese Weise erstellst du eine Vorlage, die du wiederverwenden und skalieren kannst, sobald alles wie erwartet funktioniert.
• Wichtige Metriken überwachen: Verfolge Metriken wie Loss, mAP, Präzision und Recall während des Trainings. Diese Metriken dienen als Benchmarks zur Bewertung der Modellleistung und helfen dir zu entscheiden, wann Anpassungen nötig sind oder das Training gestoppt werden sollte.
• Datenverarbeitungspipelines effizient halten: Stelle sicher, dass das Laden und die Vorverarbeitung von Daten effizient sind, da diese Funktionen auf CPU-Ressourcen angewiesen sind und zu Engpässen werden können, die die gesamte Trainingsleistung beeinträchtigen.
• Integrierte Tools nutzen: Verwende Diagramme, Konsolen-Logs und Systemmetriken, um das Training in Echtzeit zu überwachen und schnell fundierte Entscheidungen zu treffen.

Link to this sectionWichtige Erkenntnisse#

Die Wahl der richtigen Cloud-GPU für Computer Vision auf der Ultralytics Platform hängt davon ab, deinen Workload zu verstehen, einschließlich Datensatzgröße, Modellkomplexität und Trainingskonfiguration. Mit einer Reihe von GPU-Optionen, die durch Cloud-Infrastruktur und virtuelle Maschinen unterstützt werden, kannst du mit einer ausgewogenen Wahl beginnen und hochskalieren, während deine Anforderungen an das Modelltraining oder Fine-Tuning wachsen. Durch die Kombination der richtigen Hardware mit guten Praktiken wie Überwachung und Kostenkontrolle kannst du hochmoderne künstliche Intelligenzmodelle effizient trainieren und gleichzeitig die Flexibilität von Hochleistungsrechnen optimal nutzen.

Besuche unsere wachsende Community und unser GitHub-Repository, um mehr über Computer Vision zu erfahren. Wenn du Vision-Lösungen entwickeln möchtest, schau dir unsere Lizenzoptionen an. Erkunde unsere Lösungsseiten, um mehr über die Vorteile von Computer Vision in der Fertigung und KI in der Landwirtschaft zu erfahren.