Verwendung von Ultralytics YOLO11 zur Durchführung von Batch-Inferenzen

Wenn du schon mal ein selbstfahrendes Auto in Aktion gesehen hast, hast du KI-Inferenz in Echtzeit miterlebt. Ein selbstfahrendes Auto nutzt typischerweise Kameras, Sensoren und KI, um seine Umgebung zu verarbeiten und nahezu augenblickliche Entscheidungen zu treffen. Wenn jedoch keine schnellen Reaktionen erforderlich sind, kann die Echtzeit-Inferenz sehr ressourcenintensiv sein.

Eine bessere Option in diesen Fällen ist die Batch-Inferenz. Anstatt Daten kontinuierlich in Echtzeit zu verarbeiten, kann eine Batch-Inferenz große Datenmengen in geplanten Intervallen verarbeiten. Dieser Ansatz hilft, Ressourcen zu sparen, den Stromverbrauch zu senken und die Infrastrukturkosten zu reduzieren.

Beispielsweise können in Computer-Vision-Anwendungen Modelle wie Ultralytics YOLO11 für Echtzeitaufgaben wie Objekterkennung und Instanzsegmentierung eingesetzt werden. Die Verarbeitung großer Mengen visueller Daten in Echtzeit kann jedoch anspruchsvoll sein.

Abb. 1: Ein Beispiel für die Segmentierung von Objekten in einem Bild mit Ultralytics YOLO11.

Mit Batch-Inferenz kann Ultralytics YOLO11 visuelle Daten in Batches verarbeiten, was die Systembelastung verringert und die Effizienz verbessert, ohne Leistung einzubüßen. Dies erleichtert die skalierbare Bereitstellung von Vision AI-Lösungen, ohne die Hardware zu überlasten oder die Kosten zu erhöhen.

In diesem Artikel beschäftigen wir uns mit Batch-Inferenz, ihren Vorteilen und wie Batch-Inferenz mit Ultralytics YOLO11 in Computer-Vision-Anwendungen eingesetzt werden kann. Legen wir los!

Ein Blick auf Batch-Inferenz in der Computer Vision#

Du kannst dir Batch-Inferenz wie das Erledigen einer großen Aufgabe auf einmal vorstellen, anstatt sie Stück für Stück zu bearbeiten, sobald sie eintrifft. Anstatt Daten ständig in Echtzeit zu verarbeiten, ermöglicht dir die Batch-Inferenz, große Gruppen von Daten in festgelegten Intervallen zu verarbeiten. Dieser Ansatz ist weitaus effizienter, wenn keine sofortigen Reaktionen erforderlich sind, und hilft, Rechenressourcen zu sparen, den Energieverbrauch zu senken und Kosten zu reduzieren.

Wenn es um Computer Vision geht, gibt es bestimmte Anwendungen, bei denen eine niedrige Latenz entscheidend ist. Niedrige Latenz bezieht sich auf die minimale Verzögerung zwischen dem Empfang einer Eingabe (wie einem Bild oder Videobild) und der Reaktion des Systems. Zum Beispiel können bei der Echtzeit-Sicherheitsüberwachung selbst kleine Verzögerungen Sicherheitsrisiken bergen.

In vielen anderen Computer-Vision-Szenarien ist eine niedrige Latenz jedoch nicht ganz so entscheidend. Hier glänzt die Batch-Inferenz – wenn das System nicht sofort reagieren muss. Die Batch-Inferenz funktioniert, indem visuelle Daten einem Computer-Vision-Modell in Gruppen oder Batches übergeben werden, wodurch das System große Datensätze auf einmal statt kontinuierlich in Echtzeit verarbeiten kann.

Verstehen, wie Batch-Inferenz funktioniert#

Hier ist ein genauerer Blick auf die Schritte der Batch-Inferenz:

• Datenerfassung: Visuelle Daten werden über einen Zeitraum gesammelt. Dies können Sicherheitsaufnahmen, Produktbilder oder Kundendaten sein, je nach Anwendung.

• Batch-Vorbereitung: Die gesammelten Daten werden dann in Batches gruppiert. In diesem Schritt werden die Daten wie vom Modell erforderlich formatiert. Zum Beispiel könnten Bilder in der Größe angepasst, normalisiert oder in das entsprechende Format für die Verarbeitung durch das Modell konvertiert werden.

• Vorhersage: Sobald die Daten vorbereitet sind, wird der gesamte Batch in das Modell (wie Ultralytics YOLO11) eingespeist, das den gesamten Batch auf einmal verarbeitet. Dadurch kann das Modell gleichzeitig Vorhersagen für alle Daten im Batch treffen, was den Prozess im Vergleich zur Verarbeitung einzelner Datenpunkte effizienter macht.

Wann sollte Batch-Inferenz verwendet werden?#

Nachdem wir nun geklärt haben, was Batch-Inferenz ist und wie sie sich von der Echtzeit-Inferenz unterscheidet, schauen wir uns genauer an, wann du sie verwenden solltest.

Die Batch-Inferenz ist ideal für die Analyse historischer Daten. Nehmen wir an, du hast Überwachungsmaterial von einer U-Bahn-Station aus dem letzten Monat und möchtest bestimmte Muster identifizieren, wie zum Beispiel die Anzahl der Personen, die zu verschiedenen Tageszeiten ein- und ausgehen.

Anstatt jedes Bild in Echtzeit zu verarbeiten, ermöglicht dir die Batch-Inferenz, die Aufnahmen eines ganzen Monats in Batches zu verarbeiten und so wichtige Ereignisse oder Trends zu identifizieren, ohne dass sofortige Ergebnisse erforderlich sind. Auf diese Weise kannst du große Datenmengen effizienter analysieren und Einblicke in langfristige Muster gewinnen, ohne das System zu überlasten oder eine ständige Überwachung zu erfordern.

Batch-Inferenz ist auch eine optimale Lösung, wenn die Systemressourcen begrenzt sind. Durch das Ausführen der Inferenz außerhalb der Spitzenzeiten (z. B. über Nacht) kannst du Rechenkosten sparen und sicherstellen, dass das System während der Spitzenlastzeiten nicht überlastet wird. Dies macht es zu einem effizienten und kostengünstigen Ansatz für Unternehmen oder Projekte, die große Datensätze verarbeiten müssen, aber keine Echtzeitanalyse benötigen.

Batch-Inferenz mit Ultralytics YOLO11#

Das Ultralytics Python-Paket unterstützt die Batch-Inferenz für Modelle wie YOLO11. Mit YOLO11 kannst du die Batch-Inferenz ganz einfach ausführen, indem du das Argument „batch“ angibst, das bestimmt, wie viele Bilder oder Videoframes auf einmal verarbeitet werden.

Während des Batch-Inferenzprozesses werden Vorhersagen für alle Bilder im Batch gleichzeitig generiert. Standardmäßig ist die Batch-Größe auf 1 eingestellt, du kannst sie jedoch an eine beliebige Zahl anpassen.

Wenn die Batch-Größe beispielsweise auf 5 eingestellt ist, verarbeitet Ultralytics YOLO11 fünf Bilder oder Video-Frames gleichzeitig und generiert Vorhersagen für alle fünf auf einmal. Größere Batch-Größen führen in der Regel zu schnelleren Inferenzzeiten, da die Verarbeitung mehrerer Bilder in einem Batch effizienter ist als die einzelner Handhabung.

Computer-Vision-Anwendungen durch Batch-Inferenz#

Lass uns als Nächstes einige praxisnahe Computer-Vision-Anwendungsfälle für Batch-Inferenz erkunden.

Verbesserung von Diagnostik und Forschung im Gesundheitswesen#

In der medizinischen Forschung ist die Arbeit mit großen Mengen visueller Daten sehr verbreitet. Hier kann die Batch-Inferenz Wissenschaftlern helfen, Daten in Bereichen wie Chemie, Biologie und Genetik leichter zu analysieren. Anstatt die Daten einzeln zu analysieren, werden sie in Batches verarbeitet, was Zeit und Aufwand spart.

Zum Beispiel kann die Batch-Inferenz in medizinischen Einrichtungen besonders nützlich für die Analyse großer Sätze medizinischer Bilder wie MRTs oder CT-Scans sein. Krankenhäuser können diese Scans über den Tag hinweg sammeln und sie über Nacht in Batches verarbeiten.

Dieser Ansatz ermöglicht es Krankenhäusern, ihre Hardware und ihr Personal besser zu nutzen, Betriebskosten zu senken und sicherzustellen, dass alle Scans auf konsistente und einheitliche Weise überprüft werden. Er ist auch vorteilhaft für große Forschungsprojekte und Langzeitstudien, bei denen die Verarbeitung riesiger Datenmengen erforderlich ist.

Abb. 2. Erkennen eines medizinischen Scans mit Ultralytics YOLO11.

Verbesserung autonomer Fahrzeuge durch Simulationen#

Autonome Fahrzeuge nutzen KI-Technologien wie Computer Vision, um ihre Umwelt zu verarbeiten. Mit Hilfe fortgeschrittener Modelle wie Ultralytics YOLO11 können Onboard-Systeme im Auto andere Fahrzeuge, Fahrstreifen, Verkehrsschilder und Personen auf der Straße erkennen. Während Echtzeit-Inferenz auf der Straße entscheidend ist, stützt sich die Technologie des autonomen Fahrens im Hintergrund stark auf Batch-Inferenz.

Abb. 3. YOLO11 kann Fußgänger auf der Straße problemlos erkennen.

Nachdem ein Auto eine Fahrt abgeschlossen hat, können die gesammelten Daten, wie stundenlange Kameraaufnahmen, Sensormesswerte und LIDAR-Scans, später in großen Batches verarbeitet werden. Dies ermöglicht es Ingenieuren, die KI-Modelle des Autos zu aktualisieren, die Systemsicherheit zu erhöhen und die Fähigkeit zur Bewältigung verschiedener Fahrbedingungen zu verbessern.

Batch-Inferenz wird auch in Simulationen für autonomes Fahren verwendet, um zu testen, wie selbstfahrende Autos in verschiedenen Situationen reagieren würden, wie z. B. beim Navigieren durch belebte Kreuzungen oder beim Reagieren auf unvorhersehbare Fußgängerbewegungen. Dieser Ansatz spart Zeit, reduziert Kosten und vermeidet die Risiken, die mit dem Testen jedes Szenarios im echten Leben verbunden sind.

Einzelhandelsdatenanalyse durch Batch-Inferenz#

Ähnlich verhält es sich im Einzelhandel: Batch-Inferenz mit Computer-Vision-Modellen wie Ultralytics YOLO11 kann die betriebliche Effizienz erheblich steigern. Beispielsweise können Kamerasysteme in Geschäften im Laufe des Tages Tausende von Bildern aufnehmen, die dann über Nacht in Batches verarbeitet werden können.

Dies ermöglicht es Geschäften zu analysieren, was im Laden passiert, wie z. B. Kundenverhalten, Verkehrsmuster und Produktinteraktionen, ohne dass eine Echtzeitverarbeitung erforderlich ist, was für kleinere Geschäfte eine Herausforderung darstellen kann.

Ein weiteres interessantes Beispiel ist die Verwendung der Batch-Inferenz zur Generierung von Heatmaps, die Bereiche mit hoher und niedriger Kundenaktivität im Geschäft visualisieren. Durch die Analyse dieser Heatmaps können Einzelhändler erkennen, welche Bereiche den meisten Fußgängerverkehr anziehen und welche Teile des Geschäfts möglicherweise mehr Aufmerksamkeit oder eine Optimierung der Produktplatzierung erfordern. Diese Daten können Einzelhändlern helfen, bessere Entscheidungen hinsichtlich Ladenlayout, Produktpositionierung und sogar Werbestrategien zu treffen, um das Kundenerlebnis und den Umsatz zu verbessern.

Abb. 4. Heatmaps können Einzelhändlern helfen, beliebte Bereiche in Geschäften zu identifizieren.

Vor- und Nachteile der Batch-Inferenz#

Hier sind einige der wichtigsten Vorteile, die Batch-Inferenz für verschiedene Branchen bieten kann:

• Einfache Integration: Die Batch-Inferenz lässt sich problemlos in bestehende Arbeitsabläufe integrieren, insbesondere für Branchen wie Einzelhandel, Sicherheit oder das Gesundheitswesen, in denen große Datenmengen in großen Mengen verarbeitet werden müssen.
• Einfacheres Datenmanagement: Bei der Arbeit mit großen Datenmengen kann die Batch-Inferenz das Datenmanagement rationalisieren, da die Daten in überschaubare Brocken gruppiert werden. Dies macht es einfacher, Daten im Laufe der Zeit zu verfolgen, zu überprüfen und zu organisieren.
• Reduzierte Netzwerklast: Wenn Daten in Batches verarbeitet werden, kann die Menge der zu einem bestimmten Zeitpunkt übertragenen Daten minimiert werden, was die Belastung der Netzwerkressourcen in Cloud-basierten Systemen oder verteilten Rechenumgebungen reduziert.

Obwohl die Verwendung von Batch-Inferenz viele Vorteile bietet, gibt es auch einige Einschränkungen, die berücksichtigt werden sollten. Hier sind einige Faktoren, die man im Hinterkopf behalten sollte:

• Speicheranforderungen: Das Speichern großer Datensätze für die Batch-Verarbeitung kann die Speicherkosten erheblich erhöhen, insbesondere bei hochauflösenden Bildern, Videos oder großen Datenmengen.
• Potenzial für Rückstände: Wenn sich Daten schnell ansammeln oder große Batches nicht rechtzeitig verarbeitet werden, kann ein Rückstand entstehen. Dies kann zu Verzögerungen bei der Bereitstellung von Erkenntnissen und der zeitnahen Verarbeitung neuer Daten führen.
• Ressourcenspitzen: Große Batches, insbesondere solche mit hochauflösenden Bildern, können Spitzen bei der Speicher- oder Rechenauslastung verursachen. Wenn sie nicht ordnungsgemäß verwaltet werden, können diese Spitzen die Systeme überlasten, was zu Verlangsamungen oder Abstürzen führen kann.

Wichtige Erkenntnisse#

Batch-Inferenz ist eine effiziente Möglichkeit, große Mengen visueller Daten zu verarbeiten, die keine sofortigen Ergebnisse erfordern. Anstatt jedes Bild in Echtzeit zu analysieren, verarbeitet sie diese zu geplanten Zeiten, beispielsweise über Nacht, in Batches.

Diese Methode ist kostengünstig, reduziert die Rechenlast und liefert dennoch genaue Ergebnisse. Von der Unterstützung von Geschäften bei der Bestandsverwaltung bis hin zur Unterstützung von Ärzten bei der Analyse medizinischer Scans und der Verbesserung von Technologien für selbstfahrende Autos macht die Batch-Inferenz Computer Vision zugänglicher, erschwinglicher und praktischer für reale Anwendungen.

Bist du bereit, tief in die KI einzutauchen? Erkunde unser GitHub-Repository, verbinde dich mit unserer Community und sieh dir unsere Lizenzierungsoptionen an, um deine Computer-Vision-Reise zu beginnen. Erfahre mehr über Innovationen wie KI in der Fertigung und Computer Vision in der Logistikbranche auf unseren Lösungsseiten.