Few-Shot, Zero-Shot und Transfer Learning verstehen

Systeme der künstlichen Intelligenz (KI) können komplexe Aufgaben wie die Gesichtserkennung, Bildklassifizierung und das autonome Fahren mit minimalem menschlichen Eingriff bewältigen. Dies erreichen sie durch das Studieren von Daten, das Erkennen von Mustern und die Nutzung dieser Muster, um Vorhersagen oder Entscheidungen zu treffen. Mit dem Fortschritt der KI erleben wir zunehmend ausgefeiltere Methoden, mit denen KI-Modelle lernen, sich anpassen und Aufgaben bemerkenswert effizient ausführen können.

Zum Beispiel ist computer vision ein Zweig der KI, der sich darauf konzentriert, Maschinen in die Lage zu versetzen, visuelle Informationen aus der Welt zu interpretieren und zu verstehen. Die traditionelle Entwicklung von Computer-Vision-Modellen stützt sich stark auf große, annotierte datasets für das Training. Das Sammeln und Beschriften solcher Daten kann zeitaufwändig und kostspielig sein.

Um diese Herausforderungen zu bewältigen, haben Forscher innovative Ansätze eingeführt, wie z. B. Few-Shot Learning (FSL), das aus begrenzten Beispielen lernt; Zero-Shot Learning (ZSL), das unbekannte Objekte identifiziert; und Transfer Learning (TL), das Wissen von vorab trainierten Modellen auf neue Aufgaben anwendet.

In diesem Artikel werden wir untersuchen, wie diese Lernparadigmen funktionieren, ihre wichtigsten Unterschiede hervorheben und uns Anwendungen in der realen Welt ansehen. Fangen wir an!

Ein Überblick über Lernparadigmen#

Lass uns erkunden, was Few-Shot Learning, Zero-Shot Learning und Transfer Learning im Kontext von Computer Vision sind und wie sie funktionieren.

Few-Shot Learning#

Few-shot learning ist eine Methode, bei der Systeme lernen, neue Objekte anhand nur einer geringen Anzahl von Beispielen zu erkennen. Wenn du einem Modell zum Beispiel ein paar Bilder von einem Pinguin, einem Pelikan und einem Papageientaucher zeigst (diese kleine Gruppe wird als „Support-Set“ bezeichnet), lernt es, wie diese Vögel aussehen.

Wenn du dem Modell später ein neues Bild zeigst, etwa einen Pinguin, vergleicht es dieses neue Bild mit denen in seinem Support Set und wählt die größte Übereinstimmung aus. Wenn das Sammeln einer großen Datenmenge schwierig ist, ist diese Methode vorteilhaft, da das System auch mit nur wenigen Beispielen lernen und sich anpassen kann.

Abb. 1. Eine Übersicht darüber, wie Few-Shot-Learning funktioniert.

Zero-Shot Learning#

Zero-shot learning ist eine Möglichkeit für Maschinen, Dinge zu erkennen, die sie noch nie zuvor gesehen haben, ohne Beispiele dafür zu benötigen. Es nutzt semantische Informationen wie Beschreibungen, um Verbindungen herzustellen.

Wenn eine Maschine zum Beispiel durch das Verständnis von Merkmalen wie „klein und flauschig“, „große Wildkatze“ oder „langes Gesicht“ etwas über Tiere wie Katzen, Löwen und Pferde gelernt hat, kann sie dieses Wissen nutzen, um ein neues Tier, wie einen Tiger, zu identifizieren. Selbst wenn sie noch nie einen Tiger gesehen hat, kann sie eine Beschreibung wie „ein löwenartiges Tier mit dunklen Streifen“ verwenden, um ihn korrekt zu identifizieren. Dies macht es für Maschinen einfacher, zu lernen und sich anzupassen, ohne viele Beispiele zu benötigen.

Abb. 2. Zero-Shot-Learning identifiziert neue Objekte anhand von Beschreibungen.

Transfer Learning#

Transfer learning ist ein Lernparadigma, bei dem ein Modell das Gelernte aus einer Aufgabe nutzt, um eine ähnliche, neue Aufgabe zu lösen. Diese Technik ist besonders nützlich für computer vision tasks wie Objekterkennung, Bildklassifizierung und Mustererkennung.

In der Computer Vision kann beispielsweise ein vortrainiertes Modell allgemeine Objekte wie Tiere erkennen und dann durch Transfer Learning feinabgestimmt werden, um spezifische Objekte wie verschiedene Hunderassen zu identifizieren. Durch die Wiederverwendung von Wissen aus früheren Aufgaben erleichtert Transfer Learning das Training von computer vision models mit kleineren Datensätzen, was Zeit und Aufwand spart.

Abb. 3. Eine Übersicht darüber, wie Transfer Learning funktioniert.

Du fragst dich vielleicht, welche Art von Modellen Transfer Learning unterstützt. Ultralytics YOLO11 ist ein hervorragendes Beispiel für ein Computer-Vision-Modell, das dies kann. Es ist ein hochmodernes Objekterkennungsmodell, das zunächst auf einem großen, allgemeinen Datensatz vortrainiert wurde. Danach kann es feinabgestimmt und auf einem kleineren, spezialisierten Datensatz für spezifische Aufgaben custom-trained werden.

Vergleich von Lernparadigmen#

Nachdem wir nun über Few-Shot Learning, Zero-Shot Learning und Transfer Learning gesprochen haben, vergleichen wir sie, um zu sehen, wie sie sich unterscheiden.

Abb. 4. Hauptunterschiede zwischen Few-Shot, Zero-Shot und Transfer Learning. Bild vom Autor.

Few-Shot Learning ist nützlich, wenn du nur eine kleine Menge an gelabelten Daten hast. Es ermöglicht einem KI-Modell, aus nur wenigen Beispielen zu lernen. Zero-Shot Learning hingegen erfordert keine gelabelten Daten. Stattdessen verwendet es Beschreibungen oder Kontext, um dem System zu helfen, neue Aufgaben zu bewältigen. Transfer Learning verfolgt einen anderen Ansatz, indem es Wissen aus vorab trainierten Modellen nutzt, wodurch diese sich schnell mit minimalen zusätzlichen Daten an neue Aufgaben anpassen können. Jede Methode hat ihre eigenen Stärken, je nach Art der Daten und der Aufgabe, an der du arbeitest.

Reale Anwendungen verschiedener Lernparadigmen#

Diese Lernparadigmen machen bereits in vielen Sektoren einen Unterschied und lösen komplexe Probleme mit innovativen Lösungen. Lass uns genauer betrachten, wie sie in der realen Welt angewendet werden können.

Diagnose seltener Krankheiten mit Few-Shot Learning#

Few-Shot-Learning verändert den Gesundheitssektor grundlegend, insbesondere in der medical imaging. Es kann Ärzten helfen, seltene Krankheiten anhand von nur wenigen Beispielen oder sogar Beschreibungen zu diagnostizieren, ohne große Datenmengen zu benötigen. Dies ist besonders nützlich, wenn Daten nur begrenzt verfügbar sind, was oft der Fall ist, da das Sammeln großer Datensätze für seltene Erkrankungen eine Herausforderung sein kann.

Zum Beispiel nutzt SHEPHERD Few-Shot-Learning und biomedizinische Wissensgraphen, um seltene genetische Störungen zu diagnostizieren. Es bildet Patienteninformationen wie Symptome und Testergebnisse auf einem Netzwerk bekannter Gene und Krankheiten ab. Dies hilft dabei, die wahrscheinliche genetische Ursache zu ermitteln und ähnliche Fälle zu finden, selbst wenn nur begrenzte Daten vorliegen.

Abb. 5. Das Shepherd-Modell diagnostiziert seltene Krankheiten mit minimalen Daten.

Verbesserung der Erkennung von Pflanzenkrankheiten mit Zero-Shot Learning#

In der Landwirtschaft ist die schnelle Identifizierung von Pflanzenkrankheiten unerlässlich, da Verzögerungen bei der Erkennung zu weit verbreiteten Ernteschäden, geringeren Erträgen und erheblichen finanziellen Verlusten führen können. Herkömmliche Methoden stützen sich oft auf große Datensätze und Expertenwissen, die nicht immer zugänglich sind, insbesondere in abgelegenen oder ressourcenarmen Gebieten. Hier kommen Fortschritte in der KI, wie Zero-Shot Learning, ins Spiel.

Angenommen, ein Landwirt baut Tomaten und Kartoffeln an und bemerkt Symptome wie vergilbende Blätter oder braune Flecken. Zero-Shot Learning kann helfen, Krankheiten wie die Kraut- und Braunfäule zu identifizieren, ohne dass große Datensätze erforderlich sind. Durch die Verwendung von Beschreibungen der Symptome kann das Modell Krankheiten klassifizieren, die es zuvor noch nicht gesehen hat. Dieser Ansatz ist schnell, skalierbar und ermöglicht es Landwirten, eine Vielzahl von Pflanzenproblemen zu erkennen. Es hilft ihnen, die Pflanzengesundheit effizienter zu überwachen, rechtzeitig Maßnahmen zu ergreifen und Verluste zu reduzieren.

Abb. 6. Verwendung von Zero-Shot-Learning zur Identifizierung von Pflanzenkrankheiten.

Autonome Fahrzeuge und Transfer Learning#

Autonome Fahrzeuge müssen sich oft an unterschiedliche Umgebungen anpassen, um sicher zu navigieren. Transfer Learning hilft ihnen dabei, Vorkenntnisse zu nutzen, um sich schnell auf neue Bedingungen einzustellen, ohne ihr Training von Grund auf neu zu beginnen. In Kombination mit Computer Vision, das Fahrzeugen hilft, visuelle Informationen zu interpretieren, ermöglichen diese Technologien eine flüssigere Navigation über verschiedene Gelände und Wetterbedingungen hinweg, was das autonome Fahren effizienter und zuverlässiger macht.

Ein gutes Beispiel hierfür ist ein parking management system, das Ultralytics YOLO11 zur Überwachung von Parkplätzen verwendet. YOLO11, ein vortrainiertes Objekterkennungsmodell, kann durch Transfer Learning feinabgestimmt werden, um freie und besetzte Parkplätze in Echtzeit zu identifizieren. Durch das Training des Modell mit einem kleineren Datensatz von Parkplatzbildern lernt es, offene Plätze, volle Plätze und sogar reservierte Bereiche präzise zu erkennen.

Abb. 7. Parkraummanagement mit Ultralytics YOLO11.

Integriert in andere Technologien kann dieses System Fahrer zum nächsten freien Parkplatz leiten und so Suchzeiten und Verkehrsstaus reduzieren. Transfer learning macht dies möglich, indem es auf den vorhandenen object detection-Fähigkeiten von Ultralytics YOLO11 aufbaut, sodass es sich an die spezifischen Anforderungen des Parkmanagements anpassen kann, ohne bei Null anfangen zu müssen. Dieser Ansatz spart Zeit und Ressourcen und schafft gleichzeitig eine hocheffiziente und skalierbare Lösung, die den Parkbetrieb verbessert und das gesamte Benutzererlebnis optimiert.

Aufkommende Trends bei Lernparadigmen#

Die Zukunft der Lernparadigmen in der Computer Vision geht in Richtung der Entwicklung intelligenterer und nachhaltigerer Vision-KI-Systeme. Insbesondere ein wachsender Trend ist die Verwendung von hybrid approaches, die Few-Shot-Learning, Zero-Shot-Learning und Transfer Learning kombinieren. Durch die Verbindung der Stärken dieser Methoden können Modelle neue Aufgaben mit minimalem Datenaufwand lernen und ihr Wissen in verschiedenen Bereichen anwenden.

Ein interessantes Beispiel ist die Verwendung von adapted deep embeddings, um Modelle mithilfe von Wissen aus vorherigen Aufgaben und einer kleinen Menge neuer Daten feinabzustimmen, was die Arbeit mit begrenzten Datensätzen erleichtert.

Ähnlich ist X-shot learning darauf ausgelegt, Aufgaben mit unterschiedlichen Datenmengen zu bewältigen. Es nutzt schwache Überwachung (Weak Supervision), bei der Modelle aus begrenzten oder verrauschten Labels lernen, sowie klare Anweisungen, um ihnen zu helfen, sich schnell anzupassen – selbst wenn nur wenige oder gar keine vorherigen Beispiele verfügbar sind. Diese hybriden Ansätze zeigen, wie die Integration verschiedener Lernmethoden KI-Systemen helfen kann, Herausforderungen effektiver zu bewältigen.

Wichtige Erkenntnisse#

Few-Shot Learning, Zero-Shot Learning und Transfer Learning adressieren jeweils spezifische Herausforderungen in der Computer Vision, wodurch sie für unterschiedliche Aufgaben geeignet sind. Der richtige Ansatz hängt von der spezifischen Anwendung und der verfügbaren Datenmenge ab. Few-Shot Learning funktioniert beispielsweise gut bei begrenzten Daten, während Zero-Shot Learning hervorragend für den Umgang mit ungesehenen oder unbekannten Klassen geeignet ist.

Mit Blick auf die Zukunft wird es wahrscheinlich ein zentraler Schwerpunkt sein, diese Methoden zu kombinieren, um hybride Modelle zu erstellen, die Vision, Sprache und Audio integrieren. Diese Fortschritte zielen darauf ab, KI-Systeme flexibler, effizienter und fähiger zu machen, komplexe Probleme anzugehen, was neue Möglichkeiten für Innovationen in diesem Bereich eröffnet.

Erfahre mehr über KI, indem du unserer Community beitründest und unserem GitHub-Repository einen Besuch abstattest. Erfahre, wie AI in self-driving cars und computer vision in agriculture die Zukunft neu gestalten. Schau dir die verfügbaren Optionen der YOLO license an, um loszulegen!