28. März 2025
Erfahren Sie, wie sich die Verzerrung von Datensätzen auf Computer-Vision-Modelle auswirkt und wie Ultralytics YOLO11 mit intelligenter Augmentation und flexiblen Trainingstools hilft, Verzerrungen zu reduzieren.
Modelle der künstlichen Intelligenz (KI) verändern die Art und Weise, wie wir Probleme lösen, aber sie sind nicht perfekt. Von selbstfahrenden Autos bis hin zu Diagnosetools im Gesundheitswesen verlassen wir uns auf KI, um Daten zu interpretieren und Entscheidungen zu treffen. Was passiert, wenn die Daten selbst fehlerhaft sind?
Voreingenommenheit in der künstlichen Intelligenz bezieht sich auf Muster von Inkonsistenzen, die sich in Modellen entwickeln, oft ohne dass es jemand merkt. Diese Verzerrungen können dazu führen, dass Modelle ungenaue, inkonsistente oder sogar schädliche Vorhersagen machen. In der Computer Vision ist die Verzerrung in der Regel auf eine Hauptquelle zurückzuführen: den Datensatz. Wenn die zum Trainieren des Modells verwendeten Daten unausgewogen oder nicht repräsentativ sind, wird das Modell diese Lücken widerspiegeln.
Schauen wir uns genauer an, wie Datensatzverzerrungen entstehen, wie sie sich auf Computer-Vision-Modelle auswirken und welche Schritte Entwickler unternehmen können, um sie zu erkennen und zu verhindern. Wir werden auch zeigen, wie Modelle wie Ultralytics YOLO11 die Bemühungen unterstützen können, gerechtere KI-Systeme zu entwickeln, die besser verallgemeinern, d. h. sie erbringen gute Leistungen bei neuen, ungesehenen Daten und dienen allen gleichermaßen.
KI-Verzerrung bezieht sich auf konsistente Fehler in einem KI-System, die zu verzerrten oder ungenauen Ergebnissen führen. Einfacher ausgedrückt: Das Modell beginnt, eine Art von visuellem Input gegenüber anderen zu bevorzugen, was sich auf die Fairness des Modells auswirkt, und zwar nicht, weil es besser abschneidet, sondern aufgrund der Art und Weise, wie es trainiert wurde.
Dies ist besonders häufig bei der Computer Vision der Fall, wo Modelle aus visuellen Daten lernen. Wenn ein Datensatz hauptsächlich eine Art von Objekt, Szene oder Person enthält, lernt das Modell Muster, die nur für diese Fälle gut funktionieren.
Stellen Sie sich ein Modell vor, das hauptsächlich auf Verkehrsbildern aus Großstädten trainiert wurde. Wenn es in einem ländlichen Gebiet eingesetzt wird, könnte es ungewöhnliche Straßenverläufe falsch klassifizieren oder Fahrzeugtypen nicht erkennen, die es noch nie gesehen hat. Das ist KI-Verzerrung in Aktion. Dies führt zu einer geringeren Genauigkeit und einer eingeschränkten Generalisierung, d. h. der Fähigkeit eines Modells, auch bei neuen oder unterschiedlichen Eingaben gute Ergebnisse zu erzielen.
Bei Anwendungen, bei denen es auf Genauigkeit ankommt, wie im Gesundheitswesen oder in der Sicherheitsbranche, sind diese Fehler nicht nur frustrierend, sondern können auch gefährlich sein. Bei der Beseitigung von Verzerrungen geht es um Leistung, Zuverlässigkeit und Sicherheit.
Wenn wir von einer Verzerrung des Datensatzes sprechen, beziehen wir uns auf die Unausgewogenheit oder Einschränkung der zum Trainieren eines Modells verwendeten Daten. Datensatzverzerrungen treten auf, wenn die Trainingsdaten die reale Vielfalt, die sie modellieren sollen, nicht angemessen widerspiegeln.
Computer-Vision-Modelle verstehen die Welt nicht. Sie verstehen Muster. Wenn die einzigen Bilder von Hunden, die sie sehen, Golden Retriever in Hinterhöfen sind, erkennen sie einen Husky auf einem verschneiten Weg vielleicht nicht.
Dies verdeutlicht eine der größten Herausforderungen, die sich aus der Verzerrung der Datensätze ergeben. Das Modell baut sein Verständnis auf dem auf, was ihm gezeigt wird. Wenn diese Trainingsdaten nicht die Vielfalt der realen Welt widerspiegeln, wird das Verhalten des Modells unter ungewohnten Bedingungen eingeschränkt und weniger effektiv.
Bildklassifizierer schneiden oft deutlich schlechter ab, wenn sie mit einem anderen Datensatz getestet werden als dem, mit dem sie trainiert wurden, selbst wenn beide Datensätze für dieselbe Aufgabe erstellt wurden. Kleine Änderungen der Beleuchtung, des Hintergrunds oder des Kamerawinkels können zu einem deutlichen Rückgang der Genauigkeit führen. Dies zeigt, wie leicht die Verzerrung eines Datensatzes die Generalisierungsfähigkeit eines Modells beeinträchtigen kann.
Dies sind keine Randfälle. Sie sind Signale dafür, dass Ihre Datenpipeline ebenso wichtig ist wie Ihre Modellarchitektur.
Voreingenommenheit kann sich im Entwicklungsprozess auf subtile Weise bemerkbar machen, oft während der Datenerfassung, -beschriftung oder -aufbereitung. Im Folgenden finden Sie drei Hauptarten von Verzerrungen, die Ihre Trainingsdaten beeinflussen können:
Selektionsverzerrungen können auftreten, wenn der Datensatz nicht die Vielfalt des realen Einsatzes repräsentiert. Wenn ein Fußgängererkennungsmodell nur auf klaren Tagesbildern trainiert wird, wird es bei Nacht oder Nebel nicht gut funktionieren. Bei der Auswahl wurden daher wichtige Fälle übersehen.
Diese Verzerrung tritt auf, wenn der Datensatz aufgrund der Art der Datenerfassung nicht das gesamte Spektrum der realen Szenarien abdeckt. Ein Fußgängererkennungsmodell, das nur auf klaren Tagesbildern trainiert wurde, kann zum Beispiel bei Nebel, Schnee oder schlechten Lichtverhältnissen versagen. Dies ist häufig der Fall, wenn die Daten unter idealen oder günstigen Bedingungen erfasst wurden, wodurch die Fähigkeit des Modells, in unterschiedlichen Umgebungen zu funktionieren, eingeschränkt wird. Die Ausweitung der Datenerfassung auf unterschiedlichste Umgebungen hilft, diese Art von Verzerrung zu verringern.
Dies kann auch bei Datensätzen aus Online-Quellen der Fall sein, deren Inhalt möglicherweise stark auf bestimmte Orte, Sprachen oder sozioökonomische Kontexte ausgerichtet ist. Wird nicht bewusst versucht, den Datensatz zu diversifizieren, wird das Modell diese Einschränkungen übernehmen.
Label Bias tritt auf, wenn menschliche Annotatoren falsche oder inkonsistente Labels vergeben. Eine falsche Kennzeichnung mag harmlos erscheinen, aber wenn sie häufig vorkommt, beginnt das Modell, falsche Assoziationen zu lernen.
Inkonsistente Beschriftungen können das Modell beim Training verwirren, insbesondere bei komplexen Aufgaben wie der Objekterkennung. So kann beispielsweise ein Kommentator ein Fahrzeug als "Auto" bezeichnen, während ein anderer ein ähnliches Fahrzeug als "Lkw" bezeichnet. Diese Inkonsistenzen beeinträchtigen die Fähigkeit des Modells, zuverlässige Muster zu lernen, was zu einer geringeren Genauigkeit bei der Inferenz führt.
Eine Verzerrung der Kennzeichnung kann auch durch unklare Annotationsrichtlinien oder unterschiedliche Interpretationen derselben Daten entstehen. Die Festlegung gut dokumentierter Beschriftungsstandards und die Durchführung von Qualitätskontrollen können diese Probleme erheblich verringern.
Fortlaufende Schulungen für Annotatoren und die Verwendung von Konsenskennzeichnungen, bei denen mehrere Annotatoren jede Probe überprüfen, sind zwei wirksame Strategien zur Minimierung von Kennzeichnungsfehlern und zur Verbesserung der Datensatzqualität.
Repräsentationsverzerrungen spiegeln oft breitere gesellschaftliche Ungleichheiten wider. Daten, die in wohlhabenderen oder besser vernetzten Regionen erhoben werden, erfassen möglicherweise nicht die Vielfalt der weniger repräsentierten Bevölkerungsgruppen oder Umfelder. Die Beseitigung dieser Verzerrung erfordert die bewusste Einbeziehung übersehener Gruppen und Kontexte.
Repräsentationsverzerrungen treten auf, wenn bestimmte Gruppen oder Klassen in einem Datensatz unterrepräsentiert sind. Dazu können demografische Gruppen, Objektkategorien oder Umgebungsbedingungen gehören. Wenn ein Modell nur einen Hautton, eine Art von Objekt oder einen Hintergrundstil sieht, spiegeln seine Vorhersagen dieses Ungleichgewicht wider.
Diese Art von Verzerrung ist zu beobachten, wenn bestimmte Gruppen oder Kategorien in viel geringerem Umfang enthalten sind als andere. Dies kann die Vorhersagen des Modells in Richtung der dominanten Beispiele im Datensatz verzerren. So kann ein Gesichtserkennungsmodell, das hauptsächlich auf eine bestimmte Bevölkerungsgruppe trainiert wurde, Schwierigkeiten haben, bei allen Benutzern genau zu funktionieren. Im Gegensatz zur Auswahlverzerrung, die mit der Datenvielfalt zusammenhängt, betrifft die Repräsentationsverzerrung das Gleichgewicht zwischen den Gruppen.
Diversitätsprüfungen und gezielte Strategien zur Datenerweiterung können dazu beitragen, dass alle relevanten demografischen Merkmale und Kategorien im gesamten Schulungsdatensatz angemessen vertreten sind.
In der realen Welt bedeutet KI-Voreingenommenheit nicht nur ein paar falsche Vorhersagen. Sie kann zu Systemen führen, die für manche Menschen gut funktionieren, aber nicht für alle.
Bei der künstlichen Intelligenz im Automobilbereich können die Erkennungsmodelle für verschiedene Fußgängergruppen uneinheitlich sein, was zu schlechteren Sicherheitsergebnissen für unterrepräsentierte Personen führt. Das Problem ist nicht die Absicht des Modells. Es liegt an den visuellen Eingaben, mit denen es trainiert wurde. Sogar in der Landwirtschaft können Verzerrungen bei der Objekterkennung dazu führen, dass Pflanzen bei unterschiedlichen Licht- oder Wetterverhältnissen schlecht erkannt werden. Dies sind häufige Folgen des Trainings von Modellen auf begrenzten oder unausgewogenen Datensätzen.
Die Beseitigung von KI-Verzerrungen beginnt damit, dass man weiß, wo man suchen muss. Wenn in Ihrem Trainingssatz wichtige Beispiele fehlen oder ein enger Bereich überrepräsentiert ist, wird Ihr Modell diese Lücken widerspiegeln. Deshalb ist die Erkennung von Verzerrungen in der KI ein wichtiger Schritt in jeder Entwicklungspipeline.
Beginnen Sie mit der Analyse Ihres Datensatzes. Schauen Sie sich die Verteilung über Klassen, Umgebungen, Beleuchtung, Objektskalen und demografische Merkmale an. Wenn eine Kategorie dominiert, wird Ihr Modell bei den anderen wahrscheinlich unterdurchschnittlich abschneiden.
Betrachten Sie als nächstes die Leistung. Schneidet das Modell in bestimmten Einstellungen oder bei bestimmten Objekttypen schlechter ab? Wenn ja, ist dies ein Zeichen für eine erlernte Verzerrung, die in der Regel auf die Daten zurückzuführen ist.
Die Bewertung auf Scheibenebene ist entscheidend. Ein Modell kann im Durchschnitt eine Genauigkeit von 90 % aufweisen, bei einer bestimmten Gruppe oder Bedingung jedoch nur 60 %. Ohne diese Slices zu überprüfen, würde man das nie erfahren.
Die Verwendung von Fairness-Metriken während des Trainings und der Bewertung ist ein weiteres leistungsstarkes Instrument. Diese Metriken gehen über die Standard-Genauigkeitswerte hinaus und bewerten, wie sich das Modell in verschiedenen Teilmengen von Daten verhält. Sie helfen dabei, blinde Flecken aufzudecken, die sonst vielleicht unbemerkt bleiben.
Transparenz bei der Zusammenstellung der Datensätze und der Modellprüfung führt zu besseren Modellen.
Sobald Sie Verzerrungen festgestellt haben, besteht der nächste Schritt darin, die Lücke zu schließen. Eine der effektivsten Möglichkeiten, dies zu tun, ist die Erhöhung der Datenvielfalt in KI-Modellen. Das bedeutet, dass mehr Stichproben aus unterrepräsentierten Szenarien gesammelt werden, seien es medizinische Bilder aus verschiedenen Bevölkerungsgruppen oder ungewöhnliche Umweltbedingungen.
Mehr Daten können wertvoll sein, insbesondere wenn sie die Vielfalt erhöhen. Die Verbesserung der Fairness hängt jedoch auch von der Sammlung der richtigen Arten von Beispielen ab. Diese sollten die realen Variationen widerspiegeln, mit denen Ihr Modell wahrscheinlich konfrontiert wird.
Die Datenerweiterung ist eine weitere wertvolle Strategie. Das Drehen, Wenden, Anpassen der Beleuchtung und Skalieren von Objekten kann helfen, verschiedene reale Bedingungen zu simulieren. Die Erweiterung erhöht nicht nur die Vielfalt des Datensatzes, sondern trägt auch dazu bei, dass das Modell robuster gegenüber Veränderungen im Aussehen, in der Beleuchtung und im Kontext wird.
Die meisten modernen Schulungspipelines enthalten standardmäßig Augmentierungen, aber erst der strategische Einsatz, z. B. die Konzentration auf die Anpassung an aufgabenspezifische Anforderungen, macht sie für die Fairness wirksam.
Synthetische Daten sind künstlich erzeugte Daten, die Beispiele aus der realen Welt nachahmen. Sie können ein hilfreiches Instrument sein, wenn bestimmte Szenarien zu selten oder zu empfindlich sind, um sie in freier Wildbahn zu erfassen.
Wenn Sie z. B. ein Modell zur Erkennung seltener Maschinendefekte oder seltener Verkehrsverstöße entwickeln, können Sie diese Fälle anhand synthetischer Daten simulieren. Dies gibt Ihrem Modell die Möglichkeit, aus Ereignissen zu lernen, die in Ihrem Trainingssatz nicht häufig vorkommen.
Studien haben ergeben, dass die Einführung gezielter synthetischer Daten in das Training die Verzerrung von Datensätzen verringern und die Leistung über demografische Gruppen und Umgebungen hinweg verbessern kann.
Synthetische Daten sind am besten geeignet, wenn sie mit realen Proben gepaart werden. Sie ergänzen Ihren Datensatz, sie ersetzen ihn nicht.
Die Erstellung unvoreingenommener KI-Modelle hängt auch von den verwendeten Tools ab. YOLO11 ist so konzipiert, dass es flexibel ist, sich leicht feinabstimmen lässt und sehr anpassungsfähig ist, was es zu einem idealen Werkzeug macht, um Verzerrungen in Datensätzen zu reduzieren.
YOLO11 unterstützt fortschrittliche Datenerweiterungstechniken beim Training des Modells, die verschiedene Bildkontexte und gemischte Beispiele einführen, um die Modellgeneralisierung zu verbessern und die Überanpassung zu reduzieren.
YOLO11 bietet außerdem eine verbesserte Backbone- und Neck-Architektur für eine effektivere Merkmalsextraktion. Dieses Upgrade verbessert die Fähigkeit des Modells, feinkörnige Details zu erkennen, was in unterrepräsentierten oder randständigen Szenarien, in denen Standardmodelle Schwierigkeiten haben, entscheidend ist.
Da sich YOLO11 einfach neu trainieren und in Edge- und Cloud-Umgebungen einsetzen lässt, können Teams Leistungslücken erkennen und das Modell schnell aktualisieren, wenn in der Praxis Abweichungen festgestellt werden.
Faire KI ist kein einmaliges Ziel. Es ist ein Kreislauf aus Bewertung, Lernen und Anpassung. Werkzeuge wie YOLO11 helfen, diesen Zyklus schneller und produktiver zu gestalten.
Die Voreingenommenheit der KI wirkt sich auf alles aus, von der Fairness bis zur Leistung. Voreingenommenheit in der Computer Vision ist oft darauf zurückzuführen, wie Datensätze gesammelt, beschriftet und abgeglichen werden. Glücklicherweise gibt es bewährte Methoden, um sie zu erkennen und abzuschwächen.
Beginnen Sie mit der Prüfung Ihrer Daten und testen Sie die Modellleistung in verschiedenen Szenarien. Nutzen Sie gezielte Datenerfassung, -erweiterung und synthetische Daten, um eine bessere Trainingsabdeckung zu erreichen.
YOLO11 unterstützt diesen Arbeitsablauf, indem es das Trainieren von benutzerdefinierten Modellen, die Anwendung starker Augmentierungstechniken und die schnelle Reaktion auf festgestellte Verzerrungen erleichtert.
Die Entwicklung einer fairen KI ist nicht nur richtig. Es geht auch darum, intelligentere und zuverlässigere Systeme zu entwickeln.
Werden Sie Teil unserer wachsenden Gemeinschaft! Erkunden Sie unser GitHub-Repository, um mehr über KI zu erfahren. Sind Sie bereit, Ihre eigenen Computer Vision Projekte zu starten? Informieren Sie sich über unsere Lizenzierungsoptionen. Entdecken Sie AI in der Fertigung und Vision AI in der Landwirtschaft auf unseren Lösungsseiten!
