ImageNet

ImageNet ist eine Datenbank mit mehr als 14 Millionen Bildern, die jeweils mit einem von 21.841 Substantivkonzepten aus der lexikalischen Hierarchie WordNet beschriftet sind. Die Datenbank wurde von der Forschungsgruppe um Fei-Fei Li an Princeton und Stanford erstellt und 2009 vorgestellt. Im alltäglichen Gebrauch bezeichnet „ImageNet“ meist ImageNet-1k, den Datensatz mit 1.000 Klassen aus der ImageNet Large Scale Visual Recognition Challenge (ILSVRC) von 2012. Er umfasst 1.281.167 Trainingsbilder, 50.000 Validierungsbilder und 100.000 Testbilder. ImageNet-1k ist der Standard-Benchmark-Datensatz für die Bildklassifizierung, und darauf trainierte Netzwerke sind ein üblicher Ausgangspunkt für Transferlernen in der Computervision.

So ist ImageNet aufgebaut#

Jedes WordNet-Konzept, Synset genannt, fasst die Wörter zusammen, die es bezeichnen, und ist allgemeineren Konzepten untergeordnet. So gehört Golden Retriever zur Kategorie Hund und Hund zur Kategorie Tier. Das ImageNet-Team sammelte für jedes Synset mögliche Bilder über Bildersuchen im Internet und ließ Mitarbeitende von Amazon Mechanical Turk jedes Bild überprüfen. Ziel waren 500 bis 1.000 saubere Bilder pro Konzept. ImageNet-1k umfasst 1.000 Synsets, überwiegend spezifische untergeordnete Begriffe der Hierarchie statt allgemeiner Kategorien: 118 seiner Klassen sind Hunderassen. Ein Modell muss also einen Siberian Husky von einem Alaskan Malamute unterscheiden können, ebenso wie einen Schulbus von einem Goldzeisig. Die vollständige Veröffentlichung mit allen 21.841 Synsets heißt ImageNet-21k oder ImageNet-22k und wird hauptsächlich für das Vortraining in großem Maßstab verwendet.

Die ILSVRC Challenge und AlexNet#

Die ILSVRC fand jedes Jahr von 2010 bis 2017 statt und bewertete Klassifizierungseinreichungen anhand der Top-5-Fehlerrate, also des Anteils der Testbilder, bei denen die tatsächliche Klasse nicht unter den fünf Ergebnissen mit den höchsten Modellwerten auftaucht. Die Top-1-Genauigkeit, bei der nur die beste Einzelvorhersage zählt, wurde mit der Verbesserung der Modelle zur gebräuchlicheren Kennzahl. 2012 gewann AlexNet, ein konvolutionales neuronales Netz (CNN) mit 60 Millionen Parametern, das auf zwei GPUs trainiert wurde. Es erzielte eine Top-5-Fehlerrate von 15,3 % gegenüber 26,2 % beim zweitplatzierten Modell, das auf von Menschen entwickelten Merkmalen beruhte. Dieser Vorsprung lenkte die Computervisionsforschung auf Deep Learning. Spätere Sieger senkten die Fehlerrate weiter, und 2015 erreichte ein Ensemble aus Residualnetzwerken (ResNet) 3,57 % – weniger als die Top-5-Fehlerrate von 5,1 %, die bei einer ausgebildeten menschlichen annotierenden Person in der ILSVRC-Veröffentlichung gemessen wurde.

Vortraining und Transferlernen#

Ein auf ImageNet-1k trainiertes Netzwerk lernt in seinen frühen Schichten allgemeine visuelle Merkmale wie Kanten, Texturen und einfache Formen und in späteren Schichten spezifischere Objektmerkmale. Werden diese Gewichtungen als Backbone wiederverwendet und auf einem kleineren Datensatz feinabgestimmt, konvergiert das Modell schneller und erreicht eine höhere Genauigkeit, als wenn es mit zufälligen Gewichtungen trainiert wird. Die größten Verbesserungen zeigen sich bei wenigen beschrifteten Bildern. Die YOLO26-Klassifizierungsmodelle werden mit ImageNet-1k bei 224 Pixeln trainiert und erreichen bei der Validierung Top-1-Genauigkeiten von 71,4 % bei YOLO26n-cls bis 79,9 % bei YOLO26x-cls. Beim Training auf einem benutzerdefinierten Datensatz wird die Ausgabeschicht für 1.000 Klassen durch eine ersetzt, deren Größe den neuen Klassen entspricht.

from ultralytics import YOLO

# Load a YOLO26 nano classifier trained on the 1,000 ImageNet-1k classes
model = YOLO("yolo26n-cls.pt")

# Classify an image and select the result for that image
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Print the five most likely ImageNet classes with their probabilities
for index, probability in zip(result.probs.top5, result.probs.top5conf.tolist()):
    print(f"{result.names[index]}: {probability:.3f}")

Das Modell bewertet alle 1.000 Klassen, und die Schleife gibt die fünf höchsten Bewertungen aus – dieselbe Top-5-Liste, mit der die ILSVRC-Fehlermetrik das wahre Label abgleicht.

Die größten Bildverarbeitungsmodelle werden inzwischen auf viel größeren und verrauschteren Datensammlungen vortrainiert, etwa den 400 Millionen Bild-Text-Paaren hinter CLIP. ImageNet-1k bleibt jedoch ein standardisierter Test dafür, wie gut die erlernten Merkmale sind – durch Feinabstimmung, Zero-Shot-Klassifizierung oder lineares Sondieren, bei dem nur ein linearer Klassifikator auf eingefrorenen Merkmalen trainiert wird.

Einschränkungen und nachfolgende Datensätze#

• Fehlerhafte Labels: Mindestens 6 % der Validierungslabels von ImageNet-1k sind falsch, und viele Bilder enthalten mehrere Objekte, haben aber nur ein Label. Für die ReaL-Labels wurde die Validierungsmenge neu annotiert, sodass jede gültige Klasse pro Bild erfasst ist.
• ImageNetV2: Ein neuer Testsatz, der durch die Wiederholung des ursprünglichen Verfahrens zusammengestellt wurde. Die Genauigkeit der Modelle sank darauf um 11 % bis 14 %, während die Rangfolge nahezu gleich blieb. Die Autoren führen diesen Rückgang auf etwas schwierigere Bilder zurück und nicht darauf, dass der ursprüngliche Testsatz jahrelang wiederverwendet wurde.
• Datenschutz und Fairness: 2019 filterte das ImageNet-Team 2.702 Synsets aus dem Personen-Unterbaum des vollständigen Datensatzes heraus. 2021 veröffentlichte es eine Version der ILSVRC-Daten mit unkenntlich gemachten Gesichtern, bei der die Genauigkeit nur geringfügig sinkt. Die 1.000 ILSVRC-Klassen waren von der Filterung des Personen-Unterbaums nicht betroffen.
• Zugangsbedingungen: ImageNet besitzt nicht das Urheberrecht an seinen Bildern und gewährt Zugang nur für nichtkommerzielle Forschung und Bildung. Die Trainings- und Validierungsbilder von ImageNet-1k umfassen insgesamt etwa 144 GB.

ImageNet im Vergleich zu verwandten Datensätzen#

• COCO: Begrenzungsrahmen, Masken und Schlüsselpunkte für 80 Objektkategorien mit vielen markierten Objekten pro Bild; der Standardbenchmark für Objekterkennung und Segmentierung.
• CIFAR-10: 60.000 Bilder mit jeweils 32×32 Pixeln in 10 Klassen, klein genug für Experimente, die auf einer GPU in wenigen Minuten trainiert werden.