Was ist EfficientNet? Ein kurzer Überblick

2019 stellten Forschende bei Google AI EfficientNet vor, ein hochmodernes Computer-Vision-Modell, das Objekte und Muster in Bildern erkennen soll. Es wurde in erster Linie für die Bildklassifizierung entwickelt, bei der ein Bild einer von mehreren vordefinierten Kategorien zugeordnet wird. Heute dient EfficientNet jedoch auch als Backbone für komplexere Aufgaben wie Objekterkennung, Segmentierung und Transfer Learning.

Vor EfficientNet versuchten solche Machine-Learning- und Vision-KI-Modelle, die Genauigkeit durch zusätzliche Schichten oder größere Schichten zu verbessern. Schichten sind die Verarbeitungsschritte eines neuronalen Netzes – einer Art Deep-Learning-Modell, das vom menschlichen Gehirn inspiriert ist. Sie verarbeiten Daten, um Muster zu lernen und die Genauigkeit zu verbessern.

Diese Änderungen führten zu einem Zielkonflikt: Herkömmliche KI-Modelle wurden größer und langsamer, während der Genauigkeitsgewinn im Verhältnis zum erheblich höheren Rechenaufwand oft gering ausfiel.

EfficientNet verfolgte einen anderen Ansatz. Es erhöhte Tiefe (Anzahl der Schichten), Breite (Anzahl der Einheiten pro Schicht) und Bildauflösung (Detailgrad der Eingabebilder) gleichzeitig und ausgewogen. Diese Methode heißt Compound Scaling. Das Ergebnis ist ein kleineres und schnelleres Modell, das besser abschneiden kann als ältere Modelle wie ResNet oder DenseNet.

Neuere Computer-Vision-Modelle wie Ultralytics YOLO11 und sein Nachfolger Ultralytics YOLO26 bieten heute höhere Genauigkeit, Geschwindigkeit und Effizienz. Dennoch ist EfficientNet ein wichtiger Meilenstein, der die Entwicklung zahlreicher fortschrittlicher Architekturen beeinflusst hat.

In diesem Artikel erklären wir EfficientNet in fünf Minuten: wie es funktioniert, was es besonders macht und warum es für Computer Vision noch immer wichtig ist.

Was ist EfficientNet?#

Bevor EfficientNet entwickelt wurde, verbesserten die meisten Bilderkennungsmodelle ihre Genauigkeit, indem sie ihre Schichten anpassten oder die Größe der Eingabebilder erhöhten, um mehr Details zu erfassen. Diese Strategien verbesserten zwar die Ergebnisse, machten die Modelle aber auch größer und anspruchsvoller. Dadurch benötigten sie mehr Speicher und leistungsfähigere Hardware.

Anstatt einzelne Schichten zu verändern, skaliert EfficientNet Tiefe, Breite und Bildauflösung gemeinsam mithilfe einer Methode namens Compound Scaling. So kann das Modell effizient wachsen, ohne einen einzelnen Aspekt übermäßig zu belasten.

Die EfficientNet-Architektur verarbeitet Bilder mithilfe einer Reihe von Blöcken, die jeweils aus kleineren Modulen bestehen. Die Anzahl der Module in jedem Block hängt von der Modellgröße ab.

Abb. 1. Die Bausteine von EfficientNet. (Quelle)

Kleinere Versionen verwenden weniger Module, während größere Versionen Module häufiger wiederholen. Dieses flexible Design ermöglicht EfficientNet eine hohe Genauigkeit und Effizienz für verschiedenste Anwendungen – von Mobilgeräten bis hin zu großen Systemen.

So funktioniert Compound Scaling#

Beim Compound Scaling werden Tiefe, Breite und Bildauflösung eines Modells vergrößert, aber im Gleichgewicht gehalten. Dadurch lässt sich die Rechenleistung effizient nutzen. Die Modellreihe beginnt mit einem kleineren Basismodell namens EfficientNet-B0, auf dem alle anderen Versionen aufbauen.

Ausgehend von B0 werden die Modelle zu größeren Varianten namens EfficientNet-B1 bis EfficientNet-B7 skaliert. Mit jeder Stufe erhält das Netzwerk zusätzliche Schichten, mehr Kanäle (Einheiten für die Verarbeitung) und die Fähigkeit, Eingabebilder mit höherer Auflösung zu verarbeiten. Wie stark das Modell pro Stufe wächst, bestimmt ein Parameter namens Compound-Koeffizient. Er sorgt dafür, dass Tiefe, Breite und Auflösung in festen Verhältnissen statt unabhängig voneinander zunehmen.

Abb. 2. Compound Scaling vergrößert die Breite, Tiefe und Bildauflösung eines Modells. (Quelle)

Die EfficientNet-Architektur#

Werfen wir als Nächstes einen Blick auf die Architektur von EfficientNet.

Sie baut auf MobileNetV2 auf, einem leichtgewichtigen Computer-Vision-Modell, das für Mobilgeräte und eingebettete Geräte optimiert ist. Im Kern steht der Mobile Inverted Bottleneck Convolution (MBConv)-Block, eine spezielle Schicht, die Bilddaten ähnlich wie eine gewöhnliche Faltung verarbeitet, dabei aber weniger Berechnungen benötigt. Dieser Block macht das Modell schnell und speichereffizient.

Jeder MBConv-Block enthält ein Squeeze-and-Excitation-Modul (SE). Dieses Modul passt die Stärke verschiedener Kanäle im Netzwerk an. Es verstärkt wichtige Kanäle und schwächt andere ab. So kann sich das Netzwerk auf die wichtigsten Merkmale eines Bildes konzentrieren und alles Übrige außer Acht lassen. Das EfficientNet-Modell verwendet außerdem die Swish-Aktivierungsfunktion, eine mathematische Funktion, die dem Netzwerk hilft, Muster zu erlernen. Dadurch erkennt es Muster in Bildern besser als ältere Methoden.

Darüber hinaus nutzt EfficientNet DropConnect: Während des Trainings werden einige Verbindungen im Netzwerk zufällig abgeschaltet. Diese stochastische Regularisierungsmethode, also ein Zufallsverfahren, das verhindert, dass das Modell die Trainingsdaten auswendig lernt, statt zu verallgemeinern, reduziert Overfitting. Dazu wird das Netzwerk gezwungen, robustere Merkmalsrepräsentationen zu lernen – stärkere und allgemeinere Muster in den Daten, die sich besser auf unbekannte Daten übertragen lassen.

Abb. 3. Architektur von EfficientNet-B0 (Quelle)

Ein kurzer Überblick über die EfficientNet-Modellvarianten#

Nachdem wir nun besser verstehen, wie EfficientNet-Modelle funktionieren, sehen wir uns die verschiedenen Modellvarianten an.

Die EfficientNet-Modelle reichen von B0 bis B7. Den Anfang bildet B0 als Basismodell, das Geschwindigkeit und Genauigkeit ausbalanciert. Jede Version erhöht Tiefe, Breite und Bildauflösung und verbessert damit die Genauigkeit. Gleichzeitig steigt der Rechenbedarf – von B1 und B2 bis zu den leistungsstarken Varianten B6 und B7.

EfficientNet-B3 und EfficientNet-B4 bieten einen ausgewogenen Kompromiss für größere Bilder, während B5 häufig für komplexe Datensätze gewählt wird, bei denen es auf Genauigkeit ankommt. Der Nachfolger EfficientNetV2 trainiert schneller und geht effizienter mit Parametern um.

Anwendungsbereiche von EfficientNet#

EfficientNet kann genaue Ergebnisse erzielen und dabei weniger Speicher und Rechenleistung als viele andere Modelle benötigen. Dadurch eignet es sich für zahlreiche Bereiche – von der wissenschaftlichen Forschung bis hin zu Produkten, die Menschen täglich nutzen.

Medizinische Bildanalyse#

Medizinische Bilder, etwa Lungen-CT-Aufnahmen, enthalten oft subtile Details, die für eine genaue Diagnose entscheidend sind. KI-Modelle können bei der Analyse dieser Bilder helfen und Muster aufdecken, die Menschen nur schwer erkennen. Eine für diesen Zweck angepasste Version von EfficientNet ist MONAI (Medical Open Network for AI) EfficientNet, das speziell für die medizinische Bildanalyse entwickelt wurde.

Auf Grundlage der EfficientNet-Architektur haben Forschende auch Lung-EffNet entwickelt, ein Modell, das CT-Aufnahmen der Lunge klassifiziert, um Tumoren zu erkennen. Es kann Aufnahmen als gutartig, bösartig oder normal einstufen und erreichte in Versuchen Berichten zufolge eine Genauigkeit von über 99 %.

Abb. 4. Klassifizierung von Tumoren in Bildern mit Lung-EffNet. (Quelle)

Objekterkennung in Echtzeit#

Bei der Objekterkennung werden Objekte in einem Bild gefunden und ihre Positionen bestimmt. Sie ist ein wichtiger Bestandteil von Anwendungen wie Sicherheitssystemen, selbstfahrenden Autos und Drohnen.

EfficientNet wurde in diesem Bereich wichtig, weil es eine sehr effiziente Möglichkeit bot, Merkmale aus Bildern zu extrahieren. Die Methode, Tiefe, Breite und Auflösung zu skalieren, zeigte, wie Modelle genau sein können, ohne zu groß oder langsam zu werden. Deshalb verwenden viele Erkennungssysteme wie EfficientDet EfficientNet als Backbone.

Neuere Modelle wie Ultralytics YOLO11 verfolgen dasselbe Ziel: Geschwindigkeit mit Genauigkeit zu verbinden. Dieser Trend hin zu effizienten Modellen wurde stark von Ideen aus Architekturen wie EfficientNet beeinflusst.

Vor- und Nachteile von EfficientNet#

Hier sind einige Vorteile von EfficientNet für Computer-Vision-Projekte:

• Hohe Genauigkeit mit weniger Parametern: EfficientNet kann eine ähnliche oder bessere Genauigkeit als ältere Modelle wie ResNet oder DenseNet erreichen. Gleichzeitig benötigt es weniger Parameter, lässt sich dadurch schneller trainieren und leichter bereitstellen.
• Skalierbare Modellfamilie: Von B0 bis B7 kannst du eine Version auswählen, die zu deiner Hardware und deinen Präzisionsanforderungen passt, ohne das Basisnetzwerk zu verändern.
• Gut für Transfer Learning: EfficientNet kann beim Transfer Learning, also beim erneuten Training eines vortrainierten Modells für eine eigene Aufgabe, eine zuverlässige Leistung liefern. Es kann als Backbone für zahlreiche Computer-Vision-Aufgaben dienen und hat auch bei der Feinabstimmung starke Ergebnisse erzielt. So erreichte es beispielsweise auf CIFAR-100, einem weit verbreiteten Datensatz zur Bildklassifizierung, eine Genauigkeit auf dem neuesten Stand der Technik und benötigte deutlich weniger Parameter als frühere Modelle.

EfficientNet bietet viele Vorteile, aber es gibt auch einige Einschränkungen, die du beachten solltest:

• Benötigt mehr Speicher: Versionen wie EfficientNet-B6 und EfficientNet-B7 benötigen viel GPU-Speicher.
• Skalierung auf ImageNet abgestimmt: Die Skalierungseinstellungen wurden für den ImageNet-Datensatz entwickelt. Ohne Feinabstimmung kann die Leistung auf sehr unterschiedlichen Datensätzen daher sinken. Das gilt besonders für kleine Datensätze, da EfficientNets Architektur und Skalierung für große und vielfältige Datensätze wie ImageNet ausgelegt wurden, die genügend Daten für die gewählte Tiefe und Breite bieten.
• Auf manchen Hardwareplattformen langsamer: EfficientNet verwendet Schichten namens MBConv, die auf Effizienz bei moderner Hardware ausgelegt sind. Auf älteren GPUs oder CPUs können diese Schichten langsamer laufen.

Die wichtigsten Erkenntnisse#

EfficientNet veränderte die Entwicklung von Computer-Vision-Modellen, indem es Tiefe, Breite und Bildauflösung im Gleichgewicht hielt. Es ist weiterhin ein wichtiges Modell und hat auch neuere Architekturen beeinflusst. Insbesondere nimmt es einen bedeutenden Platz in der Geschichte der Computer Vision ein.

Tritt unserer Community bei und besuche unser GitHub-Repository, um mehr über KI zu erfahren. Auf unseren Lösungsseiten findest du mehr über KI im Gesundheitswesen und Computer Vision in der Automobilbranche. Informiere dich über unsere Lizenzierung und beginne noch heute mit der Entwicklung von Computer-Vision-Anwendungen!