Qu'est-ce qu'EfficientNet ? Un aperçu rapide

En 2019, des chercheurs de Google AI ont introduit EfficientNet, un modèle de computer vision à la pointe de la technologie, conçu pour reconnaître des objets et des motifs dans des images. Il a été principalement pensé pour la classification d'images, qui consiste à attribuer une image à l'une des nombreuses catégories prédéfinies. Cependant, aujourd'hui, EfficientNet sert également de backbone pour des tâches plus complexes telles que la détection d'objets, la segmentation et le transfer learning.

Avant EfficientNet, les modèles de machine learning et de vision AI tentaient d'améliorer leur précision en ajoutant davantage de couches ou en augmentant la taille de ces couches. Les couches sont les étapes d'un modèle de réseau de neurones (un type de modèle de deep learning inspiré du cerveau humain) qui traitent les données pour apprendre des motifs et améliorer la précision.

Ces changements créaient un compromis, rendant les modèles AI traditionnels plus lourds et plus lents, alors que le gain de précision était souvent minime par rapport à l'augmentation significative de la puissance de calcul requise.

EfficientNet a adopté une approche différente. Il a augmenté simultanément la profondeur (nombre de couches), la largeur (nombre d'unités dans chaque couche) et la résolution de l'image (le niveau de détail des images d'entrée) de manière équilibrée. Cette méthode, appelée compound scaling, utilise de manière fiable toute la puissance de traitement disponible. Le résultat final est un modèle plus petit et plus rapide, capable de surpasser des modèles plus anciens comme ResNet ou DenseNet.

Aujourd'hui, de nouveaux modèles de vision par ordinateur comme Ultralytics YOLO11 offrent une précision, une vitesse et une efficacité accrues. Malgré cela, EfficientNet demeure une étape importante qui a influencé la conception de nombreuses architectures avancées.

Dans cet article, nous allons décortiquer EfficientNet en cinq minutes, en couvrant son fonctionnement, ce qui le rend unique et pourquoi il reste important en vision par ordinateur. C'est parti !

Link to this sectionQu'est-ce qu'EfficientNet ?#

Avant la conception d'EfficientNet, la plupart des modèles de reconnaissance d'images amélioraient leur précision en ajustant leurs couches ou en augmentant la taille des images d'entrée pour capturer plus de détails. Bien que ces stratégies amélioraient les résultats, elles rendaient également les modèles plus lourds et plus exigeants. Cela signifiait qu'ils nécessitaient plus de mémoire et un meilleur matériel.

Au lieu de modifier chaque couche individuellement, EfficientNet ajuste la profondeur, la largeur et la résolution de l'image ensemble grâce à une méthode appelée compound scaling. Cette approche permet au modèle de croître efficacement sans surcharger aucun aspect.

L'architecture d'EfficientNet traite les images à travers une série de blocs, chacun composé de plus petits modules. Le nombre de modules dans chaque bloc dépend de la taille du modèle.

Fig 1. Les blocs de construction d'EfficientNet. (Source)

Les versions plus petites utilisent moins de modules, tandis que les versions plus grandes répètent les modules plus fréquemment. Cette conception flexible permet à EfficientNet d'offrir une précision et une efficacité élevées dans une large gamme d'applications, des appareils mobiles aux systèmes à grande échelle.

Link to this sectionComment fonctionne le compound scaling#

La méthode de compound scaling étend la profondeur, la largeur et la résolution d'image d'un modèle tout en les maintenant en équilibre. Cela permet d'utiliser la puissance de calcul de manière efficace. La série commence par un modèle de base plus petit appelé EfficientNet-B0, qui sert de fondation à toutes les autres versions.

À partir de B0, les modèles augmentent en taille vers des variantes plus grandes nommées EfficientNet-B1 jusqu'à EfficientNet-B7. À chaque étape, le réseau gagne des couches supplémentaires, augmente le nombre de canaux (unités utilisées pour le traitement) et gère des images d'entrée à plus haute résolution. L'ampleur de la croissance à chaque étape est déterminée par un paramètre appelé le compound coefficient, qui garantit que la profondeur, la largeur et la résolution augmentent dans des proportions fixes plutôt qu'indépendamment.

Fig 2. Le compound scaling augmente la largeur, la profondeur et la résolution d'image d'un modèle. (Source)

Link to this sectionArchitecture d'EfficientNet#

Passons maintenant à l'architecture d'EfficientNet.

Il repose sur MobileNetV2, un modèle de vision par ordinateur léger optimisé pour les appareils mobiles et embarqués. Au cœur se trouve le bloc Mobile Inverted Bottleneck Convolution (MBConv), une couche spéciale qui traite les données d'image comme une convolution standard mais avec moins de calculs. Ce bloc rend le modèle à la fois rapide et plus efficace en termes de mémoire.

À l'intérieur de chacun des blocs MBConv se trouve un module squeeze-and-excitation (SE). Ce module ajuste la force des différents canaux dans le réseau. Il augmente la force des canaux essentiels et réduit celle des autres. Le module aide le réseau à se concentrer sur les caractéristiques les plus importantes d'une image, tout en ignorant le reste. Le modèle EfficientNet utilise également une fonction d'activation Swish (une fonction mathématique qui aide le réseau à apprendre des motifs), ce qui l'aide à mieux détecter les motifs dans les images que les méthodes plus anciennes.

Au-delà de cela, il utilise DropConnect, où certaines connexions à l'intérieur du réseau sont désactivées de manière aléatoire pendant l'entraînement. Cette méthode de régularisation stochastique (une technique de randomisation pour empêcher le modèle de mémoriser les données d'entraînement au lieu de généraliser) réduit le surapprentissage en forçant le réseau à apprendre des représentations de caractéristiques plus robustes (des motifs plus forts et plus généraux dans les données) qui se transfèrent mieux aux données inédites.

Fig 3. Architecture d'EfficientNet-B0 (Source)

Link to this sectionUn bref aperçu des variantes du modèle EfficientNet#

Maintenant que nous comprenons mieux le fonctionnement des modèles EfficientNet, discutons des différentes variantes.

Les modèles EfficientNet varient de B0 à B7, avec B0 comme base qui équilibre vitesse et précision. Chaque version augmente la profondeur, la largeur et la résolution de l'image, améliorant ainsi la précision. Cependant, elles exigent également plus de puissance de calcul, allant des versions B1 et B2 aux versions B6 et B7 plus performantes.

Alors que les modèles EfficientNet-B3 et EfficientNet-B4 offrent un bon équilibre pour les images plus grandes, B5 est souvent choisi pour des jeux de données complexes nécessitant de la précision. Au-delà de ces modèles, la dernière version, EfficientNet V2, peut améliorer la vitesse d'entraînement, mieux gérer les petits jeux de données et est optimisée pour le matériel moderne.

Link to this sectionApplications d'EfficientNet#

EfficientNet peut produire des résultats précis tout en utilisant moins de mémoire et de puissance de traitement que de nombreux autres modèles. Cela le rend utile dans de nombreux domaines, de la recherche scientifique aux produits que les gens utilisent quotidiennement.

Link to this sectionAnalyse d'images médicales#

Les images médicales, comme les scanners CT des poumons, contiennent souvent des détails subtils cruciaux pour un diagnostic précis. Les modèles AI peuvent aider à analyser ces images pour découvrir des motifs difficiles à détecter pour les humains. Une adaptation d'EfficientNet à cet effet est MONAI (Medical Open Network for AI) EfficientNet, qui est spécifiquement conçu pour l'analyse d'images médicales.

En s'appuyant sur l'architecture d'EfficientNet, les chercheurs ont également développé Lung-EffNet, un modèle qui classifie les scanners CT pulmonaires pour détecter les tumeurs. Il peut catégoriser les tumeurs comme bénignes, malignes ou normales, atteignant une précision déclarée de plus de 99 % dans des environnements expérimentaux.

Fig 4. Classification d'images de tumeurs utilisant Lung-EffNet. (Source)

Link to this sectionDétection d'objets en temps réel#

La détection d'objets est le processus consistant à localiser des objets dans une image et à déterminer leurs emplacements. C'est un élément clé d'applications comme les systèmes de sécurité, les voitures autonomes et les drones.

EfficientNet est devenu important dans ce domaine car il offrait un moyen très efficace d'extraire des caractéristiques des images. Sa méthode de mise à l'échelle de la profondeur, de la largeur et de la résolution a montré comment des modèles pouvaient être précis sans être trop lourds ou lents. C'est pourquoi de nombreux systèmes de détection, comme EfficientDet, utilisent EfficientNet comme backbone.

Des modèles plus récents, tels qu'Ultralytics YOLO11, partagent le même objectif de combiner vitesse et précision. Cette tendance vers des modèles efficaces a été fortement influencée par les idées issues d'architectures comme EfficientNet.

Link to this sectionAvantages et inconvénients d'EfficientNet#

Voici quelques avantages de l'utilisation d'EfficientNet dans les projets de vision par ordinateur :

• Haute précision avec moins de paramètres : EfficientNet peut offrir une précision similaire ou supérieure à celle d'anciens modèles comme ResNet ou DenseNet. Cependant, il utilise moins de paramètres, ce qui le rend plus rapide à entraîner et plus facile à déployer.
• Famille de modèles évolutive : Allant de B0 à B7, tu peux choisir une version qui correspond à ton matériel et à tes exigences de précision sans modifier le réseau de base.
• Bon pour le transfer learning : EfficientNet peut offrir des performances fiables pour le transfer learning, qui consiste à réentraîner un modèle pré-entraîné pour une tâche personnalisée. Il peut servir de backbone pour une variété de tâches de vision par ordinateur. Il a également montré de solides résultats lorsqu'il est affiné. Par exemple, il a atteint une précision de pointe sur CIFAR-100, un jeu de données de classification d'images largement utilisé, avec significativement moins de paramètres que les modèles précédents.

Bien qu'il y ait de nombreux avantages à utiliser EfficientNet, voici quelques limitations à garder à l'esprit :

• Nécessite plus de mémoire : Des versions comme EfficientNet-B6 et EfficientNet-B7 nécessitent beaucoup de mémoire GPU.
• Mise à l'échelle ajustée pour ImageNet : Les réglages de mise à l'échelle ont été conçus pour le jeu de données ImageNet, les performances peuvent donc diminuer sur des jeux de données très différents sans affinage. Cela est particulièrement vrai pour les petits jeux de données, car l'architecture et la mise à l'échelle d'EfficientNet ont été conçues pour un jeu de données large et diversifié comme ImageNet, qui fournit assez de données pour justifier sa profondeur et sa largeur.
• Plus lent sur certains matériels : EfficientNet utilise des couches appelées MBConv qui sont conçues pour l'efficacité sur le matériel moderne. Sur des GPU ou CPU plus anciens, ces couches peuvent fonctionner plus lentement.

Link to this sectionPoints clés#

EfficientNet a changé la façon dont les modèles de vision par ordinateur se développent en maintenant la profondeur, la largeur et la résolution d'image en équilibre. Il reste un modèle important et a influencé des architectures plus récentes. En particulier, il occupe une place significative dans l'histoire de la vision par ordinateur.

Rejoins notre communauté et notre dépôt GitHub pour en explorer davantage sur l'AI. Consulte nos pages de solutions pour lire sur l'AI dans la santé et la vision par ordinateur dans l'automobile. Découvre nos options de licence et commence à construire avec la vision par ordinateur dès aujourd'hui !