Identity Mapping

En mathématiques et en algèbre linéaire, une application identité ou matrice identité est une fonction qui renvoie exactement la même valeur que celle utilisée comme entrée. Dans le contexte de l'intelligence artificielle (IA) et du deep learning, le mappage d'identité fait référence à une technique architecturale spécifique utilisée pour transmettre les données d'entrée directement aux couches suivantes d'un réseau de neurones convolutif (CNN) sans aucune transformation non linéaire. Ce concept a été largement popularisé par l'introduction des Réseaux Résiduels (ResNet) en 2015, qui a révolutionné la manière dont les modèles de vision par ordinateur (CV) profonds sont structurés et entraînés.

Link to this sectionComment fonctionne le mappage d'identité#

Les réseaux de neurones profonds souffrent fréquemment du problème de disparition du gradient. Lors de la rétropropagation, les signaux d'erreur utilisés pour mettre à jour les poids du réseau deviennent exponentiellement plus petits à mesure qu'ils remontent à travers les couches, empêchant les premières couches d'apprendre efficacement. Le mappage d'identité résout ce problème en créant des « connexions sautées » ou « connexions de raccourci ».

Au lieu de forcer les couches séquentielles à apprendre un mappage entièrement nouveau et non référencé, elles sont conçues pour apprendre une fonction résiduelle. Mathématiquement, si l'entrée d'un bloc est x, la couche apprend une transformation F(x). Le mappage d'identité ajoute l'entrée originale x directement à la sortie de cette transformation, ce qui donne la sortie finale F(x) + x. Cela garantit que, même dans des réseaux extrêmement profonds, les gradients peuvent circuler sans entrave directement à travers le backbone du modèle. Des organismes de recherche en IA réputés comme Google DeepMind et OpenAI exploitent fréquemment ces raccourcis architecturaux pour stabiliser l'entraînement de modèles de fondation massifs.

Link to this sectionMappage d'identité vs Préservation de l'identité#

Il est crucial de distinguer le mappage d'identité de la préservation de l'identité à la dénomination similaire.

Alors que le mappage d'identité est une caractéristique de codage structurel d'un réseau de neurones conçu pour optimiser le flux d'entraînement du machine learning (ML), la préservation de l'identité est une tâche de vision par ordinateur distincte. La préservation de l'identité se concentre sur le maintien de la cohérence visuelle d'une personne ou d'un objet spécifique à travers différentes images vidéo dans le suivi d'objets ou à travers des images générées dans les flux de travail d'IA générative.

Link to this sectionApplications concrètes#

Le mappage d'identité sert de bloc de construction fondamental pour de nombreux modèles hautement précis utilisés aujourd'hui en production :

• Détection d'objets avancée : Les architectures modernes en temps réel, y compris le dernier Ultralytics YOLO26, utilisent des blocs résiduels avancés contenant des mappages d'identité au sein de leurs couches d'extraction de caractéristiques. Cela leur permet d'effectuer une détection haute vitesse et précise dans des environnements complexes comme la conduite autonome sans dégrader les performances à mesure que la profondeur du réseau augmente.
• Modèles de classification d'images : Les architectures de vision à la pointe de la technologie, largement documentées dans des dépôts académiques comme arXiv et la IEEE Xplore Digital Library, s'appuient sur des mappages d'identité pour entraîner avec succès des modèles comptant des centaines de couches. Des frameworks de haut niveau comme TensorFlow utilisent ces raccourcis pour extraire des caractéristiques hiérarchiques hautement complexes à partir de jeux de données massifs.

Link to this sectionImplémentation du mappage d'identité dans PyTorch#

Lors de la création de réseaux de neurones personnalisés, les frameworks de deep learning comme PyTorch fournissent des outils natifs pour implémenter ces raccourcis sans effort. Tu peux utiliser explicitement le module PyTorch nn.Identity ou simplement appliquer une addition mathématique au sein de ton passage forward nn.Module.

L'extrait suivant démontre un bloc résiduel de base utilisant un mappage d'identité. Note que les développeurs utilisant la plateforme Ultralytics basée sur le cloud pour la gestion des données et l'entraînement des modèles bénéficient automatiquement de ces structures architecturales hautement optimisées sous le capot.

import torch.nn as nn


class ResidualBlock(nn.Module):
    def __init__(self, channels):
        super().__init__()
        # A simple convolutional layer for feature extraction
        self.conv = nn.Conv2d(channels, channels, kernel_size=3, padding=1)
        # Explicit identity mapping module
        self.identity = nn.Identity()

    def forward(self, x):
        # The block output is the sum of the learned features and the identity map
        return self.conv(x) + self.identity(x)