Tout ce que tu dois savoir sur l'IA explicable (XAI)

As-tu déjà vu une réponse d'un outil d'intelligence artificielle (IA) comme ChatGPT et t'es-tu demandé comment il était parvenu à cette conclusion ? Dans ce cas, tu as rencontré le problème de la « boîte noire » de l'IA. C'est un terme qui fait référence au manque de clarté sur la façon dont les modèles d'IA traitent et analysent les données. Même les ingénieurs et les scientifiques en IA qui travaillent régulièrement avec des algorithmes d'IA de pointe peuvent trouver difficile de comprendre pleinement leur fonctionnement interne. En fait, seuls 22 % des professionnels de l'informatique comprennent réellement les capacités des outils d'IA.

L'incertitude entourant la manière dont les modèles d'IA prennent des décisions peut être risquée, surtout dans des domaines critiques tels que la vision par ordinateur dans la santé et l'IA dans la finance. Cependant, des progrès significatifs sont réalisés pour relever ces défis et améliorer la transparence.

En particulier, l'IA explicable (XAI) se concentre uniquement sur la résolution de ce problème. Pour faire simple, il s'agit d'un ensemble de processus et de méthodes qui aident les utilisateurs humains à comprendre et à faire confiance aux résultats ou aux sorties fournis par des algorithmes complexes d'apprentissage automatique.

La XAI peut aider les développeurs à s'assurer que les systèmes d'IA fonctionnent comme prévu. Elle peut également aider les entreprises spécialisées dans l'IA à respecter les normes réglementaires. Dans cet article, nous explorerons l'IA explicable et son large éventail de cas d'utilisation. Commençons !

Link to this sectionL'importance de l'IA explicable#

L'explicabilité est essentielle lorsque tu travailles avec l'IA. Cela est particulièrement vrai pour le sous-domaine de l'IA qu'est la vision par ordinateur, qui est largement utilisée dans des applications industrielles comme la santé. Lorsque tu utilises des modèles de vision dans de tels secteurs sensibles, il est important que le fonctionnement du modèle soit transparent et interprétable pour tout le monde.

L'interprétabilité dans les modèles de vision par ordinateur aide les utilisateurs à mieux comprendre comment une prédiction a été faite et la logique qui la sous-tend. La transparence y contribue en rendant le fonctionnement du modèle clair pour tous, en soulignant clairement ses limites et en garantissant que les données sont utilisées de manière éthique. Par exemple, la vision par ordinateur peut aider les radiologues à identifier efficacement les complications de santé dans les images radiographiques.

Fig 1. Radiographies thoraciques analysées par l'IA de vision montrant les classifications de tuberculose saine, malade, active et latente.

Cependant, un système de vision qui est simplement précis ne suffit pas. Le système doit également être capable d'expliquer ses décisions. Disons que le système puisse montrer quelles parties de l'image ont conduit à ses conclusions : alors, tous les résultats seraient plus clairs. Un tel niveau de transparence aiderait les professionnels de la santé à vérifier leurs résultats et à s'assurer que les soins aux patients répondent aux normes médicales.

Une autre raison pour laquelle l'explicabilité est essentielle est qu'elle rend les entreprises d'IA responsables et renforce la confiance des utilisateurs. Une IA digne de confiance conduit les utilisateurs à être convaincus que les innovations en IA fonctionnent de manière fiable, prennent des décisions équitables et traitent les données de manière responsable.

Link to this sectionTechniques clés d'IA explicable en vision par ordinateur#

Maintenant que nous avons discuté de l'importance de l'explicabilité dans la vision par ordinateur, jetons un coup d'œil aux techniques de XAI clés utilisées dans l'IA de vision.

Link to this sectionCartes de saillance#

Les réseaux neuronaux sont des modèles inspirés du cerveau humain, conçus pour reconnaître des motifs et prendre des décisions en traitant les données via des couches interconnectées de nœuds (neurones). Ils peuvent être utilisés pour résoudre des problèmes complexes de vision par ordinateur avec une grande précision. Malgré cette précision, ils restent, par conception, des boîtes noires.

Les cartes de saillance sont une technique de XAI qui peut être utilisée pour aider à comprendre ce que les réseaux neuronaux voient lorsqu'ils analysent des images. Elles peuvent aussi servir à déboguer les modèles s'ils ne fonctionnent pas comme prévu.

Les cartes de saillance fonctionnent en se concentrant sur les parties d'une image (pixels) qui définissent les prédictions d'un modèle. Ce processus est très similaire à la rétropropagation, où le modèle remonte des prédictions vers l'entrée. Mais au lieu de mettre à jour les poids du modèle en fonction des erreurs, nous regardons simplement à quel point chaque pixel « compte » pour la prédiction. Les cartes de saillance sont très utiles pour les tâches de vision par ordinateur comme la classification d'images.

Par exemple, si un modèle de classification d'images prédit qu'une image est celle d'un chien, nous pouvons examiner sa carte de saillance pour comprendre pourquoi le modèle pense qu'il s'agit d'un chien. Cela nous aide à identifier quels pixels affectent le plus le résultat. La carte de saillance mettrait en évidence tous les pixels qui ont contribué à la prédiction finale selon laquelle l'image est celle d'un chien.

Fig 2. Une vue comparative des images d'entrée et de leurs cartes de saillance.

Link to this sectionClass Activation Mapping (CAM)#

Le Class Activation Mapping (CAM) est une autre technique de XAI utilisée pour comprendre sur quelles parties d'une image un réseau neuronal se concentre lors de la réalisation de prédictions de classification d'images. Cela fonctionne de manière similaire aux cartes de saillance mais se concentre sur l'identification de caractéristiques importantes dans l'image plutôt que sur des pixels spécifiques. Les caractéristiques sont des motifs ou des détails, comme des formes ou des textures, que le modèle détecte dans l'image.

Des méthodes comme le Gradient Weighted Class Activation Mapping (Grad-CAM) et Grad-CAM++ reposent sur la même idée, avec quelques améliorations.

Voici comment fonctionne le CAM :

• Avant que le réseau neuronal ne prenne sa décision finale, il utilise une étape appelée pooling moyen global (GAP) pour simplifier les informations. Le GAP combine tous les pixels d'un motif détecté en une valeur moyenne unique, créant un résumé pour chaque carte de caractéristiques (une représentation visuelle des motifs détectés).
• Chaque carte de caractéristiques reçoit ensuite un poids qui montre à quel point elle est importante pour prédire une classe donnée (comme « oiseau » ou « chat »).
• Cependant, une limite du CAM est que tu devras peut-être réentraîner le modèle pour calculer ces poids, ce qui peut prendre du temps.

Le Grad-CAM améliore cela en utilisant des gradients, qui sont comme des signaux indiquant à quel point chaque carte de caractéristiques influence la prédiction finale. Cette méthode évite le besoin de GAP et facilite la visualisation de ce sur quoi le modèle se concentre sans réentraînement. Grad-CAM++ va encore plus loin en se concentrant uniquement sur les influences positives, ce qui rend les résultats encore plus clairs.

Fig 3. Comparaison entre CAM, Grad-CAM et Grad-CAM++.

Link to this sectionExplications contrefactuelles#

Les explications contrefactuelles sont un élément important de l'IA explicable. Une explication contrefactuelle implique de décrire une situation ou un résultat en considérant des scénarios ou des événements alternatifs qui ne se sont pas produits mais qui auraient pu se produire. Elle peut démontrer comment les changements dans des variables d'entrée spécifiques conduisent à des résultats différents, tels que : « Si X ne s'était pas produit, Y ne se serait pas produit. »

En matière d'IA et de vision par ordinateur, une explication contrefactuelle identifie le plus petit changement nécessaire dans une entrée (comme une image ou des données) pour amener un modèle d'IA à produire un résultat différent et spécifique. Par exemple, modifier la couleur d'un objet dans une image pourrait faire passer la prédiction d'un modèle de classification d'images de « chat » à « chien ».

Un autre bon exemple serait de changer l'angle ou l'éclairage dans un système de reconnaissance faciale. Cela pourrait amener le modèle à identifier une personne différente, montrant comment de petits changements dans l'entrée peuvent influencer les prédictions du modèle.

La manière la plus simple de créer ces explications est par essai-erreur : tu peux changer aléatoirement des parties de l'entrée (comme des caractéristiques de l'image ou des données) jusqu'à ce que le modèle d'IA te donne le résultat souhaité. D'autres méthodes incluent des approches agnostiques au modèle, qui utilisent des techniques d'optimisation et de recherche pour trouver des changements, et des approches spécifiques au modèle, qui reposent sur des paramètres internes ou des calculs pour identifier les changements nécessaires.

Link to this sectionApplications de l'IA explicable dans la vision par ordinateur#

Maintenant que nous avons exploré ce qu'est la XAI et ses techniques clés, nous pouvons passer en revue la façon dont elle est utilisée dans la vie réelle. La XAI a des applications diverses dans de nombreux domaines. Plongeons dans quelques cas d'utilisation qui mettent en évidence son potentiel :

• Systèmes de sécurité : La XAI peut être utilisée pour améliorer les systèmes de sécurité en détectant les images altérées dans les documents d'identité tels que les passeports et les permis de conduire. Cela garantit l'authenticité des images, renforce les processus de vérification d'identité et prévient les activités frauduleuses dans les applications sensibles.

Fig 4. Comment la XAI fonctionne pour détecter les images altérées.

• Conduite autonome : Comprendre les capacités et les limites du système d'IA de vision embarqué d'une voiture autonome peut constituer une part importante du processus de test du véhicule avant son déploiement sur les routes réelles. La XAI peut aider les constructeurs automobiles à identifier et à résoudre les problèmes plus clairement.

• Systèmes juridiques : Les systèmes d'analyse de documents utilisant la vision sont de plus en plus utilisés dans la prise de décision judiciaire. La XAI soutient des résultats équitables et permet aux jugements automatisés d'être scrutés. Elle aide également les professionnels du droit à comprendre comment un modèle d'IA parvient à ses décisions.

• Surveillance de la faune : Des pièges photographiques sont souvent utilisés pour surveiller la faune et recueillir des données sur les espèces animales. La XAI peut être utilisée pour expliquer comment l'IA classifie ces espèces sur les images. Ce faisant, les efforts de conservation peuvent être plus fiables et précis.

Link to this sectionPoints clés à retenir sur l'IA explicable#

L'IA explicable permet de mieux comprendre comment les systèmes d'IA fonctionnent et pourquoi ils prennent certaines décisions. La transparence concernant les modèles d'IA renforce la confiance et la responsabilité. Le savoir, c'est le pouvoir, et cela aide à utiliser les innovations en IA de manière plus responsable. Dans des domaines critiques comme la santé, la sécurité, la conduite autonome et les systèmes juridiques, la XAI peut être utilisée pour aider les développeurs et les utilisateurs à comprendre les prédictions de l'IA, à identifier les erreurs et à garantir une utilisation juste et éthique. En rendant l'IA plus transparente, la XAI comble le fossé entre la technologie et la confiance humaine, la rendant plus sûre et plus fiable pour des applications réelles.

Pour en savoir plus, visite notre répertoire GitHub et rejoins notre communauté. Explore les applications de l'IA dans les voitures autonomes et l'agriculture sur nos pages de solutions. 🚀