Shadow AI

L’IA parallèle désigne l’utilisation d’outils, de modèles et de services d’intelligence artificielle au sein d’une organisation sans que ses équipes informatiques, de sécurité ou de conformité en aient connaissance ou l’aient approuvée. Parmi les cas courants : des employés copient du travail dans un compte personnel d’assistant d’IA générative, des développeurs appellent une API de modèle non vérifiée, ou des équipes activent des fonctionnalités d’IA dans des logiciels qu’elles utilisent déjà. L’IA parallèle est un sous-ensemble de l’informatique parallèle, ancien problème lié aux applications et services infonuagiques non autorisés ; elle se développe pour les mêmes raisons : ces outils sont gratuits ou peu coûteux, rapides à adopter et permettent d’accélérer le travail.

En quoi l’IA parallèle diffère de l’informatique parallèle#

Les services d’IA traitent les données qu’ils reçoivent et les stockent également. Chaque prompt envoyé à un grand modèle de langage (LLM) quitte l’organisation, et les offres grand public peuvent conserver les conversations ou les utiliser comme données d’entraînement, sauf si l’utilisateur choisit de s’y opposer. En 2023, des ingénieurs de Samsung ont collé du code source confidentiel et des notes de réunion dans ChatGPT ; l’entreprise a ensuite restreint les outils d’IA générative sur ses appareils.

Les risques existent aussi dans l’autre sens. La sortie d’un assistant non vérifié peut introduire dans les produits et les décisions des hallucinations, du code non sécurisé ou du texte soumis à une licence incertaine, sans que personne ne le vérifie. Les poids de modèles téléchargés depuis des dépôts publics comme Hugging Face peuvent exécuter du code arbitraire au chargement s’ils utilisent le format pickle de Python ; c’est pourquoi le format safetensors ne stocke que des tenseurs. Les agents d’IA connectés aux courriels, aux calendriers ou aux dépôts de code à l’aide du jeton personnel d’un employé peuvent agir sur les systèmes de l’entreprise, et une page Web ou un document malveillant peut les manipuler par injection de prompt.

Le coût apparaît dans les données relatives aux violations. Le rapport 2026 d’IBM sur le coût d’une violation de données a révélé que 43 % des organisations victimes de violations étudiées avaient subi des incidents impliquant l’IA parallèle, contre 20 % l’année précédente, et que ces violations coûtaient en moyenne 5,39 millions de dollars, contre 4,99 millions de dollars pour la moyenne générale.

Formes courantes d’IA fantôme#

• Chatbots et assistants de rédaction : comptes personnels utilisés pour résumer des contrats, déboguer du code propriétaire ou rédiger des réponses contenant des dossiers clients.
• Fonctionnalités d’IA intégrées : un fournisseur ajoute la transcription, le résumé ou les notes de réunion à un outil approuvé, et la fonctionnalité commence à envoyer des données à un nouveau sous-traitant sans nouvelle évaluation.
• Modèles et API non vérifiés : les développeurs envoient des images à une API externe de vision ou déploient des poids téléchargés dont personne n’a vérifié la licence, la provenance et la sécurité.
• Extensions de navigateur et agents : outils qui lisent chaque page ouverte par un employé ou agissent en son nom sur ses comptes connectés.

Détecter et réduire l’IA fantôme#

La détection combine plusieurs signaux : journaux réseau et DNS montrant le trafic vers des points de terminaison d’IA, courtiers de sécurité d’accès au cloud et outils de prévention des pertes de données qui inspectent les téléversements, inventaires d’extensions de navigateur, notes de frais pour les abonnements à des services d’IA et les clés API, ainsi que sondages ou programmes d’amnistie permettant aux équipes de déclarer les outils qu’elles utilisent. Chaque outil découvert suit ensuite le même processus de triage, présenté ci-dessous, puis est ajouté à l’inventaire dont dépend la gouvernance de l’IA.

Les programmes de réduction de l’IA fantôme associent des règles claires sur les données qui peuvent être utilisées dans chaque outil à des solutions approuvées tout aussi faciles à utiliser : comptes d’entreprise où l’entraînement sur les données clients est désactivé, passerelle d’IA qui journalise et filtre tout le trafic des modèles, et modèles auto-hébergés pour les tâches les plus sensibles. La formation à la culture de l’IA explique pourquoi ces règles existent et quels outils sont approuvés.

Le travail en vision par ordinateur connaît une variante du problème lorsque des images de personnes, de produits ou d’installations se trouvent dans des comptes personnels sur des outils en ligne d’annotation et d’entraînement. Dans un espace de travail d’équipe Ultralytics Platform, les jeux de données, modèles et déploiements créés par un membre appartiennent à l’équipe et sont visibles par tous les membres ; les rôles Owner, Admin, Editor et Viewer déterminent qui peut les modifier.

L’IA fantôme est un problème de visibilité qui se transforme en incidents de confidentialité des données et de sécurité des données, car une équipe de sécurité ne peut pas évaluer, protéger ni surveiller un outil dont elle ignore l’existence. Le Cadre de gestion des risques liés à l’IA du NIST aborde ce problème dans la sous-catégorie GOVERN 1.6, qui préconise des mécanismes d’inventaire des systèmes d’IA dotés de ressources proportionnelles aux priorités de risque de l’organisation.