AI Washing

L’AI washing consiste à exagérer ou à présenter de manière trompeuse l’ampleur de l’utilisation de l’intelligence artificielle par un produit, un service ou une entreprise, ou les capacités de cette technologie. Il crée un écart entre les capacités annoncées et le fonctionnement réel : clients et investisseurs sont amenés à s’attendre à une intelligence, une autonomie ou des performances que le système sous-jacent ne fournit pas.

Le terme s’inspire du greenwashing, qui désigne les affirmations environnementales trompeuses. Jim Hare, analyste chez Gartner, a employé l’expression « AI washing » dans son analyse du 6 juillet 2017 sur les fournisseurs de logiciels d’entreprise qui exploitent les bouleversements liés à l’IA, décrivant des fournisseurs qui appliquaient l’étiquette IA sans discernement.

Comment fonctionne l’AI washing#

L’AI washing transforme la complexité technique en avantage marketing. Les acheteurs rencontrent des termes comme intelligence artificielle, apprentissage automatique et « autonome », sans disposer d’assez d’informations pour relier ces descriptions à une fonctionnalité opérationnelle. La présentation trompeuse peut porter sur l’existence de la technologie, sa contribution à un flux de travail ou la solidité de ses résultats.

Les pratiques courantes comprennent :

• Exagération des capacités : présenter un système comme capable d’accomplir un travail de niveau expert alors que ses résultats ne sont pas étayés par des preuves à l’appui de cette affirmation.
• Dissimulation de l’intervention humaine : présenter un service comme autonome alors que des personnes accomplissent une part importante du travail annoncé.
• Exagération des performances : généraliser des résultats obtenus dans des conditions particulières à un public ou à une tâche plus large que ce que l’évaluation permet d’affirmer.
• Accélération du calendrier : présenter une fonctionnalité d’IA prévue comme une capacité déjà disponible dans le produit.

Ces pratiques influencent les décisions d’achat, d’investissement et de recrutement. Elles masquent également les exigences opérationnelles : les clients doivent comprendre quels résultats nécessitent une vérification, quelles tâches le système prend en charge et comment les erreurs influent sur les décisions en aval.

AI washing et concepts connexes#

L’automatisation robotisée des processus automatise les flux de travail répétitifs, souvent à l’aide de règles prédéfinies. L’apprentissage automatique apprend des motifs à partir de données, tandis que l’IA symbolique utilise des connaissances explicites et des règles de raisonnement. Des descriptions de produits exactes précisent le mécanisme utilisé et son rôle. Présenter un système à base de règles comme de l’IA devient trompeur lorsque les affirmations qui l’accompagnent lui prêtent des capacités d’apprentissage ou d’adaptation qu’il n’a pas.

Les flux de travail avec intervention humaine confient aux personnes des responsabilités définies de vérification ou de prise de décision. Les descriptions transparentes rendent cette contribution visible. Par exemple, Ultralytics Platform applique l’annotation de données assistée par l’IA : sa fonction d’annotation intelligente YOLO génère des étiquettes provisoires à partir des prédictions du modèle, que les personnes chargées de l’annotation peuvent vérifier, ajuster ou supprimer. Cela précise à la fois la tâche automatisée et le rôle humain.

Une hallucination se produit lorsqu’un modèle génère du contenu incorrect ou non étayé. L’AI washing concerne les représentations faites au sujet du système. L’IA explicable aide à interpréter le comportement du modèle ; la transparence en matière d’IA communique les capacités, les conditions d’évaluation et les responsabilités. Ces deux approches favorisent des descriptions des produits d’IA fondées sur des preuves.

Exemples concrets et conséquences#

Les autorités de réglementation ont repris le terme dans le cadre de mesures d’application. En décembre 2023, Gary Gensler, président de la SEC, a mis en garde les entreprises contre l’« AI washing », et la FTC a intenté l’affaire DoNotPay présentée ci-dessous dans le cadre de l’opération AI Comply, sa campagne de septembre 2024 contre les affirmations trompeuses sur l’IA.

Le conseiller en investissements Delphia affirmait que les données de ses clients amélioraient ses prévisions d’investissement fondées sur l’IA. La SEC a conclu qu’entre 2019 et 2023, l’entreprise ne disposait pas des capacités d’IA et d’apprentissage automatique qu’elle annonçait. Dans le cadre d’un accord conclu le 18 mars 2024, Delphia a accepté de payer une pénalité civile de 225 000 $. Global Predictions a accepté séparément une pénalité de 175 000 $ pour des affirmations trompeuses, notamment au sujet de prévisions fondées sur l’IA et de son statut de premier conseiller financier réglementé utilisant l’IA.

DoNotPay présentait un service d’IA comme le « premier avocat robot au monde » et lui attribuait des capacités susceptibles de remplacer l’expertise juridique humaine. L’accord conclu à la suite des mesures d’application contre DoNotPay prévoyait 193 000 $ d’indemnisation et l’envoi d’avis aux abonnés admissibles. La FTC a rendu l’ordonnance définitive en janvier 2025, limitant les affirmations non étayées selon lesquelles le service pouvait remplacer des services professionnels.

Éléments probants à l’appui des affirmations sur l’IA#

Une affirmation étayée relie une fonctionnalité précise à ses entrées, ses sorties, son évaluation et ses conditions de fonctionnement. Une fiche de modèle consigne les utilisations prévues, les détails du développement et les limites mesurées. La provenance des données établit l’origine des éléments utilisés pour l’évaluation, tandis que des données de test indépendantes permettent de vérifier les performances au-delà des exemples de développement.

En vision par ordinateur, les preuves à l’appui d’une affirmation proviennent de la tâche annoncée elle-même. Les résultats de détection d’objets peuvent inclure la précision, le rappel et la précision moyenne, ainsi que la composition du jeu de données et les résultats par classe. Les affirmations sur la vitesse doivent préciser le matériel, la taille des images, la taille des lots et le périmètre des mesures.

La gouvernance de l’IA relie ces documents aux approbations de produits et à l’examen des communications marketing, de sorte que chaque affirmation publiée puisse être retracée jusqu’à une fiche de modèle, une évaluation ou un rôle humain documenté.