Transparency in AI

La transparence en IA consiste à rendre compte de la façon dont un système d’intelligence artificielle (AI) est conçu, entraîné, évalué et utilisé, et à informer les personnes lorsqu’elles interagissent avec un tel système. Elle répond aux questions sur l’ensemble du système : quelles données ont servi à entraîner le modèle, qui l’a conçu et dans quel but, quelles sont ses performances et pour qui, à quelles utilisations il ne se prête pas, et si une conversation, une image ou une décision provient de l’IA. La transparence aide les utilisateurs à ajuster leur niveau de confiance, permet aux auditeurs et aux organismes de réglementation de vérifier les déclarations sur un système, et aide les chercheurs à repérer des failles comme les biais algorithmiques, raison pour laquelle les Principes de l’OCDE sur l’IA et la plupart des autres cadres d’éthique de l’IA en font un principe fondamental.

Formes de transparence#

• Divulgation : Les personnes sont informées lorsqu’elles interagissent avec un système d’IA ou voient du contenu généré par l’IA. L’article 50 de la législation européenne sur l’IA, applicable depuis le 2 août 2026, exige que les chatbots indiquent clairement aux utilisateurs qu’ils parlent à une machine, que les fournisseurs de systèmes génératifs marquent leurs résultats dans un format lisible par machine, et que les déployeurs étiquettent les hypertrucages. Des normes telles que Content Credentials (C2PA) et le filigranage IA mettent en œuvre ce marquage.
• Documentation : Une fiche de modèle présente l’usage prévu du modèle, ses données d’entraînement, les résultats d’évaluation ventilés par groupe et ses limites connues. Les fiches descriptives des jeux de données font de même pour les données en indiquant leur motivation, leur composition, leur processus de collecte et les usages recommandés. En vertu de la législation européenne sur l’IA, les fournisseurs de modèles d’IA à usage général doivent également publier un résumé de leur contenu d’entraînement, en utilisant un modèle que la Commission européenne a publié en juillet 2025.
• Accès : La publication des poids, du code ou des données permet à des tiers d’examiner, de reproduire et de tester directement un modèle, plutôt que de se fier aux rapports de son développeur.
• Explications des résultats : Les décisions individuelles peuvent être expliquées à l’aide de méthodes d’IA explicable (XAI), exigées par le RGPD et la législation européenne sur l’IA dans certains contextes à fort enjeu.

L’accès existe à différents degrés. Un modèle fermé ne peut être utilisé qu’au moyen de l’API de son développeur, un modèle à poids ouverts publie ses paramètres, et la définition de l’IA open source 1.0 de l’Open Source Initiative, publiée en octobre 2024, exige également le code complet d’entraînement et d’inférence, ainsi que suffisamment de détails sur les données d’entraînement, notamment leur provenance et leur traitement, pour qu’une personne compétente puisse créer un système substantiellement équivalent :

Transparence et explicabilité#

Les termes se recoupent et sont parfois employés ensemble, comme dans « transparence et explicabilité ». La transparence concerne le système et le processus qui l’a produit, et elle s’applique même à un modèle que personne ne peut interpréter, par exemple lorsqu’un développeur documente les données d’entraînement et les résultats des tests. L’explicabilité concerne les raisons pour lesquelles un modèle a produit un résultat particulier, par exemple les pixels qui ont déterminé une classification. Les modèles interprétables, comme les petits arbres de décision, sont compréhensibles par conception, et l’interprétabilité mécanistique procède à une rétro-ingénierie des circuits internes des grands réseaux. La provenance des données, c’est-à-dire la consignation de leur origine et des changements qu’elles ont subis, fournit une grande partie des renseignements contenus dans les rapports de transparence.

Une documentation qui accompagne le modèle#

La documentation est particulièrement utile lorsqu’elle reste associée au modèle après son déploiement. Ultralytics YOLO26 écrit dans chaque modèle exporté une description du modèle et de son jeu de données d’entraînement, la version de la bibliothèque, la date d’exportation, la tâche, la taille d’entrée et les noms des classes, par exemple dans les propriétés de métadonnées d’un fichier ONNX. Ultralytics relit ensuite ces champs pour exécuter correctement le modèle :

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

Les champs affichés identifient le modèle, ses données d’entraînement, le logiciel utilisé pour l’exporter et la date de l’exportation, sans accès à l’exécution d’entraînement d’origine.

Mesurer la transparence#

L’indice de transparence des modèles fondamentaux de Stanford attribue des scores aux principaux développeurs d’IA selon 100 indicateurs couvrant les données et la puissance de calcul utilisées pour leurs modèles phares, les modèles eux-mêmes et leur utilisation après leur publication. Dans l’édition 2025, qui a évalué 13 développeurs, la moyenne est passée de 58 en 2024 à 40 sur 100. Les développeurs se sont montrés particulièrement opaques sur les données et la puissance de calcul d’entraînement, tandis qu’IBM a obtenu le meilleur score de l’indice, avec 95.