Data Privacy

La confidentialité des données est le droit des personnes de contrôler la collecte, l’utilisation, le partage et la conservation de leurs renseignements personnels, ainsi que l’ensemble des lois et pratiques que les organisations appliquent pour respecter ce droit. Dans le domaine de l’intelligence artificielle, les enjeux sont plus importants que dans les logiciels ordinaires : les modèles sont construits à partir de grands ensembles de données d’entraînement qui décrivent souvent des personnes, ils peuvent mémoriser et reproduire ces données, et des systèmes comme la reconnaissance faciale traitent par conception des renseignements personnels.

Lois et principes fondamentaux#

Le Règlement général sur la protection des données (GDPR) de l’UE, en vigueur depuis mai 2018, énonce dans son article 5 les principes de référence : les données personnelles doivent être traitées de manière licite, loyale et transparente ; collectées à des fins déterminées (limitation des finalités) ; limitées à ce qui est nécessaire (minimisation des données) ; tenues à jour ; conservées pendant une durée qui n’excède pas celle nécessaire à leur traitement (limitation de la conservation) ; et protégées par des mesures de sécurité appropriées, le responsable du traitement devant pouvoir démontrer sa conformité (responsabilisation). L’article 25 impose la protection des données dès la conception et par défaut, et l’article 22 accorde aux personnes des droits concernant les décisions fondées exclusivement sur un traitement automatisé. Les amendes peuvent atteindre 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu.

D’autres lois suivent des principes similaires. La CCPA de Californie, élargie par la CPRA, donne aux résidents le droit de connaître, de supprimer et de refuser la vente ou le partage de leurs données. Dans le secteur de la santé aux États-Unis, la norme de dépersonnalisation de la HIPAA répertorie 18 identifiants à supprimer selon la méthode de la sphère de sécurité, notamment les photographies intégrales du visage et les images comparables. La loi européenne sur l’IA ajoute des règles propres à l’IA et, depuis février 2025, interdit la création de bases de données de reconnaissance faciale par collecte sans ciblage d’images de visages sur Internet ou d’images de vidéosurveillance.

L’application de ces lois à un jeu de données dépend de la possibilité d’identifier les personnes à partir de celui-ci :

L’anonymisation est plus difficile qu’il n’y paraît. En 2000, Latanya Sweeney a montré que le code postal, le genre et la date de naissance suffisent à identifier de manière unique environ 87 % de la population des États-Unis ; c’est pourquoi la suppression des noms suffit rarement à anonymiser un jeu de données.

Risques propres à l’IA pour la confidentialité#

Les modèles peuvent mémoriser et reproduire leurs exemples d’entraînement. Nicholas Carlini et ses collègues ont extrait plus d’un millier d’images d’entraînement de modèles de diffusion, notamment des photographies de personnes. Même sans extraction, les attaques par inférence d’appartenance peuvent révéler si le dossier d’une personne donnée figurait dans un jeu d’entraînement, ce qui est en soi sensible pour un modèle entraîné sur des patients atteints d’une maladie donnée.

La collecte constitue l’autre risque majeur. Les images et les textes recueillis à une fin sont souvent réutilisés pour l’entraînement sans base légale, et plusieurs autorités européennes de protection des données ont infligé des amendes à Clearview AI pour la création d’une base de données de visages à partir de photos récupérées en ligne, dont une amende de 30,5 millions d’euros imposée par l’autorité néerlandaise en 2024. Au sein des organisations, les renseignements personnels collés dans des chatbots externes via des outils d’IA fantôme échappent au contrôle de l’organisation.

Techniques de protection de la confidentialité#

• Confidentialité différentielle : Ajoute un bruit calibré aux statistiques ou à l’entraînement pour que les résultats ne révèlent presque rien sur une personne en particulier.
• Apprentissage fédéré : Entraîne les modèles là où se trouvent les données, par exemple sur des téléphones ou des serveurs hospitaliers, et ne partage que les mises à jour du modèle.
• Données synthétiques : Remplacent les dossiers réels par des dossiers générés qui en préservent les caractéristiques statistiques.
• IA confidentielle et IA en périphérie : Traitement des données dans des enclaves matérielles attestées ou sur l’appareil qui les a recueillies.

La rédaction supprime le contenu identifiant avant le stockage ou l’entraînement. Les pipelines de vision par ordinateur floutent les visages et les plaques d’immatriculation dans les images de rue destinées à l’analyse de la circulation des villes intelligentes. Les jeux de données d’analyse d’images médicales suppriment les identifiants des patients des en-têtes DICOM et retirent les traits du visage des scans de la tête. Sur Ultralytics Platform, l’action Flouter les visages affiche un aperçu des visages détectés sur des images échantillons, puis remplace leurs pixels dans toutes les images d’un jeu de données ; un jeu de données peut aussi être configuré pour flouter automatiquement les visages de chaque nouveau téléversement.

La sécurité des données est l’une des exigences de la confidentialité des données : le chiffrement et le contrôle d’accès empêchent les personnes non autorisées d’accéder aux données personnelles. Pourtant, une base de données parfaitement sécurisée peut tout de même enfreindre la législation sur la confidentialité si elle contient des données recueillies sans base légale ou conservées plus longtemps que nécessaire aux fins prévues.