AI Ethics

L’éthique de l’IA applique des principes moraux à la conception, au développement et à l’utilisation de l’intelligence artificielle (IA) ; elle examine quels systèmes doivent être construits, comment ils doivent se comporter et qui est responsable de leurs effets. Ses principales préoccupations sont l’équité, la confidentialité, la transparence, la sécurité, la responsabilité et la supervision humaine ; elle s’appuie sur la philosophie, le droit, les sciences sociales et l’ingénierie. En pratique, l’éthique de l’IA façonne la manière dont les équipes collectent les données, évaluent les modèles et décident quels produits commercialiser ; elle sous-tend aussi des réglementations comme la loi européenne sur l’IA et les lois californiennes sur l’IA.

Principes fondamentaux#

Les cadres internationaux convergent vers un ensemble similaire de principes. Les Principes de l’OCDE sur l’intelligence artificielle, adoptés en 2019 et mis à jour en 2024, ont été la première norme intergouvernementale sur l’IA ; la Recommandation sur l’éthique de l’intelligence artificielle de l’UNESCO a été adoptée par les 193 États membres en 2021 ; et le cadre de gestion des risques liés à l’IA du NIST (2023) transforme des valeurs similaires en caractéristiques d’une IA digne de confiance que les organisations peuvent mesurer :

• Équité et non-discrimination : Les systèmes ne devraient pas obtenir de moins bons résultats pour certaines personnes ni les désavantager en raison de leur couleur de peau, de leur genre, de leur âge ou d’autres caractéristiques protégées. Les biais en IA proviennent généralement de données ou d’annotations non représentatives, et l’équité en IA fournit les métriques permettant de les détecter.
• Protection de la vie privée et gouvernance des données : Les données personnelles doivent être collectées conformément à la loi, avec le consentement requis, et traitées uniquement dans la mesure nécessaire à la finalité prévue. Des techniques telles que la confidentialité différentielle et l’apprentissage fédéré réduisent la quantité d’informations qu’un modèle révèle ou centralise. Dans l’analyse vidéo, la protection de la vie privée dès la conception peut consister à anonymiser les personnes avant le stockage des séquences : la solution de floutage d’objets d’Ultralytics exécute la détection YOLO26 sur chaque image et floute sur place chaque objet détecté, comme chaque personne.
• Transparence et explicabilité : Les personnes devraient savoir quand elles interagissent avec un système d’IA et pouvoir découvrir comment il a été conçu, un sujet abordé par la transparence en IA, et les décisions qui les concernent devraient pouvoir être expliquées à l’aide de méthodes d’IA explicable (XAI).
• Sûreté et robustesse : Les systèmes devraient fonctionner de manière fiable dans les conditions rencontrées en production, résister aux manipulations telles que les attaques adverses et échouer sans danger.
• Responsabilité et supervision humaine : Une personne ou une organisation désignée répond des résultats de chaque système, et des humains peuvent le surveiller, outrepasser ses décisions ou l’arrêter.

Des principes à la loi#

La loi européenne sur l’IA traduit ces principes en obligations proportionnées aux risques. Elle est entrée en vigueur en août 2024 ; ses interdictions des pratiques prohibées s’appliquent depuis le 2 février 2025, et ses obligations de transparence depuis le 2 août 2026. Après la modification de 2026 par le Digital Omnibus, les exigences relatives aux usages à haut risque énumérés à l’annexe III, comme le recrutement, l’évaluation du crédit et l’éducation, s’appliquent à partir du 2 décembre 2027. La loi classe chaque usage de l’IA selon les obligations qu’il entraîne :

Plusieurs interdictions concernent directement la vision par ordinateur : la collecte non ciblée d’images de visages sur Internet ou à partir de vidéosurveillance pour constituer des bases de données de reconnaissance, la reconnaissance des émotions dans les lieux de travail et les écoles, la catégorisation biométrique qui déduit des caractéristiques comme la race ou les opinions politiques et, sous réserve d’exceptions limitées, l’identification biométrique à distance en temps réel dans les espaces publics à des fins répressives. Les organisations peuvent également certifier leurs pratiques de gestion de l’IA selon la norme internationale ISO/IEC 42001, publiée en 2023.

Éthique de l’IA et termes associés#

• Sûreté de l’IA : Se concentre sur la prévention des accidents, des utilisations abusives et des pertes de contrôle à mesure que les systèmes deviennent plus performants. L’éthique de l’IA s’interroge aussi sur la légitimité de l’existence d’un système et sur les personnes qu’il sert.
• Gouvernance de l’IA : Les politiques, processus et lois par lesquels les organisations et les gouvernements mettent en pratique les principes éthiques.
• IA responsable : Le terme que les entreprises utilisent généralement pour désigner leur propre pratique de l’éthique de l’IA, et qui en est largement synonyme.
• Biais algorithmique : Un problème éthique particulier — une erreur systématique qui produit des résultats injustes — au sein d’un domaine plus vaste.

Enjeux éthiques de la vision par ordinateur#

• Santé : En analyse d’images médicales, un modèle validé sur les scanners et les patients d’un hôpital peut passer à côté de résultats pour des populations qu’il n’a jamais rencontrées. C’est pourquoi les cadres éthiques préconisent une évaluation ventilée par sous-groupes et la supervision d’un clinicien.
• Médias synthétiques : Les hypertrucages facilitent la fraude, le harcèlement et la désinformation, et la loi européenne sur l’IA impose aux déployeurs de les signaler.
• Reconnaissance des émotions : En 2022, Microsoft a retiré les fonctionnalités d’Azure Face qui déduisaient des états émotionnels et des caractéristiques comme le genre et l’âge, invoquant l’absence de consensus scientifique sur la définition des émotions et des doutes quant à la généralisation, d’une région et d’un groupe démographique à l’autre, des déductions tirées des expressions faciales.
• Consentement et provenance des jeux de données : De nombreux jeux de données de visages et de personnes ont été collectés sans que les personnes représentées le sachent ; Microsoft a retiré en 2019 son jeu de données MS-Celeb-1M, composé d’environ 10 millions de photos de 100 000 personnes.
• Reconnaissance faciale et surveillance : En juin 2020, IBM a cessé de proposer la reconnaissance faciale à usage général et Amazon a suspendu l’utilisation de son service Rekognition par la police, un moratoire qu’Amazon a ensuite prolongé indéfiniment. En septembre 2024, l’autorité néerlandaise de protection des données a infligé une amende de 30,5 millions d’euros à Clearview AI pour avoir constitué une base de données de milliards de photos de visages récupérées sur Internet.