Les nouvelles réglementations californiennes sur l’IA : l’accent sur une IA éthique

Des voitures autonomes aux soins de santé, les innovations en intelligence artificielle (AI) et les entreprises technologiques de nouvelle génération commencent à jouer un rôle essentiel dans la transformation de notre quotidien. Ainsi, la taille du marché mondial de l’IA s’élevait à 196,63 milliards de dollars en 2023 et devrait croître en moyenne de 36 % par an entre 2024 et 2030. Ces chiffres illustrent la rapidité de la croissance de l’IA.

D’un côté, le développement rapide de l’IA apporte des solutions à divers problèmes dans de nombreux secteurs. De l’autre, cette rapidité met en évidence la nécessité d’un développement responsable de l’IA, afin de garantir que les progrès soient éthiques et bénéfiques pour la société.

Par exemple, en 2016, Microsoft a lancé sur X (anciennement Twitter) un chatbot nommé Tay, conçu pour apprendre des conversations avec les utilisateurs. Peu après son lancement, Tay s’est toutefois mis à générer des réponses au langage peu professionnel, après avoir été exposé à diverses interactions. Microsoft a rapidement mis le bot hors ligne, mais cet exemple montre bien combien il est important de s’assurer que les données utilisées pour entraîner l’IA sont fiables et que le public sait comment les entreprises les utilisent dans leurs produits d’IA.

Fig. 1. Le chatbot Twitter Tay de Microsoft.

Pour répondre à cette préoccupation, le gouverneur de Californie, Gavin Newsom, a promulgué en septembre plus d’une douzaine de lois liées à l’IA. Ces lois couvrent aussi bien la divulgation des détails sur les données d’entraînement que le traitement des hypertrucages. Dans cet article, nous allons examiner les lois californiennes sur l’IA et leurs implications.

Législation californienne sur l’IA en 2024 : garantir la responsabilisation#

Trois projets de loi majeurs ont été promulgués pour rendre le développement de l’IA plus sûr et plus fiable. Le projet de loi de l’Assemblée (AB) 2013, qui entrera en vigueur en 2026, exige des fournisseurs d’IA générative qu’ils publient des informations sur leurs jeux de données d’entraînement. Ces informations comprennent les sources des jeux de données, la manière dont les données sont utilisées, le nombre de points de données dans le jeu, la présence éventuelle de données protégées par le droit d’auteur ou sous licence, la période de collecte des données, etc. La communication de ces informations aidera les entreprises d’IA à gagner la confiance du public.

Un autre projet de loi important a également été promulgué : AB 1008. Il étend les lois californiennes existantes sur la protection de la vie privée aux solutions d’IA générative. AB 1008 a été présenté pour répondre aux préoccupations et renforcer la confiance du public dans la manière dont les systèmes d’IA traitent les informations personnelles. Une enquête a révélé que plus de 81 % des consommateurs craignent que les entreprises d’IA utilisent leurs informations d’une manière qu’ils n’ont pas prévue. En fixant des limites claires à l’utilisation et à l’exploitation commerciale des informations personnelles, comme les noms, les adresses et les données biométriques, cette loi aide les entreprises d’IA à rassurer les utilisateurs sur le traitement responsable de leurs données, même si un système d’IA les expose.

Fig. 2. Infographie montrant que de nombreuses personnes pensent que les solutions d’IA peuvent mieux protéger la vie privée.

De même, le projet de loi du Sénat (SB) 896, ou loi sur la responsabilité de l’IA générative, exige que l’Office of Emergency Services de Californie (CalOES) effectue des analyses des risques liés aux menaces potentielles posées par les systèmes d’IA générative. CalOES travaillera avec de grandes entreprises d’IA, comme OpenAI et Anthropic, pour discuter des menaces potentielles de l’IA pour les infrastructures essentielles de l’État et les analyser.

Adoption et réglementation de l’IA dans les établissements d’enseignement#

Nous avons déjà examiné comment l’IA dans l’éducation peut personnaliser les expériences d’apprentissage, redéfinir les pratiques pédagogiques, fournir des retours en temps réel et soutenir les enseignants grâce à des outils et des analyses avancés. En fait, les innovations en IA peuvent rendre l’environnement d’étude plus efficace et stimulant pour les élèves. Partout dans le monde, les enseignants utilisent l’IA de plus en plus régulièrement, tandis que des projets pilotes fructueux et des déploiements plus vastes sont en cours. Selon des études, plus de 50 % des enseignants estiment que l’IA en classe a eu un effet positif sur l’enseignement et l’apprentissage.

Fig. 3. Enquête sur l’opinion des enseignants concernant l’utilisation de l’IA dans les écoles.

La Californie a adopté deux lois sur l’utilisation de l’IA dans les établissements d’enseignement. L’AB 2876 impose au Conseil de l’éducation de l’État de Californie d’intégrer la prise en compte de la littératie en IA (après le 1er janvier 2025) dans les cadres de programmes et les supports pédagogiques de mathématiques, de sciences et d’histoire. Cette loi vise à garantir que les écoles californiennes enseignent aux élèves les bases du fonctionnement de l’intelligence artificielle, ainsi que les limites, les effets et les considérations éthiques liés à son utilisation.

En outre, le SB 1288 oblige les directeurs des services éducatifs de Californie à créer des groupes de travail (au plus tard le 1er janvier 2026) afin d’étudier l’utilisation de l’IA dans les écoles publiques. Ces groupes de travail devront présenter leurs conclusions et recommandations aux commissions législatives compétentes en matière de politiques et de finances au plus tard le 1er janvier 2027. Après la remise du rapport, le groupe de travail sera dissous et les dispositions seront abrogées le 1er janvier 2031.

Réglementation de l’IA générative dans le secteur de la santé#

L’IA générative fait progresser le secteur de la santé en favorisant des innovations dans la découverte de nouveaux médicaments, le diagnostic des maladies, la planification des traitements et les chatbots médicaux. Ces applications peuvent apporter des avantages tels que le suivi, les conseils et l’assistance en temps réel afin d’améliorer les résultats pour les patients. D’autres technologies, comme la réalité augmentée (AR), peuvent également servir à planifier et à simuler des interventions chirurgicales.

Fig. 4. Exemples d’utilisation de l’IA générative dans le secteur de la santé.

L’intégration de l’IA générative dans le secteur de la santé comporte certaines réserves liées à la confidentialité des données et à la réglementation. Il est essentiel de privilégier l’exactitude, la fiabilité et l’équité des résultats générés par l’IA, tout en protégeant la confidentialité des informations de santé.

Pour relever ces défis, la Californie a adopté deux lois sur l’utilisation de l’IA générative dans le secteur de la santé. L’AB 3030 exige des prestataires de soins qu’ils indiquent lorsqu’ils utilisent l’IA générative pour communiquer avec un patient, en particulier lorsque les messages contiennent des informations cliniques sur celui-ci. Le SB 1120 limite la manière dont les prestataires de services de santé et les assureurs maladie peuvent automatiser leurs services. Ces nouvelles lois garantissent également que des médecins agréés supervisent l’utilisation des outils d’IA dans ces contextes.

Cadres réglementaires californiens sur les hypertrucages générés par l’IA#

L’État de Californie a également adopté des lois visant à limiter l’utilisation de l’IA pour diffuser des informations trompeuses ou inexactes. La SB 942 oblige les fournisseurs de systèmes d’IA générative comptant plus d’un million d’utilisateurs mensuels à intégrer une mention cachée (latente) dans les images, vidéos et fichiers audio générés par leurs systèmes, et à proposer un outil gratuit permettant de la détecter.

La Californie a adopté trois nouvelles lois (AB 1831, SB 926, SB 981) pour répondre aux problèmes liés aux hypertrucages. Ces lois étendent les protections existantes, criminalisent l’utilisation abusive de contenus générés par l’IA et obligent les plateformes de médias sociaux à créer des canaux de signalement des hypertrucages. Leur mise en œuvre est prévue d’ici janvier 2025.

Lois californiennes sur l’IA : définition de l’IA et utilisation au cinéma#

L’un des projets de loi promulgués visait à donner une définition précise de l’IA. L’AB 2885 définit l’IA comme « un système conçu ou fondé sur des machines, dont le degré d’autonomie varie et qui, pour des objectifs explicites ou implicites, peut déduire des entrées reçues la manière de générer des sorties susceptibles d’influencer des environnements physiques ou virtuels ».

Deux lois intéressantes ont également été adoptées dans le secteur du divertissement. Le plus grand syndicat américain des acteurs du cinéma et de la télévision (SAG-AFTRA) a joué un rôle crucial dans leur adoption. L’AB 2602 oblige les studios de cinéma à obtenir l’autorisation d’un acteur avant d’utiliser l’IA pour reproduire sa voix et son apparence. De son côté, l’AB 1836 interdit aux studios de créer des répliques numériques d’artistes décédés (comme le personnage de Peter Cushing dans Rogue One: A Star Wars Story) sans l’autorisation de leurs ayants droit.

Fig. 5. Le personnage de Grand Moff Tarkin a été créé à partir de l’apparence du regretté acteur Peter Cushing.

Le facteur déterminant derrière les lois californiennes sur l’IA#

Après avoir passé en revue chacune de ces lois, tu te demandes peut-être pourquoi elles sont nécessaires. La réglementation de l’IA fait débat depuis un certain temps, mais elle a pris beaucoup d’ampleur avec la prolifération des hypertrucages, qui touchent différents domaines, notamment les médias et la politique. L’utilisation de contenu généré par l’IA en ligne a notamment suscité des inquiétudes quant à la désinformation et à son incidence potentielle sur les résultats électoraux. Les préoccupations concernant la vie privée et l’utilisation abusive des données personnelles par les innovations en IA grandissent également. Elles expliquent en grande partie l’adoption de plusieurs nouvelles lois.

Par exemple, l’AB 2905 exige que les appels automatisés signalent s’ils utilisent des voix générées par l’IA. De plus, l’AB 2655 demande aux grandes plateformes en ligne comme Facebook et X de supprimer ou d’étiqueter les hypertrucages liés aux élections et de mettre en place des canaux de signalement pour ce type de contenu. Les candidats et les élus peuvent également demander une injonction si les plateformes ne respectent pas ces exigences.

Une autre loi, l’AB 2839, vise les utilisateurs des médias sociaux qui publient ou repartagent des hypertrucages susceptibles d’induire les électeurs en erreur. De même, l’AB 2355 impose des mentions explicites pour les publicités politiques créées à l’aide d’outils d’IA.

Principaux points à retenir des nouvelles lois californiennes sur l’IA#

Les nouvelles lois californiennes sur l’IA témoignent d’une volonté croissante de concilier innovation et responsabilisation. En répondant aux préoccupations majeures liées à la transparence des données, à la vie privée, aux hypertrucages et à l’utilisation de l’IA dans les secteurs de la santé et de l’éducation, ces lois visent à protéger les individus et la société tout en favorisant un développement responsable de l’IA. À mesure que l’IA évolue, ces réglementations contribueront à garantir que cette croissance s’accompagne de pratiques éthiques et de la confiance du public. Ces lois pourraient également inciter d’autres régions du monde à suivre cet exemple.

Pour en savoir plus, consulte notre dépôt GitHub et participe à notre communauté. Découvre les applications de l’IA dans les secteurs de la fabrication et de l’agriculture sur nos pages de solutions.