Les nouvelles réglementations californiennes sur l’IA : un accent sur l’IA éthique
Découvre comment les nouvelles lois californiennes sur l’IA concilient innovation et responsabilité, en couvrant la confidentialité, les deepfakes, la santé, l’éducation et la sécurité.
Des voitures autonomes aux soins de santé, les innovations en intelligence artificielle (AI) et les entreprises technologiques de nouvelle génération commencent à jouer un rôle clé dans la transformation de notre vie quotidienne. Par conséquent, la taille du marché de l’IA à l’échelle mondiale s’élevait à 196,63 milliards de dollars en 2023 et devrait croître de 36 % en moyenne par an entre 2024 et 2030. Ces chiffres montrent à quel point l’IA se développe rapidement.
D’une part, le développement rapide de l’IA crée des solutions à divers problèmes dans différents secteurs. D’autre part, cette vitesse met en évidence la nécessité d’un développement de l’IA responsable afin de garantir que les améliorations soient éthiques et bénéfiques pour la société.
Par exemple, en 2016, Microsoft a lancé sur X (anciennement Twitter) un chatbot nommé Tay. Il était conçu pour apprendre des conversations avec les utilisateurs. Cependant, peu après sa mise en ligne, Tay a commencé à générer des réponses au langage peu professionnel en raison des nombreuses interactions dont il s’était inspiré. Même si Microsoft a rapidement mis le bot hors ligne, c’est un bon exemple de l’importance de s’assurer que les données utilisées pour l’entraînement de l’IA sont fiables et que le public sait comment les entreprises utilisent ces données pour leurs produits d’IA.
Fig. 1 Chatbot Twitter de Microsoft, Tay.
Pour répondre à cette préoccupation, le gouverneur de Californie, Gavin Newsom, a promulgué plus d’une douzaine de projets de loi liés à l’IA en septembre dernier. Ces lois couvrent des sujets allant de la divulgation d’informations sur les données d’entraînement à la gestion des deepfakes. Dans cet article, nous examinerons les lois californiennes sur l’IA et ce qu’elles impliquent. C’est parti !
Législation californienne sur l’IA en 2024 : garantir la responsabilité#
Trois projets de loi majeurs ont été promulgués pour rendre le développement de l’IA plus sûr et plus fiable. L’Assembly Bill (AB) 2013, qui entrera en vigueur en 2026, oblige les fournisseurs d’IA générative à publier des informations concernant leurs jeux de données d’entraînement. Ces informations comprennent les sources des jeux de données, des précisions sur l’utilisation des données, le nombre de points de données dans le jeu, la présence éventuelle de données protégées par des droits d’auteur ou sous licence, la période pendant laquelle les données ont été collectées, etc. Le partage de ces informations aidera les entreprises d’IA à instaurer la confiance du public.
Un autre projet de loi important a également été promulgué : l’AB 1008. Il étend les lois californiennes existantes sur la protection de la vie privée aux solutions d’IA générative. L’AB 1008 a été présenté pour répondre aux préoccupations et renforcer la confiance du public dans la manière dont les systèmes d’IA traitent les informations personnelles. Une enquête a révélé que plus de 81 % des consommateurs craignent que les entreprises d’IA utilisent leurs informations d’une manière qu’ils n’avaient pas prévue. En fixant des limites claires à la manière dont les entreprises peuvent utiliser et tirer profit des informations personnelles, comme les noms, les adresses et les données biométriques, cette loi aide les entreprises d’IA à rassurer les utilisateurs sur le traitement responsable de leurs données, même si celles-ci sont exposées par un système d’IA.
Fig. 2 Infographie montrant que de nombreuses personnes pensent que les solutions d’IA peuvent être améliorées en matière de protection de la vie privée.
De même, le Senate Bill (SB) 896, ou Generative AI Accountability Act, oblige l’Office of Emergency Services de Californie (CalOES) à effectuer des analyses des risques liés aux menaces potentielles posées par les systèmes d’IA générative. CalOES collaborera avec des entreprises d’IA pionnières, telles qu’OpenAI et Anthropic, afin d’examiner et d’analyser les menaces potentielles de l’IA pour les infrastructures publiques essentielles de l’État.
Adoption et réglementation de l’IA dans les établissements d’enseignement#
Nous avons déjà examiné comment l’IA dans l’éducation peut personnaliser les expériences d’apprentissage, redéfinir les pratiques pédagogiques, fournir des retours en temps réel et aider les enseignants grâce à des outils et des informations avancés. En fait, les innovations en matière d’IA peuvent créer un environnement d’étude plus efficace et attrayant pour les élèves. Les enseignants et les éducateurs du monde entier utilisent de plus en plus l’IA, tandis que des projets pilotes réussis et des déploiements à plus grande échelle sont en cours. Des études montrent que plus de 50 % des enseignants estiment que l’IA en classe a eu un impact positif sur le processus d’enseignement et d’apprentissage.
Fig. 3. Enquête montrant ce que les enseignants pensent de l’utilisation de l’IA dans les écoles.
La Californie a adopté deux lois concernant l’utilisation de l’IA dans les établissements d’enseignement. L’AB 2876 oblige le Conseil de l’éducation de l’État de Californie à prendre en compte la maîtrise de l’IA (après le 1er janvier 2025) dans ses référentiels de programmes et ses supports pédagogiques de mathématiques, de sciences et d’histoire. Cette loi vise à garantir que les écoles californiennes enseignent aux élèves les bases du fonctionnement de l’intelligence artificielle, ainsi que les limites, les impacts et les considérations éthiques liés à l’utilisation de cette technologie.
En outre, le SB 1288 oblige les surintendants californiens à créer des groupes de travail (au plus tard le 1er janvier 2026) afin d’étudier l’utilisation de l’IA dans les écoles publiques. Ces groupes de travail devront présenter leurs conclusions et recommandations aux commissions compétentes de la législature chargées des politiques publiques et des finances au plus tard le 1er janvier 2027. Une fois le rapport remis, le groupe de travail sera dissous et les dispositions seront abrogées le 1er janvier 2031.
Réglementation de l’IA générative dans le secteur de la santé#
L’IA générative améliore le secteur des soins de santé en permettant des innovations pour découvrir de nouveaux médicaments, diagnostiquer des maladies, planifier des traitements et créer des chatbots médicaux. Ces applications peuvent apporter des avantages tels que la surveillance, les conseils et l’assistance en temps réel afin d’améliorer les résultats pour les patients. D’autres technologies d’IA, comme la réalité augmentée (AR), peuvent également servir à planifier et simuler des interventions chirurgicales.
Fig. 4 Cas d’utilisation de l’IA générative dans le secteur de la santé.
L’intégration de l’IA générative dans le secteur de la santé comporte certaines réserves liées à la confidentialité des données et à la réglementation. Il est essentiel de donner la priorité à l’exactitude, à la fiabilité et à l’équité des résultats générés par l’IA, tout en protégeant la confidentialité des informations de santé.
Pour relever ces défis, la Californie a adopté deux lois concernant l’utilisation de l’IA générative dans le secteur de la santé. L’AB 3030 demande aux prestataires de soins de santé d’indiquer lorsqu’ils utilisent l’IA générative pour communiquer avec un patient, notamment lorsque ces messages contiennent des informations cliniques le concernant. Le SB 1120 impose des limites à l’automatisation de leurs services par les prestataires de soins de santé et les assureurs santé. Ces nouvelles lois garantissent également que des médecins agréés supervisent l’utilisation des outils d’IA dans ces contextes.
Les cadres réglementaires californiens sur l’IA concernant les deepfakes#
L’État de Californie a également adopté des lois visant à limiter l’utilisation de l’IA pour diffuser des informations trompeuses ou inexactes. Le SB 942 oblige les systèmes d’IA générative populaires à indiquer clairement dans leurs données sources que le contenu a été créé par une IA. De nombreuses entreprises d’IA le font déjà, et plusieurs outils gratuits disponibles en ligne (ZeroGPT, Winston AI, GLTR, etc.) peuvent aider les utilisateurs à consulter ces données sources et à détecter les contenus générés par l’IA.
Trois nouvelles lois (AB 1831, SB 926, SB 981) ont été adoptées en Californie pour répondre aux problèmes liés aux deepfakes. Ces lois étendent les protections existantes, criminalisent l’utilisation abusive de contenus générés par l’IA et obligent les plateformes de réseaux sociaux à créer des canaux de signalement pour les contenus deepfake. Leur mise en œuvre est prévue pour janvier 2025.
Les lois californiennes sur l’IA concernant la définition de l’IA et son utilisation dans le cinéma#
L’un des projets de loi promulgués visait à donner une définition précise de l’IA. L’AB 2885 définit l’IA comme « un système conçu ou basé sur une machine, dont le niveau d’autonomie peut varier et qui, pour des objectifs explicites ou implicites, déduit à partir des données d’entrée qu’il reçoit comment générer des résultats susceptibles d’influencer des environnements physiques ou virtuels ».
Deux lois intéressantes ont également été mises en place pour le secteur du divertissement. Le plus grand syndicat américain des acteurs du cinéma et de la télévision (SAG-AFTRA) a joué un rôle essentiel dans l’adoption de ces lois. L’AB 2602 oblige les studios de cinéma à obtenir l’autorisation d’un acteur avant d’utiliser l’IA pour créer une réplique de sa voix et de son apparence. Par ailleurs, l’AB 1836 interdit aux studios de créer des répliques numériques d’artistes décédés (comme le personnage de Peter Cushing dans Star Wars: Rogue One) sans l’autorisation de leurs ayants droit.
Fig. 5. Le personnage de Grand Moff Tarkin a été créé à partir de l’apparence de l’acteur défunt Peter Cushing.
Le facteur déterminant derrière les lois californiennes sur l’IA#
En examinant chacune de ces lois, tu t’es peut-être demandé pourquoi elles étaient vraiment nécessaires. Les réglementations sur l’IA font l’objet de nombreuses discussions depuis un certain temps, mais elles ont pris un élan considérable avec l’essor des contenus deepfake, qui ont touché différents domaines, notamment les médias et la politique. L’utilisation de contenus générés par l’IA en ligne a suscité des inquiétudes concernant la désinformation et son impact potentiel sur les résultats des élections, par exemple. Les préoccupations concernant la vie privée et l’utilisation abusive des données personnelles par les innovations en matière d’IA prennent également de l’ampleur. Ces problèmes ont contribué à l’adoption de plusieurs nouvelles lois visant à y répondre.
Par exemple, l’AB 2905 oblige les appels automatisés à indiquer s’ils utilisent des voix générées par l’IA. En outre, l’AB 2655 demande aux grandes plateformes en ligne comme Facebook et X de supprimer ou d’étiqueter les deepfakes liés aux élections et de créer des canaux de signalement pour ce type de contenu. Les candidats et les élus peuvent également demander une injonction si les plateformes ne respectent pas ces obligations.
Une autre loi, l’AB 2839, cible les utilisateurs des réseaux sociaux qui publient ou repartagent des deepfakes susceptibles d’induire les électeurs en erreur. De même, l’AB 2355 impose des mentions claires pour les publicités politiques créées à l’aide d’outils d’IA.
Principaux points à retenir des nouvelles lois californiennes sur l’IA#
Les nouvelles lois californiennes sur l’IA témoignent d’un engagement croissant à trouver un équilibre entre innovation et responsabilité. En répondant aux préoccupations essentielles liées à la transparence des données, à la vie privée, aux deepfakes et à l’utilisation de l’IA dans les secteurs de la santé et de l’éducation, ces lois visent à protéger les individus et la société tout en favorisant un développement responsable de l’IA. À mesure que l’IA continue d’évoluer, ces réglementations contribueront à garantir que sa croissance s’accompagne de pratiques éthiques et de la confiance du public. Ces lois pourraient également inciter d’autres régions du monde à suivre cet exemple.
Pour en savoir plus, consulte notre dépôt GitHub et échange avec notre communauté. Découvre les applications de l’IA dans la fabrication et l’agriculture sur nos pages de solutions. 🚀
