Les nouvelles réglementations sur l'IA en Californie : un accent sur l'IA éthique

Des voitures autonomes aux soins de santé, les innovations en intelligence artificielle (IA) et les entreprises technologiques de nouvelle génération commencent à jouer un rôle clé dans la transformation de notre quotidien. Par conséquent, la taille du marché mondial de l'IA était de 196,63 milliards de dollars en 2023 et devrait croître en moyenne de 36 % par an de 2024 à 2030. Ces chiffres démontrent la rapidité avec laquelle l'IA se développe.

D'un côté, le développement rapide de l'IA crée des solutions pour divers problèmes dans différents secteurs. D'un autre côté, cette rapidité met en lumière la nécessité d'un développement d'une IA responsable pour garantir que les améliorations soient éthiques et bénéfiques pour la société.

Par exemple, en 2016, Microsoft a lancé un chatbot, Tay, sur X (anciennement Twitter). Il a été conçu pour apprendre à partir des conversations avec les utilisateurs. Cependant, peu après sa sortie, Tay a commencé à générer des réponses au langage non professionnel en raison de la variété d'interactions qu'il a assimilées. Bien que Microsoft ait rapidement retiré le bot, cela reste un bon exemple de l'importance de s'assurer que les données utilisées pour l'entraînement IA sont fiables et que le public est informé de la façon dont les entreprises utilisent ces données pour leurs produits d'IA.

Fig 1. Le chatbot Twitter de Microsoft, Tay.

Pour répondre à cette préoccupation, le gouverneur de Californie, Gavin Newsom, a signé plus d'une douzaine de projets de loi liés à l'IA en septembre dernier. Ces lois couvrent tout, de la divulgation de détails sur les données d'entraînement à la gestion des deepfakes. Dans cet article, nous explorerons les lois californiennes sur l'IA et ce qu'elles impliquent. Commençons !

Link to this sectionLégislation californienne sur l'IA 2024 : garantir la responsabilité#

Trois projets de loi majeurs ont été promulgués pour soutenir un développement de l'IA plus sûr et plus fiable. L'Assembly Bill (AB) 2013, qui entrera en vigueur en 2026, oblige les fournisseurs d'IA générative à publier des détails concernant leurs jeux de données d'entraînement. Ces détails incluent les sources des jeux de données, des informations sur la manière dont les données sont utilisées, le nombre de points de données dans l'ensemble, si des données protégées par le droit d'auteur ou sous licence sont incluses, la période durant laquelle les données ont été collectées, etc. Partager ces informations aidera les entreprises d'IA à renforcer la confiance du public.

Un autre projet de loi important signé est l'AB 1008. Il étend les lois californiennes existantes sur la protection de la vie privée aux solutions d'IA générative. L'AB 1008 a été introduit pour répondre aux préoccupations et améliorer la confiance du public dans la manière dont les systèmes d'IA traitent les informations personnelles. Une enquête a révélé que plus de 81 % des consommateurs craignent que les entreprises d'IA puissent utiliser leurs informations à des fins non prévues. En fixant des limites claires sur la façon dont les entreprises peuvent utiliser et tirer profit des informations personnelles, comme les noms, adresses et données biométriques, cette loi aide les entreprises d'IA à rassurer les utilisateurs sur le fait que leurs données seront traitées de manière responsable, même si elles sont exposées par un système d'IA.

Fig 2. Une infographie montrant que beaucoup de gens croient que les solutions d'IA peuvent s'améliorer en matière de protection de la vie privée.

De même, le Senate Bill (SB) 896, ou Generative AI Accountability Act, exige que le Bureau des services d'urgence de Californie (CalOES) effectue des analyses de risque sur les menaces potentielles posées par les systèmes d'IA générative. Le CalOES collaborera avec des entreprises pionnières de l'IA, telles qu'OpenAI et Anthropic, pour discuter et analyser les menaces potentielles de l'IA sur les infrastructures critiques de l'État.

Link to this sectionAdoption et réglementation de l'IA dans les établissements d'enseignement#

Nous avons déjà exploré comment l'IA dans l'éducation peut personnaliser les expériences d'apprentissage, redéfinir les pratiques pédagogiques, offrir des retours en temps réel et soutenir les éducateurs avec des outils et des perspectives avancés. En fait, les innovations en IA peuvent créer un environnement d'étude plus efficace et engageant pour les étudiants. Les éducateurs et les enseignants du monde entier utilisent l'IA de manière plus régulière, avec des projets pilotes réussis et des mises en œuvre plus larges en cours. Des études montrent que plus de 50 % des enseignants estiment que l'IA dans les salles de classe a eu un impact positif sur le processus d'enseignement et d'apprentissage.

Fig 3. Enquête montrant le sentiment des enseignants sur l'utilisation de l'IA dans les écoles.

La Californie a introduit deux lois concernant l'utilisation de l'IA dans les établissements d'enseignement. L'AB 2876 impose au Conseil de l'éducation de l'État de Californie de prendre en compte la littératie en IA (après le 1er janvier 2025) dans ses cadres curriculaires et ses matériels pédagogiques pour les mathématiques, les sciences et l'histoire. L'objectif de cette loi est de s'assurer que les écoles californiennes éduquent les élèves sur les bases du fonctionnement de l'intelligence artificielle, ainsi que sur les limites, les impacts et les considérations éthiques liées à l'utilisation de cette technologie.

En plus de cela, le SB 1288 exige que les surintendants californiens créent des groupes de travail (au plus tard le 1er janvier 2026) pour explorer la manière dont l'IA est utilisée dans les écoles publiques. Ces groupes de travail devront soumettre leurs conclusions et recommandations aux comités législatifs pertinents chargés des politiques et du budget d'ici le 1er janvier 2027. Une fois le rapport soumis, le groupe de travail sera dissous et les dispositions seront abrogées le 1er janvier 2031.

Link to this sectionRéglementations entourant l'IA générative dans les soins de santé#

L'IA générative améliore le secteur des soins de santé en permettant des innovations pour découvrir de nouveaux médicaments, diagnostiquer des maladies, planifier des traitements et créer des chatbots médicaux. Ces applications peuvent offrir des avantages tels qu'un suivi en temps réel, des conseils et un soutien pour améliorer les résultats des patients. D'autres technologies d'IA, comme la réalité augmentée (AR), peuvent également être utilisées pour planifier et simuler des interventions chirurgicales.

Fig 4. Cas d'utilisation de l'IA générative dans les soins de santé.

L'intégration de l'IA générative dans les soins de santé comporte certaines mises en garde liées à la confidentialité des données et à la réglementation. Il est crucial de donner la priorité à l'exactitude, à la fiabilité et à l'équité des résultats générés par l'IA tout en protégeant la confidentialité des informations médicales.

Pour relever ces défis, la Californie a adopté deux lois sur l'utilisation de l'IA générative dans les soins de santé. L'AB 3030 demande aux prestataires de soins de santé de divulguer lorsqu'ils utilisent l'IA générative pour communiquer avec un patient, en particulier lorsque ces messages contiennent les informations cliniques d'un patient. Le SB 1120 impose des limitations sur la façon dont les prestataires de services de santé et les assureurs santé peuvent automatiser leurs services. Ces nouvelles lois garantissent également que des médecins agréés supervisent l'utilisation des outils d'IA dans ces contextes.

Link to this sectionCadres réglementaires californiens sur l'IA pour les deepfakes#

L'État de Californie a également adopté des lois visant à limiter l'utilisation de l'IA pour diffuser des informations trompeuses ou inexactes. Le SB 942 exige que les systèmes d'IA générative populaires indiquent clairement dans leurs données sources que le contenu a été créé par une IA. De nombreuses entreprises d'IA le font déjà, et plusieurs outils gratuits (ZeroGPT, Winston AI, GLTR, etc.) peuvent aider les gens à lire ces données sources et à détecter le contenu généré par l'IA.

Trois nouvelles lois (AB 1831, SB 926, SB 981) ont été adoptées en Californie pour traiter les problèmes liés aux deepfakes. Ces lois étendent les protections existantes, pénalisent l'utilisation abusive de contenu généré par IA et obligent les plateformes de réseaux sociaux à créer des canaux de signalement pour le contenu deepfake. La mise en œuvre des lois est prévue pour janvier 2025.

Link to this sectionLois californiennes sur l'IA concernant la définition de l'IA et son utilisation dans le cinéma#

L'un des projets de loi adoptés se concentrait sur la définition correcte de l'IA. L'AB 2885 stipule que l'IA est définie comme « un système technique ou basé sur une machine qui varie dans son niveau d'autonomie et qui peut, pour des objectifs explicites ou implicites, déduire à partir des données qu'il reçoit comment générer des résultats pouvant influencer des environnements physiques ou virtuels. »

Deux lois intéressantes ont également été mises en place pour l'industrie du divertissement. Le plus grand syndicat d'acteurs de cinéma et de télévision d'Amérique (SAG-AFTRA) a joué un rôle crucial pour faire adopter ces lois. L'AB 2602 exige que les studios de cinéma obtiennent la permission d'un acteur avant d'utiliser l'IA pour créer une réplique de sa voix et de son apparence. Pendant ce temps, l'AB 1836 interdit aux studios de créer des répliques numériques d'interprètes décédés (similaire au personnage de Peter Cushing dans Star Wars : Rogue One) sans le consentement de leurs héritiers.

Fig 5. Le personnage, Grand Moff Tarkin, a été créé en utilisant l'apparence de l'acteur décédé Peter Cushing.

Link to this sectionLe facteur moteur des lois californiennes sur l'IA#

En examinant chacune de ces lois, tu t'es peut-être demandé pourquoi elles sont vraiment nécessaires. Les réglementations sur l'IA sont un sujet de discussion populaire depuis un certain temps, mais elles ont pris un élan important avec la montée des contenus deepfake, qui ont impacté divers domaines, notamment les médias et la politique. L'utilisation de contenu généré par IA en ligne a suscité des inquiétudes concernant la désinformation et son impact potentiel sur les résultats électoraux, par exemple. Il existe également des appréhensions croissantes concernant la vie privée et l'utilisation abusive des données personnelles par les innovations en IA. Ces problèmes ont été un facteur expliquant pourquoi plusieurs nouvelles lois sont désormais en place pour y remédier.

Par exemple, l'AB 2905 oblige les appels automatisés (robocalls) à divulguer s'ils sont générés par IA. De plus, l'AB 2655 demande aux grandes plateformes en ligne comme Facebook et X de supprimer ou d'étiqueter les deepfakes liés aux élections et de créer des canaux de signalement pour ce type de contenu. Les candidats et les élus peuvent également demander une injonction si les plateformes ne s'y conforment pas.

Une autre loi, l'AB 2839, cible les utilisateurs de réseaux sociaux qui publient ou republient des deepfakes susceptibles d'induire les électeurs en erreur. De même, l'AB 2355 stipule des divulgations claires pour les publicités politiques réalisées à l'aide d'outils d'IA.

Link to this sectionPoints clés des nouvelles lois californiennes sur l'IA#

Les nouvelles lois californiennes sur l'IA reflètent un engagement croissant à équilibrer l'innovation avec la responsabilité. En répondant aux préoccupations clés dans des domaines tels que la transparence des données, la vie privée, les deepfakes et l'utilisation de l'IA dans les soins de santé et l'éducation, ces lois visent à protéger les individus et la société tout en promouvant un développement responsable de l'IA. À mesure que l'IA continue d'évoluer, ces réglementations aideront à garantir que sa croissance s'accompagne de pratiques éthiques et de la confiance du public. Ces lois pourraient également encourager d'autres régions du monde à suivre le mouvement.

Pour en savoir plus, visite notre GitHub repository et interagis avec notre community. Explore les applications de l'IA dans la manufacturing et l'agriculture sur nos pages de solutions. 🚀