Les nouvelles réglementations sur l'IA en Californie : un accent sur l'IA éthique

Des voitures autonomes à la santé, les innovations en intelligence artificielle (IA) et les entreprises technologiques de nouvelle génération commencent à jouer un rôle clé dans la transformation de notre vie quotidienne. Par conséquent, la taille du marché mondial de l'IA s'élevait à 196,63 milliards de dollars en 2023 et devrait croître en moyenne de 36 % par an entre 2024 et 2030. Ces chiffres témoignent de la rapidité de la croissance de l'IA.

D'un côté, le développement rapide de l'IA crée des solutions à divers problèmes dans différents secteurs. De l'autre, cette vitesse met en lumière la nécessité d'un développement responsable de l'IA pour s'assurer que les améliorations sont éthiques et bénéfiques pour la société.

Par exemple, en 2016, Microsoft a lancé un chatbot, Tay, sur X (anciennement Twitter). Il a été conçu pour apprendre des conversations avec les utilisateurs. Cependant, peu de temps après sa sortie, Tay a commencé à générer des réponses au langage non professionnel en s'imprégnant d'un ensemble d'interactions. Bien que Microsoft ait rapidement retiré le bot, c'est un bon exemple de l'importance de s'assurer que les données utilisées pour l'entraînement de l'IA sont fiables et que le public est conscient de la manière dont les entreprises utilisent ces données pour les produits d'IA.

Fig. 1 : Le chatbot Twitter de Microsoft, Tay.

Pour répondre à cette préoccupation, le gouverneur de la Californie, Gavin Newsom, a promulgué plus d'une douzaine de projets de loi liés à l'IA ce mois de septembre. Ces lois régissent tout, de la divulgation de détails sur les données d'entraînement à la gestion des deepfakes. Dans cet article, nous allons explorer les lois californiennes sur l'IA et ce qu'elles impliquent. C'est parti !

Législation californienne sur l'IA 2024 : garantir la responsabilité#

Trois projets de loi majeurs ont été promulgués pour favoriser la sécurité et la fiabilité du développement de l'IA. La loi de l'Assemblée (AB) 2013, qui entre en vigueur en 2026, oblige les fournisseurs d'IA générative à publier des détails concernant leurs jeux de données d'entraînement. Ces détails incluent les sources des jeux de données, des informations sur la manière dont les données sont utilisées, le nombre de points de données dans le jeu, l'inclusion éventuelle de données protégées par le droit d'auteur ou sous licence, la période de collecte des données, etc. Partager ces informations aidera les entreprises d'IA à bâtir la confiance du public.

Un autre projet de loi important a été signé, AB 1008. Il étend les lois californiennes existantes sur la confidentialité aux solutions d'IA générative. L'AB 1008 a été présenté pour répondre aux préoccupations et renforcer la confiance du public dans la manière dont les systèmes d'IA gèrent les informations personnelles. Un sondage a révélé que plus de 81 % des consommateurs craignent que les entreprises d'IA n'utilisent leurs informations d'une manière qu'ils n'avaient pas voulue. En fixant des limites claires sur la façon dont les entreprises peuvent utiliser et exploiter à des fins lucratives des informations personnelles, telles que les noms, les adresses et les données biométriques, cette loi aide les entreprises d'IA à rassurer les utilisateurs sur le fait que leurs données seront traitées de manière responsable, même si elles sont exposées par un système d'IA.

Fig. 2 : Une infographie montrant que de nombreuses personnes pensent que les solutions d'IA peuvent s'améliorer en matière de confidentialité.

De même, le projet de loi du Sénat (SB) 896, ou Generative AI Accountability Act, oblige le bureau des services d'urgence de la Californie (CalOES) à effectuer des analyses de risques sur les menaces potentielles posées par les systèmes d'IA générative. CalOES collaborera avec des entreprises pionnières de l'IA, telles que OpenAI et Anthropic, pour discuter et analyser les menaces potentielles de l'IA pour les infrastructures étatiques critiques.

Adoption et réglementation de l'IA dans les établissements d'enseignement#

We’ve previously explored how AI in education can personalize learning experiences, redefine teaching practices, offer real-time feedback, and support educators with advanced tools and insights. In fact, AI innovations can create a more effective and engaging studying environment for students. Educators and teachers all over the world are using AI more regularly, with successful pilot projects and broader implementations underway. Studies show that more than 50% of teachers feel AI in classrooms has positively impacted the teaching and learning process.

Fig. 3 : Sondage montrant l'avis des enseignants sur l'utilisation de l'IA dans les écoles.

La Californie a introduit deux lois concernant l'utilisation de l'IA dans les établissements d'enseignement. L'AB 2876 impose au Conseil de l'éducation de l'État de Californie de prendre en compte la culture de l'IA (après le 1er janvier 2025) dans ses cadres de programmes et son matériel pédagogique en mathématiques, en sciences et en histoire. L'objectif de cette loi est de s'assurer que les écoles californiennes éduquent les élèves aux bases de le fonctionnement de l'intelligence artificielle, ainsi qu'aux limites, aux impacts et aux considérations éthiques liés à l'utilisation de cette technologie.

En outre, le SB 1288 oblige les surintendants californiens à créer des groupes de travail (le ou avant le 1er janvier 2026) pour explorer la manière dont l'IA est utilisée dans les écoles publiques. Ces groupes de travail devront soumettre leurs conclusions et recommandations aux comités politiques et budgétaires compétents de la Législature d'ici le 1er janvier 2027. Une fois le rapport soumis, le groupe de travail sera dissous et les dispositions seront abrogées le 1er janvier 2031.

Réglementations entourant l'IA générative dans les soins de santé#

L'IA générative améliore l'industrie de la santé en permettant des innovations pour la découverte de nouveaux médicaments, le diagnostic des maladies, la planification des traitements et les chatbots médicaux. Ces applications peuvent offrir des avantages tels qu'une surveillance en temps réel, des conseils et un soutien pour améliorer les résultats pour les patients. D'autres technologies d'IA, comme la réalité augmentée (RA), peuvent également être utilisées pour planifier et simuler des interventions chirurgicales.

Fig. 4 : Cas d'utilisation de l'IA générative dans la santé.

L'intégration de l'IA générative dans les soins de santé comporte certaines mises en garde liées à la confidentialité des données et à la réglementation. Il est crucial de donner la priorité à l'exactitude, à la fiabilité et à l'équité des résultats générés par l'IA tout en protégeant la confidentialité des informations médicales.

Pour faire face à ces défis, la Californie a adopté deux lois sur l'utilisation de l'IA générative dans la santé. L'AB 3030 demande aux prestataires de soins de santé de divulguer lorsqu'ils utilisent l'IA générative pour communiquer avec un patient, en particulier lorsque ces messages contiennent des informations cliniques sur le patient. Le SB 1120 impose des limites sur la manière dont les prestataires de services de santé et les assureurs santé peuvent automatiser leurs services. Ces nouvelles lois garantissent également que des médecins agréés supervisent l'utilisation des outils d'IA dans ces contextes.

Cadres réglementaires californiens sur l'IA pour les deepfakes#

L'État de Californie a également adopté des lois visant à freiner l'utilisation de l'IA pour diffuser des informations trompeuses ou inexactes. Le SB 942 exige que les systèmes d'IA générative populaires indiquent clairement dans leurs données sources que le contenu a été créé par l'IA. De nombreuses entreprises d'IA le font déjà, et plusieurs outils gratuits disponibles (ZeroGPT, Winston AI, GLTR, etc.) peuvent aider les gens à lire ces données sources et à détecter le contenu généré par l'IA.

Trois nouvelles lois (AB 1831, SB 926, SB 981) ont été adoptées en Californie pour traiter les problèmes liés aux deepfakes. Ces lois étendent les protections existantes, criminalisent l'utilisation abusive de contenus générés par l'IA et obligent les plateformes de réseaux sociaux à créer des canaux de signalement pour les contenus de type deepfake. La mise en œuvre de ces lois est prévue pour janvier 2025.

Lois californiennes sur l'IA concernant la définition de l'IA et son utilisation dans le cinéma#

L'un des projets de loi promulgués s'est concentré sur la définition précise de l'IA. L'AB 2885 stipule que l'IA est définie comme « un système conçu ou basé sur des machines qui varie dans son niveau d'autonomie et qui peut, pour des objectifs explicites ou implicites, déduire à partir des données qu'il reçoit comment générer des résultats susceptibles d'influencer des environnements physiques ou virtuels ».

Deux lois intéressantes ont également été mises en place pour l'industrie du divertissement. Le plus grand syndicat d'acteurs de films et de diffusion d'Amérique (SAG-AFTRA) a joué un rôle crucial pour faire adopter ces lois. L'AB 2602 oblige les studios de cinéma à obtenir l'autorisation d'un acteur avant d'utiliser l'IA pour créer une réplique de sa voix et de son image. Pendant ce temps, l'AB 1836 interdit aux studios de créer des répliques numériques d'artistes décédés (semblables au personnage de Peter Cushing dans Star Wars: Rogue One) sans le consentement de leurs successions.

Fig. 5 : Le personnage, Grand Moff Tarkin, a été créé en utilisant l'image de feu l'acteur Peter Cushing.

Le facteur moteur des lois californiennes sur l'IA#

En découvrant chacune de ces lois, tu t'es peut-être demandé pourquoi elles sont réellement nécessaires. Les réglementations sur l'IA sont un sujet de discussion populaire depuis un certain temps déjà, mais elles ont pris une ampleur considérable avec la montée en puissance du contenu deepfake, qui a touché divers domaines, notamment les médias et la politique. L'utilisation de contenus générés par l'IA en ligne a suscité des inquiétudes concernant la désinformation et son impact potentiel sur les résultats électoraux, par exemple. Des craintes croissantes concernent également la confidentialité et l'utilisation abusive des données personnelles par les innovations en matière d'IA. Ces problèmes expliquent en partie pourquoi plusieurs nouvelles lois sont désormais en place pour y remédier.

Par exemple, l'AB 2905 impose aux appels automatisés de divulguer s'il s'agit de voix générées par l'IA. En outre, l'AB 2655 demande aux grandes plateformes en ligne telles que Facebook et X de supprimer ou d'étiqueter les deepfakes liés aux élections et de créer des canaux de signalement pour ce type de contenu. Les candidats et les élus peuvent également demander une injonction si les plateformes ne s'y conforment pas.

Une autre loi, l'AB 2839, cible les utilisateurs de réseaux sociaux qui publient ou republient des deepfakes susceptibles d'induire les électeurs en erreur. De même, l'AB 2355 stipule des divulgations claires pour les publicités politiques réalisées à l'aide d'outils d'IA.

Points clés des nouvelles lois californiennes sur l'IA#

Les nouvelles lois californiennes sur l'IA reflètent un engagement croissant à équilibrer l'innovation avec la responsabilité. En répondant aux préoccupations clés dans des domaines tels que la transparence des données, la vie privée, les deepfakes et l'utilisation de l'IA dans les soins de santé et l'éducation, ces lois visent à protéger les individus et la société tout en promouvant un développement responsable de l'IA. À mesure que l'IA continue d'évoluer, ces réglementations aideront à garantir que sa croissance s'accompagne de pratiques éthiques et de la confiance du public. Ces lois pourraient également encourager d'autres régions du monde à suivre le mouvement.

Pour en savoir plus, visite notre répertoire GitHub et interagis avec notre communauté. Découvre les applications de l'IA dans l'industrie manufacturière et l'agriculture sur nos pages de solutions. 🚀