Die neuen KI-Vorschriften in Kalifornien: Schwerpunkt ethische KI

Von selbstfahrenden Autos bis zum Gesundheitswesen: Innovationen im Bereich der künstlichen Intelligenz (AI) und Technologieunternehmen der nächsten Generation beginnen, unseren Alltag entscheidend zu verändern. Der weltweite Markt für KI hatte daher 2023 ein Volumen von 196,63 Milliarden US-Dollar und soll von 2024 bis 2030 jährlich durchschnittlich um 36 % wachsen. Diese Zahlen zeigen, wie schnell sich KI entwickelt.

Einerseits schafft die rasante Entwicklung der KI Lösungen für verschiedene Probleme in unterschiedlichen Branchen. Andererseits macht dieses Tempo deutlich, wie wichtig eine verantwortungsvolle KI-Entwicklung ist, damit Verbesserungen ethisch und für die Gesellschaft von Nutzen sind.

Microsoft brachte 2016 beispielsweise den Chatbot Tay auf X (ehemals Twitter) heraus. Er sollte aus Gesprächen mit Nutzern lernen. Kurz nach der Veröffentlichung begann Tay jedoch, sich unprofessionell auszudrücken, nachdem er eine Reihe unterschiedlicher Interaktionen verarbeitet hatte. Microsoft nahm den Bot zwar schnell wieder offline, doch das Beispiel zeigt, wie wichtig es ist, verlässliche Daten für das KI-Training zu verwenden und die Öffentlichkeit darüber zu informieren, wie Unternehmen solche Daten für KI-Produkte nutzen.

Abb. 1. Microsofts Twitter-Chatbot Tay.

Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete im vergangenen September mehr als ein Dutzend Gesetze zur KI, um diesem Anliegen zu begegnen. Die Gesetze regeln unter anderem die Offenlegung von Informationen zu Trainingsdaten und den Umgang mit Deepfakes. In diesem Artikel sehen wir uns die KI-Gesetze Kaliforniens und ihre Inhalte an.

KI-Gesetzgebung in Kalifornien 2024: Rechenschaftspflicht sicherstellen#

Drei wichtige Gesetze wurden verabschiedet, um die KI-Entwicklung sicherer und zuverlässiger zu machen. Der Gesetzesentwurf der Assembly (AB) 2013, der 2026 in Kraft tritt, verpflichtet Anbieter generativer KI dazu, Informationen über ihre Trainingsdatensätze zu veröffentlichen. Dazu gehören die Quellen der Datensätze, Angaben zur Datennutzung, die Anzahl der Datenpunkte, Informationen darüber, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, der Erhebungszeitraum und weitere Details. Durch die Veröffentlichung dieser Informationen können KI-Unternehmen das Vertrauen der Öffentlichkeit stärken.

Ein weiteres wichtiges verabschiedetes Gesetz ist AB 1008. Es erweitert die bestehenden Datenschutzgesetze Kaliforniens auf Lösungen für generative KI. AB 1008 wurde eingebracht, um Bedenken auszuräumen und das Vertrauen der Öffentlichkeit darin zu stärken, wie KI-Systeme mit personenbezogenen Daten umgehen. Einer Umfrage zufolge befürchten mehr als 81 % der Verbraucher, dass KI-Unternehmen ihre Daten möglicherweise nicht wie beabsichtigt verwenden. Das Gesetz setzt klare Grenzen dafür, wie Unternehmen personenbezogene Daten wie Namen, Adressen und biometrische Daten verwenden und daraus Gewinne erzielen dürfen. So können KI-Unternehmen Nutzern versichern, dass ihre Daten verantwortungsvoll behandelt werden – selbst wenn ein KI-System sie offenlegt.

Abb. 2. Eine Infografik zeigt, dass viele Menschen glauben, KI-Lösungen könnten den Datenschutz verbessern.

Ebenso verpflichtet Senatsgesetz (SB) 896, auch Gesetz zur Rechenschaftspflicht bei generativer KI genannt, das kalifornische Amt für Notfalldienste (CalOES) dazu, Risiken potenzieller Bedrohungen durch generative KI-Systeme zu analysieren. CalOES wird mit führenden KI-Unternehmen wie OpenAI und Anthropic zusammenarbeiten, um mögliche Bedrohungen für die kritische Infrastruktur des Bundesstaats zu erörtern und zu untersuchen.

Einführung und Regulierung von KI an Bildungseinrichtungen#

Wir haben bereits untersucht, wie KI im Bildungswesen Lernerfahrungen personalisieren, Lehrmethoden neu gestalten, Feedback in Echtzeit geben und Lehrkräfte mit fortschrittlichen Werkzeugen und Erkenntnissen unterstützen kann. KI-Innovationen können tatsächlich eine effektivere und ansprechendere Lernumgebung für Schüler schaffen. Lehrkräfte auf der ganzen Welt setzen KI immer häufiger ein; erfolgreiche Pilotprojekte und breitere Umsetzungen sind bereits im Gange. Studien zeigen, dass mehr als 50 % der Lehrkräfte der Meinung sind, dass KI im Unterricht den Lehr- und Lernprozess positiv beeinflusst hat.

Abb. 3. Umfrage zur Einschätzung von Lehrkräften zum Einsatz von KI an Schulen.

Kalifornien hat zwei Gesetze zur Nutzung von KI in Bildungseinrichtungen eingeführt. AB 2876 verpflichtet den staatlichen Bildungsrat Kaliforniens, nach dem 1. Januar 2025 KI-Kompetenz in seinen Lehrplänen und Unterrichtsmaterialien für Mathematik, Naturwissenschaften und Geschichte zu berücksichtigen. Ziel des Gesetzes ist es sicherzustellen, dass Schulen in Kalifornien Schülern die Grundlagen der Funktionsweise künstlicher Intelligenz sowie die Grenzen, Auswirkungen und ethischen Aspekte ihrer Nutzung vermitteln.

Außerdem verpflichtet SB 1288 die Schulbezirksleitungen in Kalifornien, spätestens bis zum 1. Januar 2026 Arbeitsgruppen einzurichten, die untersuchen, wie KI an öffentlichen Schulen eingesetzt wird. Diese Arbeitsgruppen müssen ihre Ergebnisse und Empfehlungen bis zum 1. Januar 2027 den zuständigen politischen und finanziellen Ausschüssen des Parlaments vorlegen. Nach Einreichung des Berichts wird die Arbeitsgruppe aufgelöst und die Bestimmungen treten am 1. Januar 2031 außer Kraft.

Regulierung generativer KI im Gesundheitswesen#

Generative KI verbessert das Gesundheitswesen, indem sie Innovationen bei der Entdeckung neuer Medikamente, der Diagnose von Krankheiten, der Behandlungsplanung und medizinischen Chatbots ermöglicht. Diese Anwendungen können Vorteile wie Überwachung in Echtzeit, Beratung und Unterstützung bieten und so die Behandlungsergebnisse verbessern. Auch andere Technologien wie Augmented Reality (AR) können zur Planung und Simulation chirurgischer Eingriffe eingesetzt werden.

Abb. 4. Anwendungsfälle für generative KI im Gesundheitswesen.

Die Integration generativer KI in das Gesundheitswesen bringt bestimmte Vorbehalte in Bezug auf Datenschutz und Regulierung mit sich. Es ist entscheidend, die Genauigkeit, Zuverlässigkeit und Fairness KI-generierter Ergebnisse zu priorisieren und zugleich die Vertraulichkeit von Gesundheitsdaten zu schützen.

Um diese Herausforderungen anzugehen, hat Kalifornien zwei Gesetze zur Nutzung generativer KI im Gesundheitswesen verabschiedet. AB 3030 verpflichtet Gesundheitsdienstleister offenzulegen, wenn sie generative KI zur Kommunikation mit Patientinnen und Patienten einsetzen, insbesondere wenn die Nachrichten klinische Informationen einer Patientin oder eines Patienten enthalten. SB 1120 schränkt ein, wie Gesundheitsdienstleister und Krankenversicherer ihre Leistungen automatisieren dürfen. Diese neuen Gesetze stellen außerdem sicher, dass zugelassene Ärztinnen und Ärzte den Einsatz von KI-Werkzeugen in diesen Bereichen beaufsichtigen.

Kaliforniens Rechtsrahmen für KI-Deepfakes#

Auch der US-Bundesstaat Kalifornien hat Gesetze verabschiedet, um den Einsatz von KI zur Verbreitung irreführender oder unzutreffender Informationen einzudämmen. SB 942 verpflichtet Anbieter generativer KI-Systeme mit mehr als einer Million monatlichen Nutzern, in den von ihren Systemen erzeugten KI-Bildern, -Videos und -Audiodateien einen verborgenen (latenten) Hinweis einzubetten und ein kostenloses Tool zu dessen Erkennung anzubieten.

In Kalifornien wurden drei neue Gesetze (AB 1831, SB 926, SB 981) verabschiedet, um Probleme im Zusammenhang mit Deepfakes anzugehen. Diese Gesetze erweitern bestehende Schutzmaßnahmen, stellen den Missbrauch KI-generierter Inhalte unter Strafe und verpflichten soziale Medienplattformen, Meldewege für Deepfake-Inhalte einzurichten. Die Gesetze sollen bis Januar 2025 umgesetzt werden.

Kaliforniens KI-Gesetze zur Definition von KI und ihrem Einsatz im Film#

Einer der verabschiedeten Gesetzesentwürfe befasste sich mit einer klaren Definition von KI. AB 2885 definiert KI als „ein technisch entwickeltes oder maschinenbasiertes System, dessen Autonomiegrad unterschiedlich ausgeprägt ist und das aus den Eingaben, die es erhält, für ausdrückliche oder implizite Ziele ableiten kann, wie es Ausgaben erzeugt, die physische oder virtuelle Umgebungen beeinflussen können“.

Für die Unterhaltungsbranche wurden außerdem zwei interessante Gesetze verabschiedet. Die größte Schauspielergewerkschaft der Film- und Fernsehbranche in den USA (SAG-AFTRA) spielte eine entscheidende Rolle bei der Durchsetzung dieser Gesetze. AB 2602 verpflichtet Filmstudios dazu, die Zustimmung eines Schauspielers einzuholen, bevor sie mithilfe von KI eine Nachbildung seiner Stimme und seines Aussehens erstellen. AB 1836 verbietet Studios, ohne Zustimmung der Nachlassverwalter digitale Nachbildungen verstorbener Darsteller zu erstellen – ähnlich der Figur von Peter Cushing in Rogue One: A Star Wars Story.

Abb. 5. Die Figur Grand Moff Tarkin wurde mit dem Aussehen des verstorbenen Schauspielers Peter Cushing erstellt.

Der Antrieb hinter Kaliforniens KI-Gesetzen#

Nachdem du dir diese Gesetze angesehen hast, fragst du dich vielleicht, warum sie nötig sind. KI-Regulierung wird schon seit einiger Zeit intensiv diskutiert, hat aber mit dem Aufkommen von Deepfakes deutlich an Bedeutung gewonnen. Diese haben verschiedene Bereiche beeinflusst, darunter Medien und Politik. Die Verwendung KI-generierter Inhalte im Internet hat beispielsweise Bedenken wegen Falschinformationen und deren möglichen Auswirkungen auf Wahlergebnisse ausgelöst. Auch die Sorge um den Datenschutz und den Missbrauch personenbezogener Daten durch KI-Innovationen wächst. Diese Bedenken sind ein wichtiger Grund dafür, dass nun mehrere neue Gesetze gelten.

AB 2905 verpflichtet beispielsweise automatisierte Anrufsysteme dazu offenzulegen, ob sie KI-generierte Stimmen verwenden. Außerdem fordert AB 2655 große Onlineplattformen wie Facebook und X dazu auf, wahlbezogene Deepfakes zu entfernen oder zu kennzeichnen und Meldekanäle für solche Inhalte einzurichten. Kandidaten und gewählte Amtsträger können zudem eine gerichtliche Unterlassungsverfügung beantragen, wenn Plattformen die Vorschriften nicht einhalten.

Ein weiteres Gesetz, AB 2839, richtet sich gegen Nutzerinnen und Nutzer sozialer Medien, die Deepfakes veröffentlichen oder erneut teilen, um Wählerinnen und Wähler in die Irre zu führen. Ähnlich sieht AB 2355 klare Offenlegungspflichten für politische Werbung vor, die mit KI-Werkzeugen erstellt wurde.

Die wichtigsten Erkenntnisse aus Kaliforniens neuen KI-Gesetzen#

Kaliforniens neue KI-Gesetze zeigen, dass der Bundesstaat zunehmend entschlossen ist, Innovation und Rechenschaftspflicht in Einklang zu bringen. Indem sie wichtige Fragen zu Datentransparenz, Datenschutz, Deepfakes und zum Einsatz von KI im Gesundheits- und Bildungswesen angehen, sollen die Gesetze Einzelpersonen und die Gesellschaft schützen und zugleich eine verantwortungsvolle KI-Entwicklung fördern. Während sich KI weiterentwickelt, tragen diese Vorschriften dazu bei, dass mit ihrem Wachstum ethische Praktiken und das Vertrauen der Öffentlichkeit einhergehen. Die Gesetze könnten auch andere Regionen der Welt dazu bewegen, diesem Beispiel zu folgen.

Weitere Informationen findest du in unserem GitHub-Repository und in unserer Community. Auf unseren Lösungsseiten kannst du dich über KI-Anwendungen in der Fertigung und der Landwirtschaft informieren.