Die neuen KI-Vorschriften in Kalifornien: Fokus auf ethische KI

Von selbstfahrenden Autos bis zum Gesundheitswesen beginnen Innovationen im Bereich der künstlichen Intelligenz (AI) und Unternehmen mit Technologien der nächsten Generation, eine entscheidende Rolle bei der Neugestaltung unseres Alltags zu spielen. Folglich betrug die globale Marktgröße für KI im Jahr 2023 196,63 Milliarden US-Dollar und soll von 2024 bis 2030 jährlich durchschnittlich um 36 % wachsen. Diese Zahlen zeigen, wie schnell sich KI entwickelt.

Einerseits schafft die rasante Entwicklung der KI Lösungen für verschiedene Probleme in unterschiedlichen Branchen. Andererseits macht dieses Tempo deutlich, dass eine verantwortungsvolle KI notwendig ist, damit Verbesserungen ethisch vertretbar sind und der Gesellschaft zugutekommen.

So brachte Microsoft 2016 den Chatbot Tay auf X (ehemals Twitter) heraus. Er wurde entwickelt, um aus Gesprächen mit Nutzern zu lernen. Kurz nach seiner Veröffentlichung begann Tay jedoch, aufgrund der zahlreichen Interaktionen, die er aufnahm, Antworten mit unprofessioneller Sprache zu erzeugen. Obwohl Microsoft den Bot schnell offline nahm, ist dies ein gutes Beispiel dafür, wie wichtig es ist, sicherzustellen, dass die für das KI-Training verwendeten Daten zuverlässig sind und die Öffentlichkeit weiß, wie Unternehmen solche Daten für KI-Produkte verwenden.

Abb. 1 Microsofts Twitter-Chatbot Tay.

Um diesem Problem zu begegnen, unterzeichnete der Gouverneur von Kalifornien, Gavin Newsom, im vergangenen September mehr als ein Dutzend Gesetze zum Thema KI. Diese Gesetze reichen von der Offenlegung von Einzelheiten zu Trainingsdaten bis zum Umgang mit Deepfakes. In diesem Artikel sehen wir uns die KI-Gesetze Kaliforniens und ihre Bedeutung an. Legen wir los!

KI-Gesetzgebung in Kalifornien 2024: Für mehr Verantwortlichkeit#

Drei wichtige Gesetze wurden verabschiedet, um eine sicherere und zuverlässigere KI-Entwicklung zu fördern. Das Gesetz des Parlaments (AB) 2013, das 2026 in Kraft tritt, verpflichtet Anbieter generativer KI, Einzelheiten zu ihren Trainingsdatensätzen zu veröffentlichen. Dazu gehören die Quellen der Datensätze, Informationen zur Verwendung der Daten, die Anzahl der Datenpunkte im Datensatz, Angaben dazu, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, der Zeitraum der Datenerhebung und mehr. Durch die Veröffentlichung dieser Informationen können KI-Unternehmen öffentliches Vertrauen aufbauen.

Ein weiteres wichtiges verabschiedetes Gesetz war AB 1008. Es erweitert Kaliforniens bestehende Datenschutzgesetze auf Lösungen mit generativer KI. AB 1008 wurde eingeführt, um Bedenken auszuräumen und das Vertrauen der Öffentlichkeit in den Umgang von KI-Systemen mit personenbezogenen Informationen zu stärken. Eine Umfrage ergab, dass sich mehr als 81 % der Verbraucher Sorgen machen, dass KI-Unternehmen ihre Informationen möglicherweise auf unbeabsichtigte Weise verwenden. Durch klare Grenzen für die Nutzung und wirtschaftliche Verwertung personenbezogener Informationen durch Unternehmen, etwa Namen, Adressen und biometrische Daten, trägt dieses Gesetz dazu bei, dass KI-Unternehmen den Nutzern versichern können, dass ihre Daten verantwortungsvoll verarbeitet werden, selbst wenn sie durch ein KI-System offengelegt werden.

Abb. 2 Eine Infografik zeigt, dass viele Menschen glauben, dass KI-Lösungen im Hinblick auf den Datenschutz verbessert werden können.

Ebenso verpflichtet das Gesetz des Senats (SB) 896, auch Gesetz zur Verantwortlichkeit generativer KI genannt, das Amt für Notfalldienste Kaliforniens (CalOES), Risikoanalysen zu potenziellen Bedrohungen durch Systeme mit generativer KI durchzuführen. CalOES wird mit führenden KI-Unternehmen wie OpenAI und Anthropic zusammenarbeiten, um potenzielle Bedrohungen der kritischen Infrastruktur des Bundesstaates durch KI zu erörtern und zu analysieren.

Einführung und Regulierung von KI an Bildungseinrichtungen#

Wir haben bereits untersucht, wie KI im Bildungswesen Lernerfahrungen personalisieren, Lehrmethoden neu definieren, Echtzeit-Feedback liefern und Lehrkräfte mit fortschrittlichen Werkzeugen und Erkenntnissen unterstützen kann. Tatsächlich können KI-Innovationen eine effektivere und ansprechendere Lernumgebung für Schüler schaffen. Pädagogen und Lehrkräfte auf der ganzen Welt setzen KI zunehmend ein; erfolgreiche Pilotprojekte und breitere Implementierungen sind bereits im Gange. Studien zeigen, dass mehr als 50 % der Lehrkräfte der Meinung sind, dass sich KI im Klassenraum positiv auf den Lehr- und Lernprozess ausgewirkt hat.

Abb. 3. Umfrage zur Einschätzung von Lehrkräften zur Nutzung von KI an Schulen.

Kalifornien hat zwei Gesetze zur Nutzung von KI an Bildungseinrichtungen eingeführt. AB 2876 verpflichtet den kalifornischen Bildungsausschuss, KI-Kompetenz (nach dem 1. Januar 2025) in seinen Lehrplanrahmen und Unterrichtsmaterialien für Mathematik, Naturwissenschaften und Geschichte zu berücksichtigen. Ziel dieses Gesetzes ist es, sicherzustellen, dass Kaliforniens Schulen Schülern die Grundlagen von Funktionsweisen künstlicher Intelligenz sowie die Grenzen, Auswirkungen und ethischen Erwägungen bei der Nutzung dieser Technologie vermitteln.

Darüber hinaus verpflichtet [SB 1288](https://ultralytics-translation-0.invalid die Schulbezirksleiter in Kalifornien, spätestens am 1. Januar 2026 Arbeitsgruppen einzurichten, um die Nutzung von KI an öffentlichen Schulen zu untersuchen. Diese Arbeitsgruppen müssen ihre Ergebnisse und Empfehlungen bis zum 1. Januar 2027 den zuständigen politischen und finanziellen Ausschüssen des Parlaments vorlegen. Nach Einreichung des Berichts wird die Arbeitsgruppe aufgelöst, und die Bestimmungen treten am 1. Januar 2031 außer Kraft.

Vorschriften für generative KI im Gesundheitswesen#

Generative KI verbessert das Gesundheitswesen, indem sie Innovationen zur Entdeckung neuer Medikamente, Diagnose von Krankheiten, Planung von Behandlungen und medizinische Chatbots ermöglicht. Diese Anwendungen können durch Echtzeitüberwachung, Beratung und Unterstützung dazu beitragen, Behandlungsergebnisse zu verbessern. Andere KI-Technologien wie erweiterte Realität (AR) können ebenfalls zur Planung und Simulation chirurgischer Eingriffe eingesetzt werden.

Abb. 4 Anwendungsfälle generativer KI im Gesundheitswesen.

Die Integration generativer KI in das Gesundheitswesen bringt bestimmte Vorbehalte im Zusammenhang mit Datenschutz und Regulierung mit sich. Es ist entscheidend, die Genauigkeit, Zuverlässigkeit und Fairness der von KI erzeugten Ergebnisse zu priorisieren und gleichzeitig die Vertraulichkeit von Gesundheitsinformationen zu schützen.

Um diese Herausforderungen zu bewältigen, hat Kalifornien zwei Gesetze zur Nutzung generativer KI im Gesundheitswesen verabschiedet. AB 3030 verpflichtet Gesundheitsdienstleister offenzulegen, wenn sie generative KI zur Kommunikation mit einem Patienten einsetzen, insbesondere wenn diese Nachrichten klinische Informationen des Patienten enthalten. SB 1120 schränkt ein, wie Anbieter von Gesundheitsdiensten und Krankenversicherer ihre Leistungen automatisieren dürfen. Diese neuen Gesetze stellen außerdem sicher, dass zugelassene Ärzte die Nutzung von KI-Werkzeugen in diesen Bereichen überwachen.

Kaliforniens regulatorische Rahmenbedingungen für Deepfakes#

Der Bundesstaat Kalifornien hat außerdem Gesetze verabschiedet, die den Einsatz von KI zur Verbreitung irreführender oder ungenauer Informationen eindämmen sollen. SB 942 verpflichtet verbreitete Systeme mit generativer KI, in ihren Quelldaten deutlich anzugeben, dass die Inhalte von KI erstellt wurden. Viele KI-Unternehmen tun dies bereits, und verschiedene kostenlose Werkzeuge wie ZeroGPT, Winston AI und GLTR können Menschen dabei helfen, diese Quelldaten zu lesen und von KI erzeugte Inhalte zu erkennen.

In Kalifornien wurden drei neue Gesetze (AB 1831, SB 926, SB 981) verabschiedet, um Probleme im Zusammenhang mit Deepfakes anzugehen. Diese Gesetze erweitern bestehende Schutzmaßnahmen, stellen den Missbrauch von durch KI erzeugten Inhalten unter Strafe und verpflichten Social-Media-Plattformen, Meldewege für Deepfake-Inhalte einzurichten. Die Gesetze sollen bis Januar 2025 umgesetzt werden.

Kaliforniens KI-Gesetze zur Definition von KI und ihrer Nutzung im Film#

Eines der als Gesetz verabschiedeten Vorhaben konzentrierte sich auf eine eindeutige Definition von KI. AB 2885 legt fest, dass KI als „ein technisches oder auf Maschinen basierendes System definiert ist, dessen Grad an Autonomie variiert und das aus den empfangenen Eingaben für explizite oder implizite Ziele ableiten kann, wie es Ausgaben erzeugt, die physische oder virtuelle Umgebungen beeinflussen können“.

Für die Unterhaltungsbranche wurden außerdem zwei interessante Gesetze erlassen. Die größte Gewerkschaft der Film- und Fernsehschauspieler in den USA (SAG-AFTRA) spielte eine entscheidende Rolle bei der Durchsetzung dieser Gesetze. AB 2602 verpflichtet Filmstudios, die Erlaubnis eines Schauspielers einzuholen, bevor sie mithilfe von KI eine Nachbildung seiner Stimme und seines Aussehens erstellen. AB 1836 verbietet Studios hingegen, ohne Zustimmung des Nachlasses digitale Nachbildungen verstorbener Darsteller zu erstellen (ähnlich wie Peter Cushings Figur in Star Wars: Rogue One).

Abb. 5. Die Figur Grand Moff Tarkin wurde mithilfe des Aussehens des verstorbenen Schauspielers Peter Cushing erstellt.

Der ausschlaggebende Grund für Kaliforniens KI-Gesetze#

Während wir die einzelnen Gesetze betrachtet haben, hast du dich vielleicht gefragt, warum sie wirklich notwendig sind. KI-Regulierungen sind schon seit einiger Zeit ein viel diskutiertes Thema, haben aber mit dem Aufkommen von Deepfake-Inhalten, die verschiedene Bereiche wie Medien und Politik beeinflusst haben, deutlich an Dynamik gewonnen. Die Verwendung von durch KI erzeugten Inhalten im Internet hat beispielsweise Bedenken hinsichtlich Fehlinformationen und ihrer möglichen Auswirkungen auf Wahlergebnisse ausgelöst. Auch die Sorgen über den Datenschutz und den Missbrauch personenbezogener Daten durch KI-Innovationen nehmen zu. Diese Probleme haben dazu beigetragen, dass nun mehrere neue Gesetze zu ihrer Bewältigung in Kraft sind.

Beispielsweise verpflichtet AB 2905 automatische Anrufe offenzulegen, ob es sich um durch KI erzeugte Stimmen handelt. Außerdem fordert AB 2655 große Online-Plattformen wie Facebook und X auf, Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen und Meldewege für solche Inhalte einzurichten. Kandidaten und gewählte Amtsträger können außerdem eine einstweilige Verfügung beantragen, wenn Plattformen die Vorgaben nicht einhalten.

Ein weiteres Gesetz, AB 2839, richtet sich gegen Nutzer sozialer Medien, die Deepfakes veröffentlichen oder erneut veröffentlichen, die Wähler in die Irre führen könnten. Ebenso schreibt AB 2355 klare Kennzeichnungen für politische Anzeigen vor, die mithilfe von KI-Werkzeugen erstellt wurden.

Die wichtigsten Erkenntnisse aus Kaliforniens neuen KI-Gesetzen#

Kaliforniens neue KI-Gesetze spiegeln das wachsende Engagement wider, Innovation und Verantwortlichkeit miteinander in Einklang zu bringen. Indem sie zentrale Bedenken in Bereichen wie Datentransparenz, Datenschutz, Deepfakes sowie der Nutzung von KI im Gesundheitswesen und in der Bildung aufgreifen, sollen diese Gesetze Einzelpersonen und die Gesellschaft schützen und zugleich eine verantwortungsvolle KI-Entwicklung fördern. Während sich KI weiterentwickelt, werden diese Vorschriften dazu beitragen, sicherzustellen, dass ihr Wachstum von ethischen Verfahren und öffentlichem Vertrauen begleitet wird. Diese Gesetze könnten auch andere Regionen weltweit dazu ermutigen, diesem Beispiel zu folgen.

Weitere Informationen findest du in unserem GitHub-Repository und in unserer Community. Entdecke auf unseren Lösungsseiten KI-Anwendungen in den Bereichen Fertigung und Landwirtschaft. 🚀