Die neuen KI-Vorschriften in Kalifornien: Ein Fokus auf ethische KI

Von self-driving cars bis hin zu healthcare spielen Innovationen im Bereich der künstlichen Intelligenz (KI) und Technologieunternehmen der nächsten Generation eine entscheidende Rolle bei der Neugestaltung unseres daily lives. Folglich belief sich die globale market size of AI im Jahr 2023 auf 196,63 Milliarden US-Dollar und wird voraussichtlich von 2024 bis 2030 jährlich um durchschnittlich 36 % wachsen. Diese Zahlen verdeutlichen, wie schnell KI wächst.

Einerseits schafft die rasante Entwicklung der KI solutions für verschiedene Probleme in unterschiedlichen Branchen. Andererseits macht diese Geschwindigkeit die Notwendigkeit einer responsible AI-Entwicklung deutlich, um sicherzustellen, dass Verbesserungen ethical und vorteilhaft für die Gesellschaft sind.

Beispielsweise brachte Microsoft im Jahr 2016 den Chatbot Tay auf X (früher Twitter) heraus. Er wurde entwickelt, um aus Gesprächen mit Benutzern zu lernen. Kurz nach seiner Veröffentlichung begann Tay jedoch, Antworten mit unprofessioneller Sprache zu generieren, da er verschiedene Interaktionen aufnahm. Microsoft nahm den Bot zwar schnell offline, aber dies ist ein gutes Beispiel dafür, wie wichtig es ist sicherzustellen, dass die für das AI training verwendete Datenbasis zuverlässig ist und dass die Öffentlichkeit weiß, wie Unternehmen solche data für KI-Produkte nutzen.

Fig 1. Der Twitter-Chatbot von Microsoft, Tay.

Um dieses Anliegen anzugehen, unterzeichnete der Gouverneur von Kalifornien, Gavin Newsom, diesen September über ein Dutzend AI-related bills als Gesetz. Diese Gesetze befassen sich mit allem, von der Offenlegung von Details zu training data bis hin zum Umgang mit deepfakes. In diesem Artikel werfen wir einen Blick auf Kaliforniens KI-Gesetze und was sie bedeuten. Legen wir los!

Kalifornische KI-Gesetzgebung 2024: Sicherstellung der Verantwortlichkeit#

Drei wichtige Gesetze wurden verabschiedet, um sicherzustellen, dass die AI development sicherer und zuverlässiger wird. Die Assembly Bill (AB) 2013, die 2026 in Kraft tritt, verpflichtet Anbieter von generative AI, Details zu ihren training datasets zu veröffentlichen. Zu diesen Details gehören die sources of the datasets, Angaben zur Verwendung der Daten, die Anzahl der Datenpunkte im Set, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, der Zeitraum der Datenerhebung usw. Die Weitergabe dieser Informationen wird KI-Häusern helfen, das Vertrauen der Öffentlichkeit zu stärken.

Ein weiteres wichtiges Gesetz, das unterzeichnet wurde, war AB 1008. Es dehnt Kaliforniens bestehende Datenschutzgesetze auf generative AI solutions aus. AB 1008 wurde eingeführt, um Bedenken ausräumend das Vertrauen der Öffentlichkeit in den Umgang von KI-Systemen mit personenbezogenen Daten zu stärken. Einer Umfrage zufolge sind über 81% of consumers besorgt, dass AI companies ihre Informationen auf unerwartete Weise nutzen könnten. Durch klare Grenzen für die Nutzung und den Profit von persönlichen Daten wie Namen, Adressen und biometric data durch businesses hilft dieses Gesetz KI-Unternehmen dabei, Benutzern zu versichern, dass ihre Daten verantwortungsvoll behandelt werden, selbst wenn sie von einem KI-System offengelegt werden.

Fig 2. Eine Infografik, die zeigt, dass viele Menschen glauben, dass KI-Lösungen im Hinblick auf den Datenschutz verbessert werden können.

Ebenso verlangt die Senate Bill (SB) 896, auch bekannt als der Generative AI Accountability Act, vom California’s Office of Emergency Services (CalOES) Risikoanalysen bezüglich potenzieller Bedrohungen durch generative AI systems. CalOES wird mit wegweisenden KI-Unternehmen wie OpenAI und Anthropic zusammenarbeiten, um potenzielle KI-Bedrohungen für die kritische Infrastruktur des Bundesstaates zu diskutieren und zu analysieren.

KI-Einführung und Regulierung an Bildungseinrichtungen#

Wir haben bereits untersucht, wie AI in education Lernerlebnisse personalisieren, Lehrmethoden neu definieren, Echtzeit-Feedback geben und Pädagogen mit fortschrittlichen Tools und Einblicken unterstützen kann. Tatsächlich können KI-Innovationen eine effektivere und engaging studying environment für Schüler schaffen. Pädagogen und Lehrer auf der ganzen Welt nutzen KI regelmäßiger, wobei erfolgreiche Pilotprojekte und breitere Implementierungen im Gange sind. Studien zeigen, dass mehr als 50 % der Lehrer der Meinung sind, dass AI in classrooms den Lehr- und Lernprozess positiv beeinflusst hat.

Fig 3. Umfrage dazu, wie Lehrer über den Einsatz von KI in Schulen denken.

Kalifornien hat zwei Gesetze zum Einsatz von AI in educational institutions eingeführt. AB 2876 verpflichtet den kalifornischen State Board of Education, (nach dem 1. Januar 2025) die KI-Kompetenz in seine Lehrpläne und Lehrmaterialien für math, science und history einzubeziehen. Ziel dieses Gesetzes ist es sicherzustellen, dass kalifornische Schulen den Schülern die Grundlagen von how artificial intelligence works sowie die Grenzen, impacts und ethical considerations der Nutzung dieser Technologie vermitteln.

Zusätzlich verlangt SB 1288, dass kalifornische Schulräte Arbeitsgruppen bilden (am oder vor dem 1. Januar 2026), um zu untersuchen, wie KI an öffentlichen Schulen eingesetzt wird. Diese Arbeitsgruppen müssen ihre Ergebnisse und Empfehlungen bis zum 1. Januar 2027 den zuständigen Politik- und Haushaltsausschüssen der Legislaturperiode vorlegen. Nach Einreichung des Berichts wird die Arbeitsgruppe aufgelöst und die Bestimmungen treten am 1. Januar 2031 außer Kraft.

Regulierungen im Bereich der generativen KI im Gesundheitswesen#

Generative KI verbessert die healthcare-Branche, indem sie Innovationen für das discovering new drugs, diagnosing diseases, planning treatments und medizinische Chatbots ermöglicht. Diese Anwendungen können Vorteile wie Echtzeitüberwachung, Beratung und Unterstützung bieten, um improve patient outcomes. Andere KI-Technologien wie augmented reality (AR) können auch zur Planung und Simulation chirurgischer Eingriffe eingesetzt werden.

Fig 4. Anwendungsfälle generativer KI im Gesundheitswesen.

Die Integration generativer KI in das Gesundheitswesen bringt gewisse Vorbehalte in Bezug auf Datenschutz und Regulierung mit sich. Es ist entscheidend, die Genauigkeit, Zuverlässigkeit und Fairness der von KI generierten Ergebnisse zu priorisieren und gleichzeitig den Schutz von Gesundheitsinformationen zu gewährleisten.

Um diesen Herausforderungen zu begegnen, hat Kalifornien zwei Gesetze zum Einsatz generativer KI im Gesundheitswesen verabschiedet. AB 3030 fordert Gesundheitsdienstleister auf offenzulegen, wann sie generative KI für die Kommunikation mit Patienten verwenden, insbesondere wenn diese Nachrichten klinische Informationen des Patienten enthalten. SB 1120 schränkt ein, wie Gesundheitsdienstleister und Krankenversicherer ihre Dienste automatisieren dürfen. Diese neuen Gesetze stellen zudem sicher, dass approbierte Ärzte den Einsatz von KI-Tools in diesen Umgebungen überwachen.

Kaliforniens KI-Regulierungsrahmen für Deepfakes#

Der Bundesstaat Kalifornien hat zudem Gesetze erlassen, die den Einsatz von KI zur Verbreitung irreführender oder ungenauer Informationen eindämmen sollen. SB 942 verlangt von beliebten generativen KI-Systemen, in ihren Quelldaten deutlich zu kennzeichnen, dass der Inhalt von KI erstellt wurde. Viele KI-Unternehmen tun dies bereits, und mehrere kostenlose Tools (ZeroGPT, Winston AI, GLTR usw.) helfen Menschen dabei, diese Quelldaten zu lesen und von KI generierte Inhalte zu erkennen.

Drei neue Gesetze (AB 1831, SB 926, SB 981) wurden in Kalifornien verabschiedet, um Probleme im Zusammenhang mit Deepfakes anzugehen. Diese Gesetze weiten bestehende Schutzmaßnahmen aus, stellen den Missbrauch von durch KI generierten Inhalten unter Strafe und verpflichten Social-Media-Plattformen zur Einrichtung von Meldepunkten für Deepfake-Inhalte. Die Gesetze sollen ab Januar 2025 umgesetzt werden.

Kaliforniens KI-Gesetze zur Definition von KI und deren Verwendung im Film#

Eines der Gesetze, die verabschiedet wurden, konzentrierte sich darauf, eine adäquate Definition für KI zu geben. AB 2885 besagt, dass KI definiert ist als „ein entwickeltes oder maschinenbasiertes System, das in seinem Autonomieniveau variiert und für explizite oder implizite Ziele aus den erhaltenen Eingaben ableiten kann, wie es Ausgaben generiert, die physische oder virtuelle Umgebungen beeinflussen können“.

Es wurden auch zwei interessante Gesetze für die Unterhaltungsindustrie erlassen. Amerikas größte Schauspielervereinigung für Film und Rundfunk (SAG-AFTRA) spielte eine entscheidende Rolle dabei, diese Gesetze in Kraft zu setzen. AB 2602 verlangt von Filmstudios, die Erlaubnis eines Schauspielers einzuholen, bevor sie KI verwenden, um eine Replik seiner Stimme und seines Äußeren zu erstellen. Unterdessen verbietet AB 1836 Studios, digitale Duplikate verstorbener Darsteller (ähnlich wie Peter Cushings Charakter in Star Wars: Rogue One) ohne Zustimmung ihrer Nachlassverwalter zu erstellen.

Fig 5. Die Figur Grand Moff Tarkin wurde unter Verwendung des Äußeren des verstorbenen Schauspielers Peter Cushing erstellt.

Der treibende Faktor hinter Kaliforniens KI-Gesetzen#

Als wir einen Einblick in diese Gesetze erhielten, haben Sie sich vielleicht gefragt, warum sie wirklich benötigt werden. KI-Regulierungen sind schon seit einiger Zeit ein beliebtes Diskussionsthema, haben jedoch mit dem Aufkommen von Deepfake-Inhalten massiv an Fahrt gewonnen, was verschiedene Bereiche wie media and politics betrifft. Der Einsatz von KI-generierten Inhalten im Internet hat Bedenken hinsichtlich Fehlinformationen und deren potenziellem impact on election outcomes geweckt. Darüber hinaus wachsen die Befürchtungen hinsichtlich des Datenschutzes und des Missbrauchs persönlicher Daten durch KI-Innovationen. Diese Themen trugen dazu bei, dass nun mehrere neue Gesetze erlassen wurden, um diese Probleme anzugehen.

Beispielsweise erzwingt AB 2905, dass Robocalls offenlegen müssen, ob es sich um KI-generierte Stimmen handelt. Darüber hinaus fordert AB 2655 große Online-Plattformen wie Facebook und X auf, Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen und Meldewege für solche Inhalte einzurichten. Kandidaten und Amtsträger können außerdem gerichtlichen Rechtsschutz beantragen, wenn Plattformen dies nicht einhalten.

Ein weiteres Gesetz, AB 2839, richtet sich an Social-Media-Nutzer, die Deepfakes posten oder reposten, die Wähler in Irrtum führen könnten. Ebenso schreibt AB 2355 klare Offenlegungen für politische Werbung vor, die mit KI-Tools erstellt wurde.

Wichtige Erkenntnisse aus Kaliforniens neuen KI-Gesetzen#

Kaliforniens neue KI-Gesetze spiegeln ein wachsendes Engagement wider, Innovation mit Verantwortlichkeit in Einklang zu bringen. Durch die Adressierung zentraler Bedenken in Bereichen wie Datentransparenz, Datenschutz, Deepfakes und dem Einsatz von KI im Gesundheits- und Bildungswesen zielen diese Gesetze darauf ab, Individuen und die Gesellschaft zu schützen und gleichzeitig eine verantwortungsvolle KI-Entwicklung zu fördern. Während KI sich weiterentwickelt, werden diese Regulierungen dazu beitragen, sicherzustellen, dass ihr Wachstum von ethischen Praktiken und öffentlichem Vertrauen begleitet wird. Diese Gesetze könnten auch andere Regionen auf der ganzen Welt dazu ermutigen, diesem Beispiel zu folgen.

Um mehr zu erfahren, besuche unser GitHub-Repository und tausche dich mit unserer Community aus. Entdecke KI-Anwendungen in der Fertigung und in der Landwirtschaft auf unseren Lösungsseiten. 🚀