Die neuen KI-Vorschriften in Kalifornien: Ein Fokus auf ethische KI

Von selbstfahrenden Autos bis hin zum Gesundheitswesen beginnen Innovationen der Künstlichen Intelligenz (KI) und Tech-Unternehmen der nächsten Generation eine Schlüsselrolle bei der Neugestaltung unseres täglichen Lebens zu spielen. Folglich lag die globale Marktgröße von KI im Jahr 2023 bei 196,63 Milliarden Dollar und wird voraussichtlich von 2024 bis 2030 um durchschnittlich 36 % jährlich wachsen. Diese Zahlen verdeutlichen, wie schnell KI wächst.

Einerseits schafft die schnelle Entwicklung der KI Lösungen für verschiedene Probleme in unterschiedlichen Branchen. Andererseits macht diese Geschwindigkeit die Notwendigkeit einer verantwortungsvollen KI-Entwicklung deutlich, um sicherzustellen, dass Verbesserungen ethisch und vorteilhaft für die Gesellschaft sind.

Microsoft hat beispielsweise 2016 einen Chatbot namens Tay auf X (ehemals Twitter) gestartet. Er wurde entwickelt, um aus Unterhaltungen mit Nutzern zu lernen. Kurz nach der Veröffentlichung begann Tay jedoch, unprofessionelle Antworten zu generieren, da er eine Reihe von Interaktionen aufgriff. Obwohl Microsoft den Bot schnell offline nahm, ist dies ein gutes Beispiel dafür, wie wichtig es ist, sicherzustellen, dass die für das AI training verwendeten Daten zuverlässig sind und die Öffentlichkeit darüber informiert wird, wie Unternehmen solche Daten für KI-Produkte verwenden.

Abb. 1. Microsofts Twitter-Chatbot, Tay.

Um dieses Anliegen anzugehen, unterzeichnete Kaliforniens Gouverneur Gavin Newsom im September mehr als ein Dutzend KI-bezogener Gesetze. Diese Gesetze behandeln alles, von der Offenlegung von Details zu Trainingsdaten bis hin zum Umgang mit Deepfakes. In diesem Artikel untersuchen wir Kaliforniens KI-Gesetze und was sie bedeuten. Fangen wir an!

Link to this sectionKalifornische KI-Gesetzgebung 2024: Sicherstellung der Verantwortlichkeit#

Drei wichtige Gesetzesentwürfe wurden unterzeichnet, um die KI-Entwicklung sicherer und zuverlässiger zu machen. Der Assembly Bill (AB) 2013, der 2026 in Kraft tritt, verpflichtet Anbieter von generativer KI, Details zu ihren Trainingsdatensätzen zu veröffentlichen. Zu diesen Details gehören die Quellen der Datensätze, Angaben zur Datennutzung, die Anzahl der Datenpunkte im Set, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, der Zeitraum der Datenerhebung usw. Das Teilen dieser Informationen wird KI-Unternehmen helfen, Vertrauen in der Öffentlichkeit aufzubauen.

Ein weiterer wichtiger Gesetzesentwurf, der unterzeichnet wurde, ist AB 1008. Er weitet Kaliforniens bestehende Datenschutzgesetze auf generative KI-Lösungen aus. AB 1008 wurde eingeführt, um Bedenken auszuräumen und das Vertrauen der Öffentlichkeit darin zu verbessern, wie KI-Systeme mit persönlichen Informationen umgehen. Eine Umfrage ergab, dass über 81 % der Verbraucher besorgt sind, dass KI-Unternehmen ihre Informationen auf eine Weise verwenden könnten, die sie nicht beabsichtigt hatten. Indem klare Grenzen gesetzt werden, wie Unternehmen persönliche Informationen wie Namen, Adressen und biometrische Daten nutzen und daraus Profit schlagen können, hilft dieses Gesetz KI-Unternehmen, Nutzer zu beruhigen, dass ihre Daten verantwortungsbewusst behandelt werden, selbst wenn sie einem KI-System ausgesetzt sind.

Abb. 2. Eine Infografik, die zeigt, dass viele Menschen glauben, KI-Lösungen könnten in Bezug auf den Datenschutz verbessert werden.

Ähnlich verlangt der Senate Bill (SB) 896, auch bekannt als Generative AI Accountability Act, von Kaliforniens Office of Emergency Services (CalOES), Risikoanalysen zu potenziellen Bedrohungen durch generative KI-Systeme durchzuführen. CalOES wird mit führenden KI-Firmen wie OpenAI und Anthropic zusammenarbeiten, um potenzielle Bedrohungen der KI für die kritische Infrastruktur des Staates zu diskutieren und zu analysieren.

Link to this sectionKI-Einführung und Regulierung an Bildungseinrichtungen#

Wir haben bereits untersucht, wie KI in der Bildung Lernerfahrungen personalisieren, Lehrmethoden neu definieren, Echtzeit-Feedback bieten und Pädagogen mit fortschrittlichen Werkzeugen und Erkenntnissen unterstützen kann. Tatsächlich können KI-Innovationen eine effektivere und anregendere Lernumgebung für Studierende schaffen. Pädagogen und Lehrer auf der ganzen Welt nutzen KI regelmäßiger, wobei erfolgreiche Pilotprojekte und breitere Implementierungen im Gange sind. Studien zeigen, dass mehr als 50 % der Lehrer das Gefühl haben, dass KI in Klassenzimmern den Lehr- und Lernprozess positiv beeinflusst hat.

Abb. 3. Umfrage zur Einstellung von Lehrern zur Nutzung von KI an Schulen.

Kalifornien hat zwei Gesetze bezüglich der Nutzung von KI in Bildungseinrichtungen eingeführt. AB 2876 verpflichtet Kaliforniens State Board of Education, KI-Alphabetisierung (nach dem 1. Januar 2025) in seine Rahmenlehrpläne für Mathematik, Wissenschaft und Geschichte sowie in Lehrmaterialien aufzunehmen. Ziel dieses Gesetzes ist es, sicherzustellen, dass Kaliforniens Schulen Schülern die Grundlagen der Funktionsweise künstlicher Intelligenz sowie die Einschränkungen, Auswirkungen und ethischen Überlegungen bei der Nutzung der Technologie vermitteln.

Darüber hinaus verpflichtet SB 1288 kalifornische Superintendenten dazu, (am oder vor dem 1. Januar 2026) Arbeitsgruppen zu bilden, die untersuchen, wie KI an öffentlichen Schulen eingesetzt wird. Diese Arbeitsgruppen müssen ihre Ergebnisse und Empfehlungen bis zum 1. Januar 2027 den zuständigen Politik- und Finanzausschüssen der Legislative vorlegen. Nachdem der Bericht eingereicht wurde, wird die Arbeitsgruppe aufgelöst und die Bestimmungen werden am 1. Januar 2031 aufgehoben.

Link to this sectionRegulierungen im Bereich der generativen KI im Gesundheitswesen#

Generative KI verbessert das Gesundheitswesen, indem sie Innovationen für die Entdeckung neuer Medikamente, Krankheitsdiagnosen, Behandlungsplanung und medizinische Chatbots ermöglicht. Diese Anwendungen können Vorteile wie Echtzeit-Überwachung, Beratung und Unterstützung bieten, um Patientenergebnisse zu verbessern. Andere KI-Technologien wie Augmented Reality (AR) können ebenfalls genutzt werden, um chirurgische Eingriffe zu planen und zu simulieren.

Abb. 4. Anwendungsfälle generativer KI im Gesundheitswesen.

Die Integration generativer KI in das Gesundheitswesen bringt gewisse Vorbehalte in Bezug auf Datenschutz und Regulierung mit sich. Es ist entscheidend, die Genauigkeit, Zuverlässigkeit und Fairness der von KI generierten Ergebnisse zu priorisieren und gleichzeitig den Schutz von Gesundheitsinformationen zu gewährleisten.

Um diese Herausforderungen anzugehen, hat Kalifornien zwei Gesetze zur Nutzung generativer KI im Gesundheitswesen verabschiedet. AB 3030 fordert von Gesundheitsdienstleistern die Offenlegung, wenn sie generative KI zur Kommunikation mit einem Patienten verwenden, insbesondere wenn diese Nachrichten klinische Informationen des Patienten enthalten. SB 1120 beschränkt die Art und Weise, wie Gesundheitsdienstleister und Krankenversicherer ihre Dienste automatisieren können. Diese neuen Gesetze stellen auch sicher, dass lizenzierte Ärzte den Einsatz von KI-Tools in diesen Umgebungen überwachen.

Link to this sectionKaliforniens KI-Regulierungsrahmen für Deepfakes#

Der Staat Kalifornien hat zudem Gesetze verabschiedet, die den Einsatz von KI zur Verbreitung irreführender oder ungenauer Informationen einschränken sollen. SB 942 verpflichtet beliebte generative KI-Systeme dazu, in ihren Quelldaten klar anzugeben, dass der Inhalt von einer KI erstellt wurde. Viele KI-Unternehmen tun dies bereits, und mehrere kostenlose Tools (ZeroGPT, Winston AI, GLTR usw.) können Menschen dabei helfen, diese Quelldaten zu lesen und KI-generierte Inhalte zu erkennen.

Drei neue Gesetze (AB 1831, SB 926, SB 981) wurden in Kalifornien verabschiedet, um Probleme im Zusammenhang mit Deepfakes anzugehen. Diese Gesetze erweitern bestehende Schutzmaßnahmen, stellen den Missbrauch von KI-generierten Inhalten unter Strafe und verpflichten Social-Media-Plattformen zur Schaffung von Meldekanälen für Deepfake-Inhalte. Die Gesetze sollen bis Januar 2025 umgesetzt werden.

Link to this sectionKaliforniens KI-Gesetze zur Definition von KI und deren Verwendung im Film#

Eines der Gesetze, die verabschiedet wurden, konzentriert sich darauf, KI eine ordnungsgemäße Definition zu geben. AB 2885 besagt, dass KI definiert wird als „ein technisch oder maschinenbasiertes System, das in seinem Grad an Autonomie variiert und das für explizite oder implizite Ziele aus den empfangenen Eingaben ableiten kann, wie Ausgaben generiert werden, die physische oder virtuelle Umgebungen beeinflussen können.“

Es wurden auch zwei interessante Gesetze für die Unterhaltungsindustrie eingeführt. Amerikas größte Gewerkschaft für Film- und Rundfunkschauspieler (SAG-AFTRA) spielte eine entscheidende Rolle dabei, diese Gesetze in Kraft zu bringen. AB 2602 erfordert von Filmstudios, die Erlaubnis eines Schauspielers einzuholen, bevor KI verwendet wird, um eine Nachbildung seiner Stimme und seines Erscheinungsbildes zu erstellen. Unterdessen verbietet AB 1836 Studios die Erstellung digitaler Repliken verstorbener Schauspieler (ähnlich wie die Figur von Peter Cushing in Star Wars: Rogue One) ohne Zustimmung ihrer Nachlassverwalter.

Abb. 5. Die Figur Grand Moff Tarkin wurde unter Verwendung des Erscheinungsbildes des verstorbenen Schauspielers Peter Cushing erstellt.

Link to this sectionDer treibende Faktor hinter Kaliforniens KI-Gesetzen#

Da wir Einblicke in jedes dieser Gesetze gewonnen haben, hast du dich vielleicht gefragt, warum sie wirklich benötigt werden. KI-Regulierungen sind schon seit einiger Zeit ein beliebtes Diskussionsthema, aber sie haben mit dem Aufstieg von Deepfake-Inhalten, die verschiedene Bereiche einschließlich Medien und Politik beeinflusst haben, deutlich an Dynamik gewonnen. Die Nutzung von KI-generierten Inhalten online hat beispielsweise Bedenken hinsichtlich Fehlinformationen und ihrer potenziellen Auswirkungen auf Wahlergebnisse geweckt. Es gibt auch wachsende Befürchtungen hinsichtlich des Datenschutzes und des Missbrauchs persönlicher Daten durch KI-Innovationen. Diese Themen waren ein Faktor dafür, dass nun mehrere neue Gesetze in Kraft sind, um diese Probleme anzugehen.

Zum Beispiel verpflichtet AB 2905 Robocalls dazu, offenzulegen, ob es sich um KI-generierte Stimmen handelt. Darüber hinaus fordert AB 2655 große Online-Plattformen wie Facebook und X auf, Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen und Meldekanäle für solche Inhalte einzurichten. Kandidaten und gewählte Beamte können auch einstweilige Verfügungen beantragen, wenn Plattformen dies nicht einhalten.

Ein weiteres Gesetz, AB 2839, zielt auf Social-Media-Nutzer ab, die Deepfakes posten oder erneut posten, die Wähler irreführen könnten. Ähnlich legt AB 2355 klare Offenlegungspflichten für politische Anzeigen fest, die mit KI-Tools erstellt wurden.

Link to this sectionWichtige Erkenntnisse aus Kaliforniens neuen KI-Gesetzen#

Kaliforniens neue KI-Gesetze spiegeln ein wachsendes Engagement wider, Innovation mit Verantwortlichkeit in Einklang zu bringen. Durch die Adressierung zentraler Bedenken in Bereichen wie Datentransparenz, Datenschutz, Deepfakes und dem Einsatz von KI im Gesundheits- und Bildungswesen zielen diese Gesetze darauf ab, Individuen und die Gesellschaft zu schützen und gleichzeitig eine verantwortungsvolle KI-Entwicklung zu fördern. Während KI sich weiterentwickelt, werden diese Regulierungen dazu beitragen, sicherzustellen, dass ihr Wachstum von ethischen Praktiken und öffentlichem Vertrauen begleitet wird. Diese Gesetze könnten auch andere Regionen auf der ganzen Welt dazu ermutigen, diesem Beispiel zu folgen.

Um mehr zu erfahren, besuche unser GitHub-Repository und engagiere dich in unserer Community. Erkunde KI-Anwendungen in den Bereichen Fertigung und Landwirtschaft auf unseren Lösungsseiten. 🚀