10. Oktober 2024
Erfahren Sie, wie die neuen kalifornischen KI-Gesetze Innovation und Verantwortlichkeit in Einklang bringen und Datenschutz, Deepfakes, Gesundheitswesen, Bildung und Sicherheit abdecken.
Von selbstfahrenden Autos bis hin zur Gesundheitsfürsorge- Innovationen im Bereich der künstlichen Intelligenz (KI) und Technologieunternehmen der nächsten Generation beginnen, eine Schlüsselrolle bei der Umgestaltung unseres Alltagslebens zu spielen. Folglich belief sich das weltweite Marktvolumen für KI im Jahr 2023 auf 196,63 Mrd. USD und wird voraussichtlich von 2024 bis 2030 jährlich um durchschnittlich 36 % wachsen. Diese Zahlen zeigen, wie schnell die KI wächst.
Einerseits schafft die rasante Entwicklung der KI Lösungen für verschiedene Probleme in unterschiedlichen Branchen. Andererseits macht diese Geschwindigkeit die Notwendigkeit einer verantwortungsvollen KI-Entwicklung deutlich, um sicherzustellen, dass die Verbesserungen ethisch vertretbar und für die Gesellschaft von Nutzen sind.
So hat Microsoft 2016 auf X (ehemals Twitter) einen Chatbot namens Tay eingeführt. Er sollte aus Unterhaltungen mit Nutzern lernen. Kurz nach seiner Veröffentlichung begann Tay jedoch, Antworten mit unprofessioneller Sprache zu generieren, als er eine Reihe von Interaktionen aufgriff. Auch wenn Microsoft den Bot schnell wieder vom Netz nahm, ist dies ein gutes Beispiel dafür, wie wichtig es ist, sicherzustellen, dass die für das KI-Training verwendeten Daten zuverlässig sind und dass die Öffentlichkeit weiß, wie Unternehmen solche Daten für KI-Produkte nutzen.
Um dieser Sorge Rechnung zu tragen, hat der kalifornische Gouverneur Gavin Newsom im September dieses Jahres mehr als ein Dutzend KI-bezogene Gesetze unterzeichnet. Diese Gesetze betreffen alles, von der Offenlegung von Details zu Trainingsdaten bis hin zum Umgang mit Deepfakes. In diesem Artikel befassen wir uns mit den kalifornischen KI-Gesetzen und den damit verbundenen Auswirkungen. Fangen wir an!
Drei wichtige Gesetze wurden unterzeichnet, um die KI-Entwicklung sicherer und zuverlässiger zu machen. Die Assembly Bill (AB) 2013, die 2026 in Kraft tritt, verlangt von Anbietern generativer KI, Details zu ihren Trainingsdatensätzen zu veröffentlichen. Dazu gehören die Quellen der Datensätze, Angaben zur Verwendung der Daten, die Anzahl der Datenpunkte im Satz, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, der Zeitraum, in dem die Daten gesammelt wurden, usw. Die Weitergabe dieser Informationen wird den KI-Unternehmen helfen, das Vertrauen der Öffentlichkeit zu gewinnen.
Ein weiteres wichtiges Gesetz, das unterzeichnet wurde, ist AB 1008. Er erweitert die bestehenden kalifornischen Datenschutzgesetze auf generative KI-Lösungen. AB 1008 wurde eingeführt, um Bedenken auszuräumen und das Vertrauen der Öffentlichkeit in den Umgang von KI-Systemen mit personenbezogenen Daten zu stärken. Eine Umfrage ergab, dass mehr als 81 % der Verbraucher befürchten, dass KI-Unternehmen ihre Daten in einer Weise nutzen könnten, die sie nicht beabsichtigt haben. Durch die Festlegung klarer Grenzen dafür, wie Unternehmen personenbezogene Daten wie Namen, Adressen und biometrische Daten nutzen und davon profitieren können, hilft dieses Gesetz KI-Unternehmen, den Nutzern zu versichern, dass ihre Daten verantwortungsvoll behandelt werden, selbst wenn sie von einem KI-System offengelegt werden.
In ähnlicher Weise verpflichtet Senate Bill (SB) 896, der Generative AI Accountability Act, das California Office of Emergency Services (CalOES), Risikoanalysen zu potenziellen Bedrohungen durch generative KI-Systeme durchzuführen. CalOES wird mit bahnbrechenden KI-Firmen wie OpenAI und Anthropic zusammenarbeiten, um die potenziellen Gefahren von KI für kritische staatliche Infrastrukturen zu diskutieren und zu analysieren.
Wir haben bereits untersucht, wie KI im Bildungsbereich Lernerfahrungen personalisieren, Lehrmethoden neu definieren, Echtzeit-Feedback bieten und Lehrkräfte mit fortschrittlichen Tools und Erkenntnissen unterstützen kann. In der Tat können KI-Innovationen eine effektivere und ansprechendere Lernumgebung für Schüler schaffen. Pädagogen und Lehrer auf der ganzen Welt setzen KI immer häufiger ein, wobei erfolgreiche Pilotprojekte und breitere Implementierungen im Gange sind. Studien zeigen, dass mehr als 50 % der Lehrkräfte der Meinung sind, dass sich KI im Klassenzimmer positiv auf den Lehr- und Lernprozess ausgewirkt hat.
Kalifornien hat zwei Gesetze über den Einsatz von KI in Bildungseinrichtungen erlassen. AB 2876 schreibt dem kalifornischen State Board of Education vor, KI-Kenntnisse (nach dem 1. Januar 2025) in seinen Rahmenlehrplänen und Unterrichtsmaterialien für Mathematik, Naturwissenschaften und Geschichte zu berücksichtigen. Mit diesem Gesetz soll sichergestellt werden, dass die kalifornischen Schulen den Schülern die Grundlagen der Funktionsweise künstlicher Intelligenz sowie die Grenzen, Auswirkungen und ethischen Überlegungen beim Einsatz dieser Technologie vermitteln.
Darüber hinaus verpflichtet SB 1288 die kalifornischen Superintendenten, bis zum 1. Januar 2026 Arbeitsgruppen einzurichten, die untersuchen sollen, wie KI in öffentlichen Schulen eingesetzt wird. Diese Arbeitsgruppen müssen ihre Ergebnisse und Empfehlungen bis zum 1. Januar 2027 den zuständigen politischen und finanzpolitischen Ausschüssen der Legislative vorlegen. Nach Vorlage des Berichts wird die Arbeitsgruppe aufgelöst, und die Bestimmungen werden am 1. Januar 2031 aufgehoben.
Generative KI verbessert die Gesundheitsbranche, indem sie Innovationen für die Entdeckung neuer Medikamente, die Diagnose von Krankheiten, die Planung von Behandlungen und medizinische Chatbots ermöglicht. Diese Anwendungen können Vorteile wie Echtzeit-Überwachung, Beratung und Unterstützung bieten, um die Ergebnisse für die Patienten zu verbessern. Andere KI-Technologien wie Augmented Reality (AR) können auch zur Planung und Simulation von chirurgischen Eingriffen eingesetzt werden.
Die Integration generativer KI in das Gesundheitswesen ist mit gewissen Vorbehalten in Bezug auf Datenschutz und Vorschriften verbunden. Es ist von entscheidender Bedeutung, die Genauigkeit, Zuverlässigkeit und Fairness der durch KI generierten Ergebnisse zu gewährleisten und gleichzeitig die Privatsphäre der Gesundheitsdaten zu schützen.
Um diese Herausforderungen zu bewältigen, hat Kalifornien zwei Gesetze über den Einsatz von generativer KI im Gesundheitswesen verabschiedet. AB 3030 fordert, dass Gesundheitsdienstleister offenlegen müssen, wenn sie generative KI für die Kommunikation mit einem Patienten einsetzen, insbesondere wenn diese Nachrichten klinische Daten des Patienten enthalten. SB 1120 legt Beschränkungen dafür fest, wie Gesundheitsdienstleister und Krankenversicherer ihre Dienstleistungen automatisieren können. Diese neuen Gesetze stellen auch sicher, dass zugelassene Ärzte den Einsatz von KI-Tools in diesen Bereichen überwachen.
Auch der Bundesstaat Kalifornien hat Gesetze erlassen, um die Nutzung von KI zur Verbreitung irreführender oder ungenauer Informationen einzudämmen. SB 942 schreibt vor, dass populäre generative KI-Systeme in ihren Quelldaten deutlich angeben müssen, dass der Inhalt von KI erstellt wurde. Viele KI-Unternehmen tun dies bereits, und mehrere kostenlose Tools (ZeroGPT, Winston AI, GLTR usw.) können Menschen dabei helfen, diese Quelldaten zu lesen und KI-generierte Inhalte zu erkennen.
In Kalifornien wurden drei neue Gesetze(AB 1831, SB 926, SB 981) verabschiedet, um Probleme im Zusammenhang mit Deepfakes zu lösen. Diese Gesetze erweitern den bestehenden Schutz, stellen den Missbrauch von KI-generierten Inhalten unter Strafe und verpflichten Social-Media-Plattformen zur Einrichtung von Meldekanälen für Deepfake-Inhalte. Die Gesetze sollen bis Januar 2025 umgesetzt werden.
Einer der Gesetzesentwürfe, die verabschiedet wurden, konzentrierte sich auf eine angemessene Definition von KI. AB 2885 besagt, dass KI definiert wird als "ein technisches oder maschinenbasiertes System, das in seinem Grad an Autonomie variiert und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableiten kann, wie es Ausgaben erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können".
Außerdem wurden zwei interessante Gesetze für die Unterhaltungsindustrie erlassen. Amerikas größte Gewerkschaft für Film- und Fernsehschauspieler (SAG-AFTRA) spielte eine entscheidende Rolle bei der Durchsetzung dieser Gesetze. AB 2602 schreibt vor, dass Filmstudios die Erlaubnis eines Schauspielers einholen müssen, bevor sie KI einsetzen, um eine Nachbildung seiner Stimme und seines Abbilds zu erstellen. In der Zwischenzeit verbietet AB 1836 den Studios die Erstellung digitaler Nachbildungen verstorbener Darsteller (ähnlich wie Peter Cushings Figur in Star Wars: Rogue One) ohne die Zustimmung der Erben.
Als wir einen Einblick in jedes dieser Gesetze erhielten, haben Sie sich vielleicht gefragt, warum sie wirklich notwendig sind. KI-Vorschriften sind schon seit einiger Zeit ein beliebtes Diskussionsthema, aber sie haben mit dem Aufkommen von Deepfake-Inhalten, die sich auf verschiedene Bereiche, einschließlich Medien und Politik, ausgewirkt haben, erheblich an Schwung gewonnen. Die Verwendung von KI-generierten Inhalten im Internet hat zu Bedenken über Fehlinformationen und deren mögliche Auswirkungen auf Wahlergebnisse geführt. Auch die Sorge um den Datenschutz und den Missbrauch persönlicher Daten durch KI-Innovationen wächst. Diese Fragen waren ein Grund dafür, dass es jetzt mehrere neue Gesetze gibt, die sich mit diesen Themen befassen.
So schreibt AB 2905 beispielsweise vor, dass Robo-Anrufe offenlegen müssen, ob es sich um KI-generierte Stimmen handelt. Darüber hinaus fordert AB 2655 große Online-Plattformen wie Facebook und X auf, Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen und Meldekanäle für solche Inhalte zu schaffen. Kandidaten und gewählte Vertreter können auch Unterlassungsansprüche geltend machen, wenn die Plattformen dem nicht nachkommen.
Ein weiteres Gesetz, AB 2839, zielt auf Nutzer sozialer Medien ab, die Deepfakes posten oder weiterverbreiten, die Wähler in die Irre führen könnten. In ähnlicher Weise schreibt AB 2355 klare Angaben für politische Anzeigen vor, die mit KI-Tools erstellt wurden.
Die neuen KI-Gesetze Kaliforniens spiegeln das wachsende Engagement für ein ausgewogenes Verhältnis zwischen Innovation und Verantwortlichkeit wider. Indem sie zentrale Anliegen in Bereichen wie Datentransparenz, Datenschutz, Deepfakes und die Nutzung von KI im Gesundheits- und Bildungswesen ansprechen, zielen diese Gesetze darauf ab, den Einzelnen und die Gesellschaft zu schützen und gleichzeitig eine verantwortungsvolle KI-Entwicklung zu fördern. Da sich die KI weiter entwickelt, werden diese Vorschriften dazu beitragen, dass ihr Wachstum von ethischen Praktiken und öffentlichem Vertrauen begleitet wird. Diese Gesetze könnten auch andere Regionen auf der ganzen Welt ermutigen, diesem Beispiel zu folgen.
Um mehr zu erfahren, besuchen Sie unser GitHub-Repository und beteiligen Sie sich an unserer Community. Entdecken Sie KI-Anwendungen in der Fertigung und Landwirtschaft auf unseren Lösungsseiten. 🚀
