10. Oktober 2024
Entdecken Sie, wie Kaliforniens neue KI-Gesetze Innovation mit Verantwortlichkeit in Einklang bringen und dabei Datenschutz, Deepfakes, Gesundheitswesen, Bildung und Sicherheit abdecken.
Von selbstfahrenden Autos bis hin zum Gesundheitswesen spielen Innovationen im Bereich der künstlichen Intelligenz (KI) und Technologieunternehmen der nächsten Generation eine Schlüsselrolle bei der Umgestaltung unseres täglichen Lebens. Folglich betrug die globale Marktgröße für KI im Jahr 2023 196,63 Milliarden US-Dollar und wird voraussichtlich von 2024 bis 2030 durchschnittlich um 36 % pro Jahr wachsen. Diese Zahlen zeigen, wie schnell KI wächst.
Einerseits schafft die rasante Entwicklung der KI Lösungen für verschiedene Probleme in unterschiedlichen Branchen. Andererseits macht diese Geschwindigkeit die Notwendigkeit einer verantwortungsvollen KI-Entwicklung deutlich, um sicherzustellen, dass Verbesserungen ethisch und für die Gesellschaft von Vorteil sind.
So startete Microsoft beispielsweise im Jahr 2016 einen Chatbot, Tay, auf X (ehemals Twitter). Er sollte aus Gesprächen mit Nutzern lernen. Kurz nach seiner Veröffentlichung begann Tay jedoch, Antworten mit unprofessioneller Sprache zu generieren, da er eine Reihe von Interaktionen aufgriff. Microsoft nahm den Bot zwar schnell offline, aber es ist ein gutes Beispiel dafür, wie wichtig es ist, sicherzustellen, dass die für das KI-Training verwendeten Daten zuverlässig sind und dass die Öffentlichkeit darüber informiert ist, wie Unternehmen solche Daten für KI-Produkte verwenden.
Um dieser Besorgnis Rechnung zu tragen, hat Kaliforniens Gouverneur Gavin Newsom in diesem September mehr als ein Dutzend KI-bezogene Gesetze unterzeichnet. Diese Gesetze befassen sich mit allem, von der Offenlegung von Details zu Trainingsdaten bis hin zum Umgang mit Deepfakes. In diesem Artikel werden wir die KI-Gesetze Kaliforniens und ihre Auswirkungen untersuchen. Fangen wir an!
Drei wichtige Gesetze wurden unterzeichnet, um die KI-Entwicklung sicherer und zuverlässiger zu machen. Das Assembly Bill (AB) 2013, das im Jahr 2026 in Kraft tritt, verpflichtet generative KI-Anbieter, Details zu ihren Trainingsdatensätzen zu veröffentlichen. Zu diesen Details gehören die Quellen der Datensätze, Details zur Verwendung der Daten, die Anzahl der Datenpunkte im Satz, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, der Zeitraum, in dem die Daten erfasst wurden usw. Die Weitergabe dieser Informationen wird KI-Unternehmen helfen, öffentliches Vertrauen aufzubauen.
Ein weiteres wichtiges Gesetz, das unterzeichnet wurde, ist AB 1008. Es erweitert die bestehenden Datenschutzgesetze Kaliforniens auf generative KI-Lösungen. AB 1008 wurde eingeführt, um Bedenken auszuräumen und das öffentliche Vertrauen in den Umgang von KI-Systemen mit persönlichen Daten zu verbessern. Eine Umfrage ergab, dass über 81 % der Verbraucher besorgt sind, dass KI-Unternehmen ihre Daten auf eine Weise verwenden könnten, die sie nicht beabsichtigt haben. Durch die Festlegung klarer Grenzen für die Art und Weise, wie Unternehmen persönliche Daten wie Namen, Adressen und biometrische Daten verwenden und daraus Profit schlagen können, trägt dieses Gesetz dazu bei, dass KI-Unternehmen den Nutzern versichern können, dass ihre Daten verantwortungsvoll behandelt werden, selbst wenn sie durch ein KI-System offengelegt werden.
In ähnlicher Weise verpflichtet Senate Bill (SB) 896 oder der Generative AI Accountability Act das California’s Office of Emergency Services (CalOES), Risikoanalysen zu potenziellen Bedrohungen durch generative KI-Systeme durchzuführen. CalOES wird mit wegweisenden KI-Firmen wie OpenAI und Anthropic zusammenarbeiten, um die potenziellen Bedrohungen von KI für die kritische Infrastruktur des Staates zu erörtern und zu analysieren.
Wir haben bereits untersucht, wie KI im Bildungsbereich Lernerfahrungen personalisieren, Unterrichtspraktiken neu definieren, Echtzeit-Feedback geben und Pädagogen mit fortschrittlichen Tools und Erkenntnissen unterstützen kann. Tatsächlich können KI-Innovationen eine effektivere und ansprechendere Lernumgebung für Schüler schaffen. Pädagogen und Lehrer auf der ganzen Welt setzen KI immer regelmäßiger ein, wobei erfolgreiche Pilotprojekte und umfassendere Implementierungen im Gange sind. Studien zeigen, dass mehr als 50 % der Lehrer der Meinung sind, dass sich KI in Klassenzimmern positiv auf den Lehr- und Lernprozess ausgewirkt hat.
Kalifornien hat zwei Gesetze bezüglich des Einsatzes von KI in Bildungseinrichtungen eingeführt. AB 2876 schreibt vor, dass das kalifornische State Board of Education (nach dem 1. Januar 2025) KI-Kompetenz in seinen Mathematik-, Naturwissenschafts- und Geschichts-Lehrplanrahmen und Unterrichtsmaterialien berücksichtigt. Ziel dieses Gesetzes ist es, sicherzustellen, dass die Schulen in Kalifornien die Schüler über die Grundlagen der Funktionsweise künstlicher Intelligenz sowie über die Einschränkungen, Auswirkungen und ethischen Überlegungen bei der Verwendung der Technologie aufklären.
Zusätzlich dazu verpflichtet SB 1288 die kalifornischen Schulaufsichtsbeamten, Arbeitsgruppen einzurichten (spätestens am 1. Januar 2026), um zu untersuchen, wie KI in öffentlichen Schulen eingesetzt wird. Diese Arbeitsgruppen müssen ihre Ergebnisse und Empfehlungen bis zum 1. Januar 2027 den zuständigen Politik- und Finanzausschüssen der Legislative vorlegen. Nach Vorlage des Berichts wird die Arbeitsgruppe aufgelöst und die Bestimmungen werden am 1. Januar 2031 aufgehoben.
Generative KI verbessert die Gesundheitsbranche durch Innovationen bei der Entdeckung neuer Medikamente, der Diagnose von Krankheiten, der Planung von Behandlungen und medizinischen Chatbots. Diese Anwendungen bieten Vorteile wie Echtzeitüberwachung, Beratung und Unterstützung zur Verbesserung der Behandlungsergebnisse. Andere KI-Technologien, wie Augmented Reality (AR), können ebenfalls zur Planung und Simulation chirurgischer Eingriffe eingesetzt werden.
Die Integration von generativer KI in das Gesundheitswesen bringt gewisse Einschränkungen in Bezug auf Datenschutz und Vorschriften mit sich. Es ist von entscheidender Bedeutung, der Genauigkeit, Zuverlässigkeit und Fairness der von KI generierten Ergebnisse Priorität einzuräumen und gleichzeitig die Vertraulichkeit von Gesundheitsdaten zu gewährleisten.
Um diese Herausforderungen anzugehen, hat Kalifornien zwei Gesetze zur Verwendung von generativer KI im Gesundheitswesen verabschiedet. AB 3030 fordert Gesundheitsdienstleister auf, offenzulegen, wenn sie generative KI zur Kommunikation mit einem Patienten verwenden, insbesondere wenn diese Nachrichten klinische Informationen des Patienten enthalten. SB 1120 schränkt ein, wie Gesundheitsdienstleister und Krankenversicherer ihre Dienstleistungen automatisieren dürfen. Diese neuen Gesetze stellen auch sicher, dass approbierte Ärzte den Einsatz von KI-Tools in diesen Bereichen überwachen.
Der Bundesstaat Kalifornien hat auch Gesetze erlassen, um den Einsatz von KI zur Verbreitung irreführender oder ungenauer Informationen einzudämmen. SB 942 verlangt von gängigen generativen KI-Systemen, in ihren Quelldaten deutlich anzugeben, dass der Inhalt von KI erstellt wurde. Viele KI-Unternehmen tun dies bereits, und mehrere kostenlose Tools (ZeroGPT, Winston AI, GLTR usw.) können Menschen helfen, diese Quelldaten zu lesen und KI-generierte Inhalte zu erkennen.
Drei neue Gesetze (AB 1831, SB 926, SB 981) wurden in Kalifornien verabschiedet, um Probleme im Zusammenhang mit Deepfakes anzugehen. Diese Gesetze erweitern bestehende Schutzmaßnahmen, kriminalisieren den Missbrauch von KI-generierten Inhalten und verpflichten Social-Media-Plattformen, Meldekanäle für Deepfake-Inhalte einzurichten. Die Gesetze sollen bis Januar 2025 umgesetzt werden.
Eines der Gesetze, die verabschiedet wurden, konzentrierte sich auf die Festlegung einer angemessenen Definition von KI. AB 2885 besagt, dass KI definiert wird als „ein technisches oder maschinenbasiertes System, das in seinem Autonomiegrad variiert und das für explizite oder implizite Ziele aus den empfangenen Eingaben ableiten kann, wie Ausgaben generiert werden können, die physische oder virtuelle Umgebungen beeinflussen können“.
Es wurden auch zwei interessante Gesetze für die Unterhaltungsindustrie erlassen. Amerikas größte Gewerkschaft für Film- und Fernsehschauspieler (SAG-AFTRA) spielte eine entscheidende Rolle bei der Durchsetzung dieser Gesetze. AB 2602 verpflichtet Filmstudios, die Erlaubnis eines Schauspielers einzuholen, bevor sie KI verwenden, um eine Nachbildung seiner Stimme und seines Aussehens zu erstellen. Unterdessen verbietet AB 1836 Studios, digitale Nachbildungen verstorbener Darsteller zu erstellen (ähnlich der Figur von Peter Cushing in Star Wars: Rogue One) ohne Zustimmung ihrer Nachlassverwalter.
Nachdem wir Einblick in jedes dieser Gesetze erhalten haben, haben Sie sich vielleicht gefragt, warum sie wirklich notwendig sind. KI-Regulierungen sind seit einiger Zeit ein beliebtes Diskussionsthema, haben aber mit dem Aufkommen von Deepfake-Inhalten, die verschiedene Bereiche, darunter Medien und Politik, beeinflusst haben, erheblich an Bedeutung gewonnen. Die Verwendung von KI-generierten Inhalten online hat Bedenken hinsichtlich Fehlinformationen und deren potenziellen Auswirkungen auf Wahlergebnisse geweckt. Es gibt auch wachsende Bedenken hinsichtlich des Datenschutzes und des Missbrauchs persönlicher Daten durch KI-Innovationen. Diese Probleme haben dazu beigetragen, dass mehrere neue Gesetze zur Behebung dieser Probleme erlassen wurden.
Zum Beispiel schreibt AB 2905 vor, dass Robocalls offenlegen müssen, ob es sich um KI-generierte Stimmen handelt. Darüber hinaus fordert AB 2655 große Online-Plattformen wie Facebook und X auf, Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen und Meldekanäle für solche Inhalte einzurichten. Kandidaten und gewählte Beamte können auch eine Unterlassungsklage beantragen, wenn Plattformen die Vorschriften nicht einhalten.
Ein anderes Gesetz, AB 2839, zielt auf Social-Media-Nutzer ab, die Deepfakes posten oder erneut posten, die Wähler irreführen könnten. In ähnlicher Weise schreibt AB 2355 klare Angaben für politische Anzeigen vor, die mit KI-Tools erstellt wurden.
Kaliforniens neue KI-Gesetze spiegeln ein wachsendes Engagement wider, Innovation mit Verantwortlichkeit in Einklang zu bringen. Durch die Berücksichtigung wichtiger Bedenken in Bereichen wie Datentransparenz, Datenschutz, Deepfakes und der Einsatz von KI im Gesundheitswesen und Bildungswesen zielen diese Gesetze darauf ab, Einzelpersonen und die Gesellschaft zu schützen und gleichzeitig eine verantwortungsvolle KI-Entwicklung zu fördern. Da sich KI ständig weiterentwickelt, werden diese Vorschriften dazu beitragen, sicherzustellen, dass ihr Wachstum mit ethischen Praktiken und öffentlichem Vertrauen einhergeht. Diese Gesetze könnten auch andere Regionen auf der ganzen Welt dazu anregen, diesem Beispiel zu folgen.
Um mehr zu erfahren, besuchen Sie unser GitHub-Repository und treten Sie mit unserer Community in Kontakt. Entdecken Sie KI-Anwendungen in der Fertigung und Landwirtschaft auf unseren Lösungsseiten. 🚀
