Kaliforniya'daki yeni yapay zekâ düzenlemeleri: Etik yapay zekâya odaklanma

Otonom araçlardan sağlık hizmetlerine kadar, yapay zekâ (AI) yenilikleri ve yeni nesil teknoloji şirketleri günlük yaşamımızı yeniden şekillendirmede önemli bir rol oynamaya başlıyor. Bunun sonucunda, küresel yapay zekâ pazarının büyüklüğü 2023'te 196,63 milyar dolara ulaştı ve 2024'ten 2030'a kadar yıllık ortalama %36 büyümesi bekleniyor. Bu rakamlar, yapay zekânın ne kadar hızlı büyüdüğünü gösteriyor.

Bir yandan yapay zekânın hızla gelişmesi, farklı sektörlerdeki çeşitli sorunlara çözümler sunuyor. Öte yandan bu hız, ilerlemelerin etik ve toplum yararına olmasını sağlamak için yapay zekâyı sorumlu biçimde geliştirme gereksinimini de ortaya koyuyor.

Örneğin Microsoft, 2016'da X'te (eski adıyla Twitter) Tay adlı bir sohbet botu yayımladı. Bot, kullanıcılarla yaptığı konuşmalardan öğrenmek üzere tasarlanmıştı. Ancak yayımlandıktan kısa süre sonra Tay, çeşitli etkileşimlerden edindiği bilgiler doğrultusunda profesyonellikten uzak ifadeler üretmeye başladı. Microsoft botu hızla çevrimdışı hâle getirse de bu olay, yapay zekâ eğitimi için kullanılan verilerin güvenilir olmasını sağlamanın ve şirketlerin bu verileri yapay zekâ ürünlerinde nasıl kullandığı konusunda kamuoyunu bilgilendirmenin önemini gösteren iyi bir örnektir.

Şekil 1. Microsoft'un Twitter sohbet botu Tay.

Bu endişeye yanıt olarak Kaliforniya Valisi Gavin Newsom, bu eylül ayında yapay zekâyla ilgili bir düzineden fazla yasa tasarısını yasalaştırdı. Bu yasalar, eğitim verileriyle ilgili ayrıntıların açıklanmasından deepfake'lerle mücadeleye kadar pek çok konuyu ele alıyor. Bu yazıda Kaliforniya'nın yapay zekâ yasalarını ve bu yasaların neleri kapsadığını inceleyeceğiz.

Kaliforniya'nın 2024 yapay zekâ mevzuatı: Hesap verebilirliği sağlama#

Yapay zekâ geliştirme çalışmalarını daha güvenli ve güvenilir hâle getirmek amacıyla üç önemli yasa tasarısı yasalaştı. 2026'da yürürlüğe girecek olan Meclis Tasarısı (AB) 2013, üretken yapay zekâ sağlayıcılarının eğitim veri kümeleriyle ilgili ayrıntıları yayımlamasını zorunlu kılıyor. Bu ayrıntılar arasında veri kümelerinin kaynakları, verilerin nasıl kullanıldığı, kümedeki veri noktalarının sayısı, telif hakkıyla korunan veya lisanslı verilerin dâhil olup olmadığı ve verilerin toplandığı zaman aralığı yer alıyor. Bu bilgilerin paylaşılması, yapay zekâ şirketlerinin kamu güvenini kazanmasına yardımcı olacak.

Yasalaşan bir diğer önemli tasarı AB 1008 oldu. Bu tasarı, Kaliforniya'nın mevcut gizlilik yasalarını üretken yapay zekâ çözümlerini de kapsayacak şekilde genişletiyor. AB 1008, yapay zekâ sistemlerinin kişisel bilgileri nasıl işlediğine ilişkin endişeleri gidermek ve kamu güvenini artırmak amacıyla sunuldu. Bir ankete göre tüketicilerin %81'inden fazlası, yapay zekâ şirketlerinin bilgilerini amaçlamadıkları şekillerde kullanabileceğinden endişe ediyor. İsimler, adresler ve biyometrik veriler gibi kişisel bilgilerin işletmeler tarafından nasıl kullanılabileceği ve bu bilgilerden nasıl kazanç sağlanabileceği konusunda açık sınırlar belirleyen bu yasa, verileri bir yapay zekâ sistemi tarafından açığa çıkarılsa bile yapay zekâ şirketlerinin kullanıcılara verilerinin sorumlu biçimde işleneceği konusunda güvence vermesine yardımcı oluyor.

Şekil 2. Pek çok kişinin yapay zekâ çözümlerinin gizlilik açısından iyileştirilebileceğine inandığını gösteren infografik.

Benzer şekilde, Üretken Yapay Zekâ Hesap Verebilirlik Yasası olarak da bilinen Senato Tasarısı (SB) 896, Kaliforniya Acil Durum Hizmetleri Ofisi'ni (CalOES) üretken yapay zekâ sistemlerinin yol açabileceği potansiyel tehditlere ilişkin risk analizleri yapmakla yükümlü kılıyor. CalOES, yapay zekânın kritik eyalet altyapısına yönelik potansiyel tehditlerini ele alıp analiz etmek üzere OpenAI ve Anthropic gibi önde gelen yapay zekâ şirketleriyle çalışacak.

Eğitim kurumlarında yapay zekâ kullanımı ve düzenlemeleri#

Daha önce eğitimde yapay zekânın öğrenme deneyimlerini kişiselleştirebileceğini, öğretim uygulamalarını yeniden tanımlayabileceğini, gerçek zamanlı geri bildirim sunabileceğini ve eğitimcilere gelişmiş araçlar ile içgörüler sağlayabileceğini incelemiştik. Yapay zekâ yenilikleri, öğrenciler için daha etkili ve ilgi çekici bir öğrenme ortamı oluşturabilir. Dünyanın dört bir yanındaki eğitimciler ve öğretmenler yapay zekâyı daha sık kullanıyor; başarılı pilot projeler yürütülüyor ve daha kapsamlı uygulamalar hayata geçiriliyor. Araştırmalar, öğretmenlerin %50'den fazlasının sınıflardaki yapay zekânın öğretme ve öğrenme sürecini olumlu etkilediğini düşündüğünü gösteriyor.

Şekil 3. Öğretmenlerin okullarda yapay zekâ kullanımı hakkında ne düşündüğünü gösteren anket.

Kaliforniya, eğitim kurumlarında yapay zekâ kullanımına ilişkin iki yasa çıkardı. AB 2876, Kaliforniya Eyalet Eğitim Kurulu'nun matematik, fen ve tarih müfredat çerçeveleri ile öğretim materyallerinde yapay zekâ okuryazarlığını (1 Ocak 2025'ten sonra) dikkate almasını zorunlu kılıyor. Bu yasa, Kaliforniya okullarının öğrencilere yapay zekânın nasıl çalıştığının temellerini ve bu teknolojiyi kullanmanın sınırlamalarını, etkilerini ve etik boyutlarını öğretmesini sağlamayı amaçlıyor.

Buna ek olarak, SB 1288, Kaliforniya'daki okul bölgeleri yöneticilerinin yapay zekânın devlet okullarında nasıl kullanıldığını incelemek üzere 1 Ocak 2026'ya kadar çalışma grupları oluşturmasını zorunlu kılıyor. Bu çalışma gruplarının, bulgularını ve önerilerini 1 Ocak 2027'ye kadar yasama organının ilgili politika ve maliye komitelerine sunması gerekiyor. Rapor sunulduktan sonra çalışma grubu dağıtılacak ve hükümler 1 Ocak 2031'de yürürlükten kaldırılacak.

Sağlık hizmetlerinde üretken yapay zekâya ilişkin düzenlemeler#

Üretken yapay zekâ; yeni ilaçların keşfi, hastalıkların teşhisi, tedavilerin planlanması ve tıbbi sohbet botları gibi yenilikleri mümkün kılarak sağlık sektörünü geliştiriyor. Bu uygulamalar, hasta sonuçlarını iyileştirmek için gerçek zamanlı izleme, tavsiye ve destek gibi faydalar sağlayabilir. Artırılmış gerçeklik (AR) gibi diğer teknolojiler de cerrahi işlemleri planlamak ve simüle etmek için kullanılabilir.

Şekil 4. Sağlık hizmetlerinde üretken yapay zekânın kullanım alanları.

Üretken yapay zekâyı sağlık hizmetlerine entegre etmek, veri gizliliği ve düzenlemelerle ilgili bazı çekinceleri de beraberinde getiriyor. Sağlık bilgilerinin gizliliğini korurken yapay zekânın ürettiği sonuçların doğruluğuna, güvenilirliğine ve adilliğine öncelik vermek büyük önem taşıyor.

Kaliforniya, bu zorlukları ele almak için sağlık hizmetlerinde üretken yapay zekâ kullanımına ilişkin iki yasa çıkardı. AB 3030, sağlık hizmeti sağlayıcılarının bir hastayla iletişim kurmak için üretken yapay zekâ kullandıklarında, özellikle de mesajlar hastanın klinik bilgilerini içerdiğinde bunu açıklamalarını zorunlu kılıyor. SB 1120, sağlık hizmeti sağlayıcılarının ve sağlık sigortacılarının hizmetlerini otomatikleştirme biçimlerine sınırlamalar getiriyor. Bu yeni yasalar, bu ortamlarda yapay zekâ araçlarının kullanımını lisanslı hekimlerin denetlemesini de sağlıyor.

Kaliforniya'nın deepfake'lere yönelik yapay zekâ düzenlemeleri#

Kaliforniya eyaleti, yanıltıcı veya hatalı bilgileri yaymak için yapay zekâ kullanımını sınırlamaya yönelik yasalar da çıkardı. SB 942, ayda bir milyondan fazla kullanıcısı olan üretken yapay zekâ sistemlerinin sağlayıcılarının, sistemlerinin oluşturduğu yapay zekâ üretimi görsel, video ve ses içeriklerine gizli (örtük) bir açıklama bilgisi eklemesini ve bu bilgiyi tespit eden ücretsiz bir araç sunmasını şart koşuyor.

Kaliforniya'da deepfake'lerle ilgili sorunları ele almak için üç yeni yasa (AB 1831, SB 926, SB 981) çıkarıldı. Bu yasalar mevcut korumaları genişletiyor, yapay zekâ tarafından oluşturulan içeriklerin kötüye kullanımını suç sayıyor ve sosyal medya platformlarının deepfake içerikler için bildirim kanalları oluşturmasını zorunlu kılıyor. Yasaların Ocak 2025'e kadar uygulanması planlanıyor.

Kaliforniya'nın yapay zekâ tanımına ve filmlerde kullanımına ilişkin yasaları#

Yasalaşan tasarılardan biri, yapay zekâya uygun bir tanım kazandırmaya odaklandı. AB 2885, yapay zekâyı şöyle tanımlıyor: “Özerklik düzeyi değişkenlik gösteren, mühendislik ürünü veya makine tabanlı bir sistem; açık ya da örtük amaçlar doğrultusunda, aldığı girdilerden fiziksel veya sanal ortamları etkileyebilecek çıktılar üretme biçimini çıkarabilir.”

Eğlence sektörü için çıkarılan iki ilgi çekici yasa daha vardı. Amerika'nın en büyük film ve yayın oyuncuları sendikası (SAG-AFTRA), bu yasaların yürürlüğe girmesi için önemli bir rol oynadı. AB 2602, film stüdyolarının bir oyuncunun sesini ve görüntüsünü yapay zekâyla kopyalamadan önce oyuncudan izin almasını şart koşuyor. AB 1836 ise stüdyoların, vârislerinden izin almadan hayatını kaybeden oyuncuların dijital kopyalarını (Rogue One: A Star Wars Story'deki Peter Cushing karakterine benzer şekilde) oluşturmasını yasaklıyor.

Şekil 5. Grand Moff Tarkin karakteri, merhum oyuncu Peter Cushing'in benzerliği kullanılarak oluşturuldu.

Kaliforniya'nın yapay zekâ yasalarının ardındaki itici güç#

Bu yasaların her birine göz attıktan sonra neden gerekli olduklarını merak edebilirsin. Yapay zekâ düzenlemeleri bir süredir sıkça tartışılıyor; ancak medya ve siyaset dâhil çeşitli alanları etkileyen deepfake içeriklerin artmasıyla konu büyük bir ivme kazandı. Örneğin internette yapay zekâ tarafından üretilen içeriklerin kullanılması, yanlış bilgi ve bunun seçim sonuçları üzerindeki potansiyel etkisi hakkında endişelere yol açtı. Ayrıca gizlilik ve yapay zekâ yenilikleriyle kişisel verilerin kötüye kullanılması konusundaki kaygılar da artıyor. Bu endişeler, artık yürürlükte olan birçok yeni yasanın başlıca nedenleri arasında.

Örneğin AB 2905, otomatik aramaların yapay zekâ tarafından üretilen sesleri kullanıp kullanmadığını açıklamasını zorunlu kılıyor. Ayrıca AB 2655, Facebook ve X gibi büyük çevrimiçi platformların seçimlerle ilgili deepfake'leri kaldırmasını veya etiketlemesini ve bu tür içerikler için bildirim kanalları oluşturmasını öngörüyor. Platformların kurallara uymaması hâlinde adaylar ve seçilmiş yetkililer ihtiyati tedbir talep edebilir.

Bir başka yasa olan AB 2839, seçmenleri yanıltabilecek deepfake'leri paylaşan veya yeniden paylaşan sosyal medya kullanıcılarını hedef alıyor. Benzer şekilde AB 2355, yapay zekâ araçlarıyla hazırlanan siyasi reklamların açıkça belirtilmesini şart koşuyor.

Kaliforniya'nın yeni yapay zekâ yasalarından çıkarılacak temel sonuçlar#

Kaliforniya'nın yeni yapay zekâ yasaları, yenilik ile hesap verebilirliği dengeleme konusundaki kararlılığın arttığını gösteriyor. Bu yasalar; veri şeffaflığı, gizlilik, deepfake'ler ve yapay zekânın sağlık hizmetleri ile eğitimde kullanımı gibi temel kaygıları ele alarak, sorumlu yapay zekâ gelişimini desteklerken bireyleri ve toplumu korumayı amaçlıyor. Yapay zekâ gelişmeye devam ederken bu düzenlemeler, büyümenin etik uygulamalar ve kamu güveniyle birlikte ilerlemesini sağlamaya yardımcı olacak. Bu yasalar, dünyanın diğer bölgelerini de benzer adımlar atmaya teşvik edebilir.

Daha fazla bilgi için GitHub depomuzu ziyaret et ve topluluğumuzla etkileşime geç. Çözümler sayfalarımızda üretim ve tarım alanlarındaki yapay zekâ uygulamalarını keşfet.