California'daki yeni yapay zekâ düzenlemeleri: Etik yapay zekâya odaklanma

Otonom araçlardan sağlık hizmetlerine kadar yapay zekâ (AI) yenilikleri ve yeni nesil teknoloji şirketleri, günlük yaşamımızı yeniden şekillendirmede kilit bir rol oynamaya başlıyor. Bunun sonucunda, küresel AI pazarının büyüklüğü 2023'te 196,63 milyar dolara ulaştı ve 2024-2030 arasında yıllık ortalama %36 oranında büyümesi bekleniyor. Bu rakamlar, AI'ın ne kadar hızlı büyüdüğünü gösteriyor.

Bir yandan AI'ın hızla gelişmesi, farklı sektörlerdeki çeşitli sorunlara yönelik çözümler oluşturuyor. Diğer yandan bu hız, gelişmelerin etik ve toplum için faydalı olmasını sağlamak üzere sorumlu AI geliştirme ihtiyacını ortaya çıkarıyor.

Örneğin Microsoft, 2016'da X'te (eski adıyla Twitter) bir sohbet robotu olan Tay'i kullanıma sundu. Robot, kullanıcılarla yaptığı konuşmalardan öğrenmek üzere tasarlanmıştı. Ancak Tay, kullanıma sunulmasından kısa süre sonra çeşitli etkileşimlerden öğrendikleri nedeniyle profesyonellikten uzak ifadeler içeren yanıtlar üretmeye başladı. Microsoft robotu hızla çevrimdışı bıraktı; ancak bu olay, AI eğitimi için kullanılan verilerin güvenilir olmasını ve kamuoyunun şirketlerin bu tür verileri AI ürünlerinde nasıl kullandığından haberdar olmasını sağlamanın önemini gösteriyor.

Şekil 1. Microsoft'un Twitter sohbet robotu Tay.

Kaliforniya Valisi Gavin Newsom bu endişeyi ele almak üzere eylül ayında bir düzineden fazla AI ile ilgili yasa tasarısını yasalaştırdı. Bu yasalar, eğitim verileri hakkındaki ayrıntıların açıklanmasından deepfake'lerin ele alınmasına kadar pek çok konuyu kapsıyor. Bu makalede Kaliforniya'nın AI yasalarını ve bunların ne anlama geldiğini inceleyeceğiz. Hadi başlayalım!

Kaliforniya AI mevzuatı 2024: Hesap verebilirliğin sağlanması#

AI gelişiminin daha güvenli ve güvenilir hâle gelmesini desteklemek amacıyla üç önemli yasa tasarısı yasalaştı. 2026'da yürürlüğe girecek olan Meclis Tasarısı (AB) 2013, üretken AI sağlayıcılarının eğitim veri kümeleri hakkında ayrıntıları yayımlamasını zorunlu kılıyor. Bu ayrıntılar arasında veri kümelerinin kaynakları, verilerin nasıl kullanıldığına ilişkin bilgiler, veri kümesindeki veri noktalarının sayısı, telif hakkıyla korunan veya lisanslı verilerin içerilip içermediği, verilerin toplandığı dönem ve diğer bilgiler yer alıyor. Bu bilgilerin paylaşılması, AI şirketlerinin kamu güveni oluşturmasına yardımcı olacak.

Yasalaşan bir diğer önemli tasarı AB 1008 oldu. Bu tasarı, Kaliforniya'nın mevcut gizlilik yasalarını üretken AI çözümlerini kapsayacak şekilde genişletiyor. AB 1008, endişeleri gidermek ve AI sistemlerinin kişisel bilgileri nasıl işlediğine ilişkin kamu güvenini artırmak amacıyla sunuldu. Bir araştırma, tüketicilerin %81'inden fazlasının AI şirketlerinin bilgilerini amaçlamadıkları şekillerde kullanabileceğinden endişe duyduğunu ortaya koydu. Bu yasa, işletmelerin adlar, adresler ve biyometrik veriler gibi kişisel bilgileri nasıl kullanabileceği ve bunlardan nasıl kazanç sağlayabileceği konusunda net sınırlar belirleyerek, bir AI sistemi tarafından açığa çıkarılsa bile verilerinin sorumlu biçimde işleneceği konusunda kullanıcıları rahatlatmalarına yardımcı oluyor.

Şekil 2. Birçok kişinin gizlilik açısından AI çözümlerinin geliştirilebileceğine inandığını gösteren infografik.

Benzer şekilde, Üretken AI Hesap Verebilirlik Yasası olarak da bilinen Senato Tasarısı (SB) 896, Kaliforniya Acil Durum Hizmetleri Ofisi'nin (CalOES) üretken AI sistemlerinin yol açabileceği potansiyel tehditlere ilişkin risk analizleri gerçekleştirmesini zorunlu kılıyor. CalOES, AI'ın kritik eyalet altyapısına yönelik potansiyel tehditlerini görüşmek ve analiz etmek üzere OpenAI ve Anthropic gibi öncü AI şirketleriyle birlikte çalışacak.

Eğitim kurumlarında AI kullanımı ve düzenlemeler#

Daha önce eğitimde AI'ın öğrenme deneyimlerini kişiselleştirebileceğini, öğretim uygulamalarını yeniden tanımlayabileceğini, gerçek zamanlı geri bildirim sunabileceğini ve eğitimcilere gelişmiş araçlar ve içgörülerle destek olabileceğini incelemiştik. Aslında AI yenilikleri, öğrenciler için daha etkili ve ilgi çekici bir öğrenme ortamı oluşturabilir. Dünyanın dört bir yanındaki eğitimciler ve öğretmenler, başarılı pilot projeler ve daha kapsamlı uygulamalar devam ederken AI'ı daha düzenli kullanıyor. Araştırmalar, öğretmenlerin %50'den fazlasının sınıflarda AI kullanımının öğretme ve öğrenme sürecini olumlu etkilediğini düşündüğünü gösteriyor.

Şekil 3. Öğretmenlerin okullarda AI kullanımı hakkındaki görüşlerini gösteren anket.

Kaliforniya, AI'ın eğitim kurumlarında kullanımına ilişkin iki yasa çıkardı. AB 2876, Kaliforniya Eyalet Eğitim Kurulu'nun (1 Ocak 2025'ten sonra) matematik, fen bilimleri ve tarih müfredat çerçeveleri ile öğretim materyallerinde AI okuryazarlığını dikkate almasını zorunlu kılıyor. Bu yasanın amacı, Kaliforniya okullarının öğrencilere yapay zekânın nasıl çalıştığının temellerinin yanı sıra bu teknolojiyi kullanmanın sınırlamalarını, etkilerini ve etik açıdan dikkate alınması gereken hususları öğretmesini sağlamak.

Buna ek olarak SB 1288, Kaliforniya'daki okul müfettişlerinin devlet okullarında AI'ın nasıl kullanıldığını incelemek üzere (1 Ocak 2026'da veya öncesinde) çalışma grupları oluşturmasını zorunlu kılıyor. Bu çalışma gruplarının bulgularını ve önerilerini 1 Ocak 2027'ye kadar yasama organının ilgili politika ve maliye komitelerine sunması gerekiyor. Rapor sunulduktan sonra çalışma grubu feshedilecek ve hükümler 1 Ocak 2031'de yürürlükten kaldırılacak.

Sağlık hizmetlerinde üretken AI'ı çevreleyen düzenlemeler#

Üretken AI, yeni ilaçların keşfedilmesi, hastalıkların teşhis edilmesi, tedavilerin planlanması ve tıbbi sohbet robotları gibi yenilikleri mümkün kılarak sağlık hizmetleri sektörünü geliştiriyor. Bu uygulamalar, hasta sonuçlarını iyileştirmeye yönelik gerçek zamanlı izleme, tavsiye ve destek gibi faydalar sağlayabilir. Artırılmış gerçeklik (AR) gibi diğer AI teknolojileri de cerrahi prosedürleri planlamak ve simüle etmek için kullanılabilir.

Şekil 4. Sağlık Hizmetlerinde Üretken AI Kullanım Alanları.

Üretken AI'ı sağlık hizmetlerine entegre etmek, veri gizliliği ve düzenlemelerle ilgili bazı çekinceleri beraberinde getiriyor. Sağlık bilgilerinin gizliliğini korurken AI tarafından üretilen sonuçların doğruluğuna, güvenilirliğine ve adilliğine öncelik vermek kritik önem taşıyor.

Kaliforniya bu zorlukları ele almak için sağlık hizmetlerinde üretken AI kullanımına ilişkin iki yasa çıkardı. AB 3030, sağlık hizmeti sağlayıcılarının bir hastayla iletişim kurarken üretken AI kullandıklarını, özellikle de bu mesajlar hastanın klinik bilgilerini içerdiğinde açıklamalarını öngörüyor. SB 1120, sağlık hizmeti sağlayıcılarının ve sağlık sigortacılarının hizmetlerini nasıl otomatikleştirebileceğine sınırlamalar getiriyor. Bu yeni yasalar ayrıca bu ortamlarda AI araçlarının kullanımının lisanslı hekimler tarafından denetlenmesini sağlıyor.

Kaliforniya'nın deepfake'lere yönelik AI düzenleyici çerçeveleri#

Kaliforniya eyaleti, yanıltıcı veya yanlış bilgilerin yayılması için AI kullanımını sınırlamaya ilişkin yasalar da çıkardı. SB 942, popüler üretken AI sistemlerinin, içeriğin AI tarafından oluşturulduğunu kaynak verilerinde açıkça belirtmesini zorunlu kılıyor. Birçok AI şirketi bunu zaten yapıyor; ayrıca piyasadaki çeşitli ücretsiz araçlar (ZeroGPT, Winston AI, GLTR vb.) insanların bu kaynak verilerini okumasına ve AI tarafından oluşturulan içerikleri tespit etmesine yardımcı olabilir.

Deepfake'lerle ilgili sorunları ele almak üzere Kaliforniya'da üç yeni yasa (AB 1831, SB 926, SB 981) çıkarıldı. Bu yasalar mevcut korumaları genişletiyor, AI tarafından oluşturulan içeriğin kötüye kullanımını suç kapsamına alıyor ve sosyal medya platformlarının deepfake içerikleri için bildirim kanalları oluşturmasını zorunlu kılıyor. Yasaların Ocak 2025'e kadar uygulanmaya başlanması planlanıyor.

Kaliforniya'nın AI'ın tanımına ve film sektöründeki kullanımına ilişkin yasaları#

Yasalaşan tasarılardan biri AI'a uygun bir tanım getirmeye odaklandı. AB 2885, AI'ı “özerklik düzeyi değişkenlik gösteren ve açık veya örtük amaçlar doğrultusunda, aldığı girdiden fiziksel veya sanal ortamları etkileyebilecek çıktılar üretme biçimini çıkarabilen mühendislik ürünü veya makine tabanlı bir sistem” olarak tanımlıyor.

Eğlence sektörü için de iki ilgi çekici yasa çıkarıldı. Amerika'nın en büyük film ve yayın oyuncuları sendikası (SAG-AFTRA), bu yasaların yürürlüğe girmesi için önemli bir rol oynadı. AB 2602, film stüdyolarının bir oyuncunun sesinin ve görünüşünün kopyasını oluşturmak için AI'ı kullanmadan önce oyuncudan izin almasını zorunlu kılıyor. Bu sırada AB 1836, stüdyoların, mirasçılarının izni olmadan hayatını kaybetmiş oyuncuların dijital kopyalarını oluşturmasını (Star Wars: Rogue One'daki Peter Cushing karakterine benzer şekilde) yasaklıyor.

Şekil 5. Grand Moff Tarkin karakteri, merhum oyuncu Peter Cushing'in görünüşü kullanılarak oluşturuldu.

Kaliforniya'nın AI yasalarının ardındaki itici güç#

Bu yasaların her birini incelerken bunlara neden gerçekten ihtiyaç duyulduğunu merak etmiş olabilirsin. AI düzenlemeleri bir süredir gündemde olan popüler bir tartışma konusu; ancak medya ve siyaset dahil çeşitli alanları etkileyen deepfake içeriklerin yükselişiyle önemli ölçüde ivme kazandı. Çevrim içi AI üretimi içeriğin kullanılması, örneğin yanlış bilgilendirme ve bunun seçim sonuçları üzerindeki olası etkisi konusunda endişelere yol açtı. Ayrıca gizlilik ve AI yenilikleri tarafından kişisel verilerin kötüye kullanılmasıyla ilgili endişeler de artıyor. Bu sorunlar, bu konuları ele almak üzere artık birkaç yeni yasanın yürürlüğe konmasının nedenleri arasında yer alıyor.

Örneğin AB 2905, otomatik aramaların AI tarafından üretilen ses kullanıp kullanmadıklarını açıklamasını zorunlu kılıyor. Ayrıca AB 2655, Facebook ve X gibi büyük çevrim içi platformların seçimlerle ilgili deepfake'leri kaldırmasını veya etiketlemesini ve bu tür içerikler için bildirim kanalları oluşturmasını öngörüyor. Platformlar gereğini yerine getirmezse adaylar ve seçilmiş yetkililer ihtiyati tedbir talep edebilir.

Bir diğer yasa olan AB 2839, seçmenleri yanıltabilecek deepfake'leri paylaşan veya yeniden paylaşan sosyal medya kullanıcılarını hedef alıyor. Benzer şekilde AB 2355, AI araçları kullanılarak hazırlanan siyasi reklamlar için açık açıklamalar yapılmasını şart koşuyor.

Kaliforniya'nın yeni AI yasalarından çıkarılacak temel sonuçlar#

Kaliforniya'nın yeni AI yasaları, yenilik ile hesap verebilirliği dengeleme konusundaki artan kararlılığı yansıtıyor. Veri şeffaflığı, gizlilik, deepfake'ler ve AI'ın sağlık hizmetleri ile eğitimde kullanımı gibi alanlardaki temel endişeleri ele alan bu yasalar, sorumlu AI gelişimini teşvik ederken bireyleri ve toplumu korumayı amaçlıyor. AI gelişmeye devam ederken bu düzenlemeler, büyümesine etik uygulamaların ve kamu güveninin eşlik etmesini sağlamaya yardımcı olacak. Bu yasalar, dünyanın diğer bölgelerini de benzer adımlar atmaya teşvik edebilir.

Daha fazla bilgi edinmek için GitHub depomuzu ziyaret et ve topluluğumuzla etkileşime geç. Çözümler sayfalarımızda üretim ve tarım alanlarındaki yapay zekâ uygulamalarını keşfet. 🚀