Kaliforniya'daki yeni yapay zeka yönetmelikleri: Etik yapay zekaya odaklanmak

Otonom araçlardan sağlık hizmetlerine kadar yapay zeka (AI) yenilikleri ve yeni nesil teknoloji şirketleri günlük hayatımızı yeniden şekillendirmede kilit bir rol oynamaya başlıyor. Sonuç olarak, küresel AI pazar büyüklüğü 2023 yılında 196,63 milyar dolar oldu ve 2024'ten 2030'a kadar yıllık ortalama %36 oranında büyümesi bekleniyor. Bu rakamlar AI'ın ne kadar hızlı büyüdüğünü gösteriyor.

Bir yandan, AI'ın hızlı gelişimi farklı sektörlerdeki çeşitli sorunlara çözümler üretiyor. Diğer yandan bu hız, yapılan iyileştirmelerin etik olmasını ve toplum için faydalı olmasını sağlamak adına sorumlu AI geliştirme ihtiyacını gözler önüne seriyor.

Örneğin Microsoft, 2016 yılında X'te (eski adıyla Twitter) Tay adında bir sohbet botu yayınladı. Bu bot, kullanıcılarla yaptığı konuşmalardan öğrenme yapması için tasarlanmıştı. Ancak yayınlandıktan kısa süre sonra Tay, çeşitli etkileşimlerden etkilendiği için profesyonel olmayan bir dille yanıtlar üretmeye başladı. Microsoft botu hızla çevrimdışı konuma getirse de bu durum, AI eğitimi için kullanılan verilerin güvenilir olmasını ve şirketlerin bu tür verileri AI ürünleri için nasıl kullandığı konusunda halkın bilinçlendirilmesini sağlamanın önemine dair iyi bir örnektir.

Şekil 1. Microsoft'un Twitter Sohbet Botu, Tay.

Bu endişeyi ele alan Kaliforniya Valisi Gavin Newsom, bu eylül ayında bir düzineden fazla AI ile ilgili yasa tasarısını onaylayarak yasalaştırdı. Bu yasalar, eğitim verileriyle ilgili detayların açıklanmasından deepfake'lerin ele alınmasına kadar her şeyi kapsıyor. Bu makalede Kaliforniya'nın AI yasalarını ve bunların ne anlama geldiğini inceleyeceğiz. Hadi başlayalım!

Kaliforniya YZ mevzuatı 2024: Hesap verebilirliği sağlama#

AI gelişiminin daha güvenli ve güvenilir hale gelmesini desteklemek üzere üç önemli yasa tasarısı onaylandı. 2026 yılında yürürlüğe girecek olan Meclis Tasarısı (AB) 2013, üretken AI sağlayıcılarının eğitim veri setleriyle ilgili ayrıntıları yayınlamasını zorunlu kılıyor. Bu ayrıntılar; veri setlerinin kaynaklarını, verilerin nasıl kullanıldığına dair detayları, setteki veri noktası sayısını, telif hakkıyla korunan veya lisanslı verilerin dahil edilip edilmediğini, verilerin toplandığı zaman dilimini vb. içerir. Bu bilgilerin paylaşılması, AI şirketlerinin kamunun güvenini inşa etmesine yardımcı olacaktır.

Onaylanan bir diğer önemli yasa tasarısı da AB 1008 oldu. Bu tasarı, Kaliforniya'nın mevcut gizlilik yasalarını üretken AI çözümlerini kapsayacak şekilde genişletiyor. AB 1008, AI sistemlerinin kişisel bilgileri nasıl ele aldacağına dair endişeleri gidermek ve kamunun güvenini artırmak amacıyla sunuldu. Yapılan bir araştırmaya göre tüketicilerin %81'inden fazlası, AI şirketlerinin bilgilerini amaçlamadıkları şekillerde kullanabileceğinden endişe duyuyor. Bu yasa, işletmelerin isimler, adresler ve biyometrik veriler gibi kişisel bilgileri nasıl kullanabileceğine ve bunlardan nasıl kar elde edebileceğine dair net sınırlar belirleyerek AI şirketlerinin, bir AI sistemi tarafından ifşa edilse bile kullanıcıların verilerinin sorumlu bir şekilde ele alınacağına dair kullanıcılara güvence vermesine yardımcı oluyor.

Şekil 2. Birçok insanın AI çözümlerinin gizlilik açısından gelişebileceğine inandığını gösteren bir infografik.

Benzer şekilde, Senato Tasarısı (SB) 896 veya Üretken Yapay Zeka Sorumluluk Yasası, Kaliforniya Acil Durum Hizmetleri Ofisi'nin (CalOES) üretken AI sistemlerinin oluşturduğu olası tehditler üzerinde risk analizleri gerçekleştirmesini zorunlu kılıyor. CalOES, kritik eyalet altyapısına yönelik potansiyel AI tehditlerini tartışmak ve analiz etmek amacıyla OpenAI ve Anthropic gibi öncü AI firmalarıyla birlikte çalışacaktır.

Eğitim kurumlarında YZ benimsenmesi ve düzenlenmesi#

Eğitimde AI'ın öğrenme deneyimlerini nasıl kişiselleştirebileceğini, öğretim pratiklerini nasıl yeniden tanımlayabileceğini, gerçek zamanlı geri bildirim sağlayabileceğini ve gelişmiş araçlar ile içgörülerle eğitimcileri nasıl destekleyebileceğini daha önce incelemiştik. Aslında AI yenilikleri, öğrenciler için daha etkili ve ilgi çekici bir çalışma ortamı yaratabilir. Dünyanın dört bir yanındaki eğitimciler ve öğretmenler, başarılı pilot projeler ve daha geniş kapsamlı uygulamalar devam ederken AI'ı daha düzenli olarak kullanıyor. Araştırmalar, öğretmenlerin %50'sinden fazlasının sınıflardaki AI'ın öğretme ve öğrenme süreci üzerinde olumlu bir etki yarattığını hissettiğini gösteriyor.

Şekil 3. Öğretmenlerin okullarda AI kullanımı hakkında ne hissettiğini gösteren anket.

Kaliforniya, eğitim kurumlarında AI kullanımına ilişkin iki yasa çıkardı. AB 2876; Kaliforniya Eyalet Eğitim Kurulu'nun, matematik, fen bilgisi ve tarih müfredat çerçevelerinde ve öğretim materyallerinde AI okuryazarlığını (1 Ocak 2025'ten sonra) dikkate almasını zorunlu kılıyor. Bu yasanın amacı, Kaliforniya okullarının öğrencilere yapay zekanın nasıl çalıştığının temellerini, ayrıca teknolojiyi kullanmanın sınırlamalarını, etkilerini ve etik hususlarını öğrettiğinden emin olmaktır.

Buna ek olarak SB 1288, Kaliforniya'daki il ve ilçe milli eğitim müdürlerinin, devlet okullarında AI'ın nasıl kullanıldığını incelemek üzere (1 Ocak 2026 tarihinde veya öncesinde) çalışma grupları oluşturmasını zorunlu kılmaktadır. Bu çalışma gruplarının bulgularını ve tavsiyelerini 1 Ocak 2027 tarihine kadar Yasama Organının ilgili politika ve mali komitelerine sunması gerekecektir. Rapor sunulduktan sonra çalışma grubu feshedilecek ve hükümler 1 Ocak 2031 itibarıyla yürürlükten kaldırılacaktır.

Sağlık hizmetlerinde üretken YZ'yi çevreleyen düzenlemeler#

Üretken AI; yeni ilaçların keşfi, hastalıkların teşhisi, tedavi planlaması ve tıbbi sohbet botları için yenilikler sağlayarak sağlık hizmetleri sektörünü geliştiriyor. Bu uygulamalar, hasta sonuçlarını iyileştirmek için gerçek zamanlı izleme, tavsiye ve destek gibi faydalar sağlayabilir. Artırılmış gerçeklik (AR) gibi diğer AI teknolojileri de cerrahi prosedürleri planlamak ve simüle etmek için kullanılabilir.

Şekil 4. Sağlık Hizmetlerinde Üretken Yapay Zekanın Kullanım Alanları.

Üretken YZ'yi sağlık hizmetlerine entegre etmek, veri gizliliği ve düzenlemelerle ilgili bazı uyarıları beraberinde getiriyor. YZ tarafından üretilen sonuçların doğruluğuna, güvenilirliğine ve adilliğine öncelik verirken aynı zamanda sağlık bilgilerinin gizliliğini korumak çok önemlidir.

Bu zorlukların üstesinden gelmek için Kaliforniya, sağlık hizmetlerinde üretken AI kullanımına ilişkin iki yasayı onayladı. AB 3030, sağlık hizmeti sağlayıcılarının bir hastayla iletişim kurarken, özellikle bu mesajlar bir hastanın klinik bilgilerini içerdiğinde üretken AI kullandıklarını açıklamalarını gerektiriyor. SB 1120 ise sağlık hizmeti sağlayıcılarının ve sağlık sigortacılarının hizmetlerini nasıl otomatikleştirebileceğine sınırlamalar getiriyor. Bu yeni yasalar ayrıca lisanslı doktorların bu ortamlarda AI araçlarının kullanımını denetlemesini sağlıyor.

Kaliforniya'nın deepfake için YZ düzenleyici çerçeveleri#

Kaliforniya eyaleti ayrıca yanıltıcı veya yanlış bilgilerin yayılması için AI kullanımını dizginlemeyle ilgili yasalar da çıkardı. SB 942, popüler üretken AI sistemlerinin, içeriğin AI tarafından oluşturulduğunu kaynak verilerinde açıkça belirtmesini zorunlu kılıyor. Birçok AI şirketi bunu halihazırda yapıyor ve piyasadaki çeşitli ücretsiz araçlar (ZeroGPT, Winston AI, GLTR vb.) kişilerin bu kaynak verileri okumasına ve AI tarafından oluşturulan içeriği tespit etmesine yardımcı olabilir.

Deepfake ile ilgili sorunları ele almak üzere Kaliforniya'da üç yeni yasa (AB 1831, SB 926, SB 981) kabul edildi. Bu yasalar mevcut korumaları genişletiyor, AI tarafından üretilen içeriğin kötüye kullanımını suç sayıyor ve sosyal medya platformlarının deepfake içerikler için bildirim kanalları oluşturmasını zorunlu kılıyor. Yasaların Ocak 2025'te uygulanmaya başlanması planlanıyor.

Kaliforniya'nın YZ tanımı ve filmde kullanımı konusundaki YZ yasaları#

Yasalaşan tasarılardan biri AI'a uygun bir tanım kazandırmaya odaklanıyordu. AB 2885, AI'ı şu şekilde tanımlıyor: “Özerklik düzeyinde farklılık gösteren ve açık veya örtük hedefler için, fiziksel veya sanal ortamlarları etkileyebilecek çıktıların nasıl üretileceğini aldattığı girdilerden çıkarabilen, mühendislik ürünü veya makine tabanlı bir sistem.”

Eğlence sektörü için de yürürlüğe konan iki ilginç yasa vardı. Amerika'nın en büyük film ve yayın aktörleri sendikası (SAG-AFTRA), bu yasaların yürürlüğe girmesinde çok önemli bir rol oynadı. AB 2602, film stüdyolarının bir aktörün sesinin ve benzerliğinin kopyasını oluşturmak için AI kullanmadan önce aktörden izin almasını zorunlu kılıyor. Bu arada AB 1836, stüdyoların (Star Wars: Rogue One filmindeki Peter Cushing karakterine benzer şekilde) vefat etmiş sanatçıların dijital kopyalarını mirasçılarının izni olmadan oluşturmasını yasaklıyor.

Şekil 5. Grand Moff Tarkin karakteri, merhum aktör Peter Cushing'in benzerliği kullanılarak yaratıldı.

Kaliforniya'nın YZ yasalarının ardındaki itici güç#

Bu yasaların her biri hakkında bilgi edindiğimizde, bunların neden gerçekten gerekli olduğunu merak etmiş olabilirsiniz. AI düzenlemeleri bir süredir popüler bir tartışma konusuydu, ancak medya ve siyaset dahil olmak üzere çeşitli alanları etkileyen deepfake içeriğin yükselişiyle birlikte önemli bir ivme kazandılar. Çevrim içi olarak AI tarafından oluşturulan içeriğin kullanımı, yanlış bilgi ve bunun seçim sonuçları üzerindeki potansiyel etkisi gibi endişeleri artırdı. Ayrıca gizlilik ve kişisel verilerin AI yenilikleri tarafından kötüye kullanılmasıyla ilgili artan endişeler de bulunuyor. Bu sorunlar, bu konuları ele almak üzere neden birkaç yeni yasanın yürürlükte olduğunun bir faktörüdür.

Örneğin AB 2905, otomatik arama yapan robotların (robocall) AI tarafından oluşturulmuş sesler olup olmadığını açıklamasını zorunlu kılıyor. Dahası AB 2655, Facebook ve X gibi büyük çevrim içi platformların seçimlerle ilgili deepfake'leri kaldırmasını veya etiketlemesini ve bu tür içerikler için bildirim kanalları oluşturmasını talep ediyor. Adaylar ve seçilmiş yetkililer ayrıca platformların uymaması durumunda ihtiyati tedbir talebinde bulunabilir.

Bir başka yasa olan AB 2839, seçmenleri yanıltabilecek deepfake'ler yayınlayan veya yeniden yayınlayan sosyal medya kullanıcılarını hedefliyor. Benzer şekilde AB 2355, AI araçları kullanılarak yapılan siyasi reklamlar için net açıklamalar şart koşuyor.

Kaliforniya'nın yeni YZ yasalarından önemli çıkarımlar#

Kaliforniya'nın yeni YZ yasaları, yeniliği hesap verebilirlikle dengeleme konusundaki artan kararlılığı yansıtıyor. Veri şeffaflığı, gizlilik, deepfake'ler ve YZ'nin sağlık ve eğitimde kullanımı gibi alanlardaki temel endişeleri ele alarak, bu yasalar sorumlu YZ gelişimini teşvik ederken bireyleri ve toplumu korumayı amaçlıyor. YZ gelişmeye devam ettikçe, bu düzenlemeler büyümesinin etik uygulamalar ve kamu güveni ile desteklenmesini sağlamaya yardımcı olacaktır. Bu yasalar, dünyanın dört bir yanındaki diğer bölgeleri de aynı yolu izlemeye teşvik edebilir.

Daha fazla bilgi edinmek için GitHub repository sayfamızı ziyaret et ve community topluluğumuzla etkileşim kur. Çözüm sayfalarımızda manufacturing ve agriculture alanlarındaki yapay zeka uygulamalarını keşfet. 🚀