Kaliforniya'daki yeni yapay zeka yönetmelikleri: Etik yapay zekaya odaklanmak

Otonom araçlardan sağlık hizmetlerine kadar, yapay zeka (YZ) yenilikleri ve yeni nesil teknoloji şirketleri günlük yaşantımızı yeniden şekillendirmede kilit bir rol oynamaya başlıyor. Sonuç olarak, küresel YZ pazar büyüklüğü 2023 yılında 196,63 milyar dolardı ve 2024'ten 2030'a kadar yıllık ortalama %36 büyümesi bekleniyor. Bu rakamlar, YZ'nin ne kadar hızlı büyüdüğünü gösteriyor.

On one hand, the rapid development of AI is creating solutions to various problems across different industries. On the other hand, this speed brings to light the need for responsible AI development to make sure that improvements are ethical and beneficial for society.

Örneğin, 2016 yılında Microsoft, X (eski adıyla Twitter) üzerinde Tay adlı bir sohbet robotu başlattı. Bu robot, kullanıcılarla olan konuşmalardan öğrenmek üzere tasarlandı. Ancak piyasaya sürülmesinden kısa bir süre sonra Tay, çeşitli etkileşimleri kaparak profesyonel olmayan bir dille yanıtlar üretmeye başladı. Microsoft, botu hızla çevrimdışı hale getirse de bu durum, AI training için kullanılan verilerin güvenilir olduğundan emin olmanın ve şirketlerin bu tür verileri yapay zeka ürünleri için nasıl kullandığı konusunda kamuoyunu bilgilendirmenin önemine dair iyi bir örnektir.

Şekil 1. Microsoft’un Twitter Sohbet Botu, Tay.

Bu endişeyi ele alan Kaliforniya Valisi Gavin Newsom, bu Eylül ayında bir düzineden fazla YZ ile ilgili tasarıyı yasalaştırdı. Bu yasalar, eğitim verileri ile ilgili ayrıntıların açıklanmasından deepfake içeriklerin ele alınmasına kadar her şeyi kapsıyor. Bu makalede, Kaliforniya'nın YZ yasalarını ve ne anlama geldiklerini inceleyeceğiz. Hadi başlayalım!

Link to this sectionKaliforniya YZ mevzuatı 2024: Hesap verebilirliği sağlama#

YZ gelişiminin daha güvenli ve güvenilir hale gelmesini desteklemek için üç önemli yasa tasarısı imzalandı. 2026'da yürürlüğe girecek olan Meclis Tasarısı (AB) 2013, üretken YZ sağlayıcılarının eğitim veri kümeleriyle ilgili ayrıntıları yayınlamasını zorunlu kılıyor. Bu ayrıntılar; veri kümelerinin kaynaklarını, verilerin nasıl kullanıldığına dair detayları, kümedeki veri noktalarının sayısını, telif hakkıyla korunan veya lisanslı verilerin dahil edilip edilmediğini, verilerin toplandığı zaman aralığını vb. içeriyor. Bu bilgilerin paylaşılması, YZ şirketlerinin kamu güvenini inşa etmesine yardımcı olacak.

İmzalanan bir diğer önemli yasa ise AB 1008 oldu. Kaliforniya'nın mevcut gizlilik yasalarını üretken YZ çözümlerine genişletiyor. AB 1008, endişeleri gidermek ve YZ sistemlerinin kişisel bilgileri nasıl ele aldığı konusundaki kamu güvenini artırmak için getirildi. Bir anket, tüketicilerin %81'inden fazlasının, YZ şirketlerinin bilgilerini amaçlanmayan şekillerde kullanabileceğinden endişe ettiğini ortaya koydu. İşletmelerin isimler, adresler ve biyometrik veriler gibi kişisel bilgileri nasıl kullanabileceğine ve bunlardan nasıl kar elde edebileceğine dair net sınırlar koyan bu yasa, YZ şirketlerinin bir YZ sistemi tarafından ifşa edilse bile kullanıcı verilerinin sorumlu bir şekilde ele alınacağına dair kullanıcılara güvence vermesine yardımcı oluyor.

Şekil 2. Birçok insanın YZ çözümlerinin gizlilik konusunda iyileşebileceğine inandığını gösteren bir infografik.

Benzer şekilde, Senato Tasarısı (SB) 896 veya Üretken YZ Hesap Verebilirlik Yasası, Kaliforniya Acil Durum Hizmetleri Ofisi'nin (CalOES), üretken YZ sistemlerinin oluşturduğu potansiyel tehditler üzerinde risk analizleri yapmasını zorunlu kılıyor. CalOES, YZ'nin kritik eyalet altyapısına yönelik potansiyel tehditlerini tartışmak ve analiz etmek için OpenAI ve Anthropic gibi öncü YZ firmalarıyla birlikte çalışacak.

Link to this sectionEğitim kurumlarında YZ benimsenmesi ve düzenlenmesi#

Daha önce eğitimdeki YZ'nin öğrenme deneyimlerini nasıl kişiselleştirebileceğini, öğretim uygulamalarını nasıl yeniden tanımlayabileceğini, gerçek zamanlı geri bildirim sunabileceğini ve eğitimcileri gelişmiş araçlar ve içgörülerle nasıl destekleyebileceğini incelemiştik. Aslında, YZ yenilikleri öğrenciler için daha etkili ve ilgi çekici bir çalışma ortamı yaratabilir. Dünyanın dört bir yanındaki eğitimciler ve öğretmenler, başarılı pilot projeler ve devam eden daha geniş uygulamalarla YZ'yi daha düzenli kullanıyor. Araştırmalar, öğretmenlerin %50'den fazlasının sınıflardaki YZ'nin öğretme ve öğrenme sürecini olumlu etkilediğini hissettiğini gösteriyor.

Şekil 3. Öğretmenlerin okullarda YZ kullanımına dair hislerini gösteren anket.

Kaliforniya, eğitim kurumlarında YZ kullanımı ile ilgili iki yasa getirdi. AB 2876, Kaliforniya Eyalet Eğitim Kurulu'nun (1 Ocak 2025'ten sonra) matematik, fen ve tarih müfredat çerçevelerinde ve öğretim materyallerinde YZ okuryazarlığını dikkate almasını zorunlu kılıyor. Bu yasanın amacı, Kaliforniya'daki okulların öğrencilere yapay zekanın nasıl çalıştığı konusundaki temellerin yanı sıra teknolojiyi kullanmanın sınırlamaları, etkileri ve etik hususları hakkında eğitim vermesini sağlamaktır.

Buna ek olarak, SB 1288, Kaliforniya müfettişlerinin (1 Ocak 2026'da veya öncesinde) devlet okullarında YZ'nin nasıl kullanıldığını araştırmaları için çalışma grupları oluşturmalarını gerektiriyor. Bu çalışma gruplarının, bulgularını ve tavsiyelerini 1 Ocak 2027'ye kadar Yasama Meclisi'nin ilgili politika ve mali komitelerine sunmaları gerekecek. Rapor sunulduktan sonra çalışma grubu dağıtılacak ve hükümler 1 Ocak 2031'de yürürlükten kaldırılacaktır.

Link to this sectionSağlık hizmetlerinde üretken YZ'yi çevreleyen düzenlemeler#

Generative AI is improving the healthcare industry by enabling innovations for discovering new drugs, diagnosing diseases, planning treatments, and medical chatbots. These applications can provide benefits like real-time monitoring, advice, and support to improve patient outcomes. Other AI technologies, like augmented reality (AR), can also be used to plan and simulate surgical procedures.

Şekil 4. Sağlık Hizmetlerinde Üretken YZ Kullanım Durumları.

Üretken YZ'yi sağlık hizmetlerine entegre etmek, veri gizliliği ve düzenlemelerle ilgili bazı uyarıları beraberinde getiriyor. YZ tarafından üretilen sonuçların doğruluğuna, güvenilirliğine ve adilliğine öncelik verirken aynı zamanda sağlık bilgilerinin gizliliğini korumak çok önemlidir.

Bu zorlukları ele almak için Kaliforniya, sağlık hizmetlerinde üretken YZ kullanımı hakkında iki yasa geçirdi. AB 3030, sağlık hizmeti sağlayıcılarının, özellikle bu mesajlar bir hastanın klinik bilgilerini içerdiğinde, bir hasta ile iletişim kurmak için üretken YZ kullandıklarını açıklamalarını talep ediyor. SB 1120, sağlık hizmeti sağlayıcılarının ve sağlık sigortacılarının hizmetlerini nasıl otomatikleştirebileceklerine dair sınırlamalar getiriyor. Bu yeni yasalar aynı zamanda lisanslı hekimlerin bu ortamlarda YZ araçlarının kullanımını denetlemesini sağlıyor.

Link to this sectionKaliforniya'nın deepfake için YZ düzenleyici çerçeveleri#

Kaliforniya eyaleti ayrıca yanıltıcı veya yanlış bilgileri yaymak için YZ kullanımını dizginlemekle ilgili yasalar geçirdi. SB 942, popüler üretken YZ sistemlerinin içeriklerinin YZ tarafından oluşturulduğunu kaynak verilerinde açıkça belirtmelerini zorunlu kılıyor. Birçok YZ şirketi bunu zaten yapıyor ve piyasadaki çeşitli ücretsiz araçlar (ZeroGPT, Winston AI, GLTR vb.) insanların bu kaynak verilerini okumasına ve YZ tarafından oluşturulan içeriği tespit etmesine yardımcı olabilir.

Kaliforniya'da deepfake ile ilgili sorunları ele almak için üç yeni yasa (AB 1831, SB 926, SB 981) geçirildi. Bu yasalar mevcut korumaları genişletiyor, YZ tarafından oluşturulan içeriğin kötüye kullanımını suç haline getiriyor ve sosyal medya platformlarının deepfake içerik için raporlama kanalları oluşturmasını zorunlu kılıyor. Yasaların Ocak 2025'e kadar uygulanması planlanıyor.

Link to this sectionKaliforniya'nın YZ tanımı ve filmde kullanımı konusundaki YZ yasaları#

Yasalaşan tasarılardan biri, YZ'ye uygun bir tanım vermeye odaklandı. AB 2885, YZ'nin “özerklik düzeyi değişken olan ve açık veya örtük hedefler için, aldığı girdilerden fiziksel veya sanal ortamları etkileyebilecek çıktıların nasıl oluşturulacağını çıkarsayabilen, mühendislik ürünü veya makine tabanlı bir sistem” olarak tanımlandığını belirtiyor.

Eğlence sektörü için de iki ilginç yasa getirildi. Amerika'nın en büyük film ve yayın oyuncu sendikası (SAG-AFTRA), bu yasaların yürürlüğe girmesinde çok önemli bir rol oynadı. AB 2602, film stüdyolarının sesini ve benzerliğini taklit eden bir YZ oluşturmadan önce bir oyuncudan izin almasını zorunlu kılıyor. Bu arada AB 1836, stüdyoların (Star Wars: Rogue One'daki Peter Cushing karakterine benzer şekilde) merhum oyuncuların dijital kopyalarını, mirasçılarının izni olmadan oluşturmasını yasaklıyor.

Şekil 5. Karakter Grand Moff Tarkin, merhum oyuncu Peter Cushing'in benzerliği kullanılarak oluşturuldu.

Link to this sectionKaliforniya'nın YZ yasalarının ardındaki itici güç#

Bu yasaların her birine dair içgörü kazandıkça, bunlara neden gerçekten ihtiyaç duyulduğunu merak etmiş olabilirsin. YZ düzenlemeleri bir süredir popüler bir tartışma konusu olmuştur, ancak medya ve siyaset dahil olmak üzere çeşitli alanları etkileyen deepfake içeriğinin yükselişiyle önemli bir ivme kazandı. Örneğin çevrimiçi YZ tarafından oluşturulan içeriklerin kullanımı, yanlış bilgilendirme ve bunun seçim sonuçları üzerindeki potansiyel etkisi konusunda endişeleri artırdı. Ayrıca, YZ yenilikleri tarafından kişisel verilerin gizliliği ve kötüye kullanımı hakkında da artan endişeler var. Bu sorunlar, bu konuları ele almak için neden birçok yeni yasanın yürürlükte olduğunun bir faktörü olmuştur.

Örneğin, AB 2905, otomatik aramaların YZ tarafından oluşturulan sesler olup olmadığını açıklamasını zorunlu kılıyor. Ayrıca AB 2655, Facebook ve X gibi büyük çevrimiçi platformların seçimlerle ilgili deepfake'leri kaldırmasını veya etiketlemesini ve bu tür içerikler için raporlama kanalları oluşturmasını talep ediyor. Adaylar ve seçilmiş yetkililer, platformların uymaması halinde ihtiyati tedbir de talep edebilir.

Bir diğer yasa olan AB 2839, seçmenleri yanıltabilecek deepfake'leri yayınlayan veya yeniden yayınlayan sosyal medya kullanıcılarını hedefliyor. Benzer şekilde, AB 2355, YZ araçları kullanılarak yapılan siyasi reklamlar için net açıklamalar şart koşuyor.

Link to this sectionKaliforniya'nın yeni YZ yasalarından önemli çıkarımlar#

Kaliforniya'nın yeni YZ yasaları, yeniliği hesap verebilirlikle dengeleme konusundaki artan kararlılığı yansıtıyor. Veri şeffaflığı, gizlilik, deepfake'ler ve YZ'nin sağlık ve eğitimde kullanımı gibi alanlardaki temel endişeleri ele alarak, bu yasalar sorumlu YZ gelişimini teşvik ederken bireyleri ve toplumu korumayı amaçlıyor. YZ gelişmeye devam ettikçe, bu düzenlemeler büyümesinin etik uygulamalar ve kamu güveni ile desteklenmesini sağlamaya yardımcı olacaktır. Bu yasalar, dünyanın dört bir yanındaki diğer bölgeleri de aynı yolu izlemeye teşvik edebilir.

Daha fazla bilgi edinmek için GitHub depomuzu ziyaret edin ve topluluğumuzla etkileşime geçin. Çözüm sayfalarımızda üretim ve tarım alanındaki yapay zeka uygulamalarını keşfedin. 🚀