Data Privacy

Veri gizliliği, bireylerin kişisel bilgilerinin nasıl toplandığını, kullanıldığını, paylaşıldığını ve saklandığını kontrol etme hakkı ile kuruluşların bu hakka saygı göstermek için izlediği yasa ve uygulamaları kapsar. Yapay zekâ alanında riskler sıradan yazılımlara kıyasla daha yüksektir: Modeller çoğu zaman insanlar hakkında bilgi içeren büyük eğitim verisi koleksiyonlarıyla oluşturulur, bu verileri ezberleyip tekrar edebilir ve yüz tanıma gibi sistemler tasarımları gereği kişisel bilgileri işler.

Yasalar ve Temel İlkeler#

Mayıs 2018'den beri yürürlükte olan AB'nin Genel Veri Koruma Tüzüğü (GDPR), 5. maddesinde temel ilkeleri belirler: Kişisel veriler hukuka uygun, adil ve şeffaf biçimde işlenmeli; belirli amaçlarla toplanmalı (amaçla sınırlılık); yalnızca gerekli olanlarla sınırlandırılmalı (veri minimizasyonu); doğru tutulmalı; gerekenden uzun süre saklanmamalı (saklama sınırlaması) ve uygun güvenlik önlemleriyle korunmalıdır. Veri sorumlusu, uyumluluğu kanıtlayabilmelidir (hesap verebilirlik). 25. madde, tasarımdan itibaren ve varsayılan olarak veri korumasını zorunlu kılar; 22. madde ise kişilere yalnızca otomatik işleme yoluyla alınan kararlarla ilgili haklar tanır. Cezalar 20 milyon avroya veya küresel yıllık cironun %4'üne kadar çıkabilir; hangisi daha yüksekse o uygulanır.

Diğer yasalar da benzer yaklaşımlar izler. Kaliforniya'nın CCPA'sı, CPRA ile genişletilerek bölge sakinlerine verilerini öğrenme, silme ve satışına veya paylaşımına itiraz etme hakları tanır. ABD sağlık sektöründe HIPAA'nın kimliksizleştirme standardı, Güvenli Liman yöntemine göre kaldırılması gereken 18 tanımlayıcı sıralar; bunlar arasında yüzün tamamını gösteren fotoğraflar ve benzer görüntüler de bulunur. AB Yapay Zekâ Yasası, yapay zekâya özgü kurallar getirir ve Şubat 2025'ten beri internetten veya CCTV kayıtlarından yüz görüntülerini hedefsiz biçimde kazıyarak yüz tanıma veri tabanları oluşturmayı yasaklar.

Bir veri kümesinin bu yasaların kapsamına girip girmemesi, içindeki kişilerin belirlenip belirlenememesine bağlıdır:

Anonimleştirme göründüğünden daha zordur. Latanya Sweeney, 2000 yılında yalnızca posta kodu, cinsiyet ve doğum tarihinin ABD nüfusunun yaklaşık %87'sini benzersiz biçimde tanımladığını gösterdi. Bu nedenle adları kaldırmak, bir veri kümesini nadiren anonim hâle getirir.

Yapay Zekâya Özgü Gizlilik Riskleri#

Modeller eğitim örneklerini ezberleyip yeniden üretebilir. Nicholas Carlini ve çalışma arkadaşları difüzyon modellerinden binden fazla eğitim görüntüsü çıkardı; bunların arasında bireylere ait fotoğraflar da vardı. Veriler çıkarılmasa bile üyelik çıkarımı saldırıları, belirli bir kişinin kaydının eğitim kümesinde bulunup bulunmadığını ortaya çıkarabilir. Tek bir hastalığı olan hastalar üzerinde eğitilmiş bir model söz konusu olduğunda bu bilgi başlı başına hassastır.

Diğer önemli risk verilerin toplanmasıdır. Bir amaç için toplanan görüntüler ve metinler çoğu zaman geçerli bir yasal dayanak olmadan eğitim için yeniden kullanılır. Birkaç Avrupa veri koruma otoritesi, kazınmış fotoğraflardan bir yüz veri tabanı oluşturduğu için Clearview AI'ya para cezası verdi; Hollanda makamı 2024'te 30,5 milyon avro ceza kesti. Kurumlarda dış sohbet botlarına gölge yapay zekâ araçları üzerinden yapıştırılan kişisel veriler, kurumun denetiminden çıkar.

Gizliliği Koruma Teknikleri#

• Diferansiyel gizlilik: İstatistiklere veya eğitime kalibre edilmiş gürültü ekleyerek sonuçların herhangi bir kişi hakkında neredeyse hiçbir şey açığa çıkarmamasını sağlar.
• Federe öğrenme: Verileri bulundukları yerde, örneğin telefonlarda veya hastane sunucularında kullanarak eğitim yapar ve yalnızca model güncellemelerini paylaşır.
• Sentetik veri: Gerçek kayıtların yerine, istatistiksel örüntülerini koruyan üretilmiş kayıtlar kullanır.
• Gizli yapay zekâ ve uç yapay zekâ: Verileri, doğrulanmış donanım enklavlarının içinde veya veriyi yakalayan cihazda işler.

Redaksiyon, saklama veya eğitimden önce kimliği belirleyici içeriği kaldırır. Bilgisayarlı görü işlem hatları, akıllı şehir trafik analizi için sokak görüntülerindeki yüzleri ve plakaları bulanıklaştırır; tıbbi görüntü analizi veri kümeleri ise DICOM başlıklarından hasta kimliklerini çıkarır ve baş taramalarındaki yüz özelliklerini kaldırır. Ultralytics Platform içindeki Yüzleri Bulanıklaştır eylemi, örnek görüntülerde algılanan yüzleri ön izlemede gösterir, ardından bir veri kümesindeki her görüntüde bu yüzlerin piksellerini değiştirir. Ayrıca bir veri kümesini, her yeni yüklemede yüzleri otomatik bulanıklaştıracak şekilde ayarlayabilirsin.

Veri güvenliği, veri gizliliğinin gerekliliklerinden biridir: Şifreleme ve erişim denetimi, kişisel verileri yetkisiz kişilere karşı korur. Ancak kusursuz güvenlik önlemlerine sahip bir veri tabanı bile, verileri geçerli bir yasal dayanak olmadan topladıysa veya amacının gerektirdiğinden uzun süre sakladıysa gizlilik yasalarını ihlal edebilir.