Diferansiyel Gizlilik

Diferansiyel gizlilik, veri analizinde kullanılan sağlam bir matematiksel çerçevedir ve makine öğrenimi (ML) ile çıktıların bir algoritmanın veri kümesi içindeki herhangi bir birey hakkında bilgi vermez. Miktar belirleyerek Veri yayınlama ile ilişkili gizlilik kaybı, kuruluşların toplu kalıpları ve eğilimleri paylaşmasına izin verirken Her katılımcı için kanıtlanabilir bir gizlilik garantisi sağlamak. Bu yaklaşım, Türkiye'de Yapay zeka etiği, veri bilimcilerin değerli veriler elde etmesini sağlar Kullanıcı güvenini tehlikeye atmadan veya düzenleyici standartları ihlal etmeden hassas bilgilerden içgörü elde edin.

Diferansiyel Gizlilik Nasıl Çalışır?

Diferansiyel gizliliğin temel mekanizması, hesaplanan miktarda istatistiksel gürültünün veri kümeleri veya veritabanı sorgularının sonuçları. Bu gürültü tek bir bireyin katkısını maskeleyecek kadar önemli olacak şekilde dikkatlice kalibre edilmiştir. bir saldırganın belirli bir kişinin verilerinin dahil edilip edilmediğini belirlemesi için yeterince küçüktür. toplu istatistiklerin doğruluğu.

Derin öğrenme (DL) bağlamında, bu tekniği genellikle eğitim sürecinde, özellikle de gradyan inişi. Degradeleri kırparak ve ekleyerek Model ağırlıklarını güncellemeden önce gürültüden arındırarak geliştiriciler gizliliği koruyan modeller oluşturabilir. Ancak, bu bir sorun ortaya çıkarır Daha güçlü gizlilik ayarlarının (daha fazla gürültüye yol açarak) gizliliği biraz azaltabileceği "gizlilik-fayda ödünleşimi" nihai modelin doğruluğu.

Temel Kavramlar ve Uygulama

Diferansiyel gizliliği uygulamak için uygulayıcılar "epsilon" (ε) olarak bilinen bir parametre kullanırlar. gizlilik bütçesi. Daha düşük bir epsilon değeri daha katı gizlilik gereksinimlerini ve daha fazla gürültüyü gösterirken, daha yüksek bir epsilon daha kesin veriler elde edilmesini sağlar, ancak potansiyel bilgi sızıntısı için daha geniş bir marj sunar. Bu kavram şu durumlarda kritik önem taşır gibi hassas görevler için eğitim verilerinin hazırlanması tıbbi görüntü analizi veya finansal Tahmin.

Aşağıdaki Python örneği diferansiyel gizliliğin temel kavramını göstermektedir: verilere gürültü ekleyerek tam değerleri maskeler. Opacus gibi kütüphaneler tam model eğitimi için kullanılırken, bu kod parçacığı PyTorch Gürültü enjeksiyon mekanizmasını göstermek için.

import torch

# Simulate a tensor of sensitive gradients or data points
original_data = torch.tensor([1.5, 2.0, 3.5, 4.0])

# Generate Laplacian noise (common in Differential Privacy) based on a privacy budget
noise_scale = 0.5
noise = torch.distributions.laplace.Laplace(0, noise_scale).sample(original_data.shape)

# Add noise to create a differentially private version
private_data = original_data + noise

print(f"Original: {original_data}")
print(f"Private:  {private_data}")

Gerçek Dünya Uygulamaları

Büyük teknoloji şirketleri ve devlet kurumları kullanıcı deneyimini geliştirmek için diferansiyel gizliliğe güvenirken kişisel bilgilerin güvence altına alınması.

• Apple'ın Kullanıcı Kullanım Analizi: Apple şunları kullanır Yerel Diferansiyel Gizlilik iPhone ve Mac kullanıcılarından içgörü topluyor. Bu sayede popüler emojileri tanımlayabiliyor, yüksek bellek kullanımını keşfedebiliyor ve ham kullanıcı verilerine hiç erişmeden veya bireysel davranışları izlemeden QuickType önerilerini iyileştirin.
• ABD Nüfus Sayım Bürosu: Bu 2020 ABD Nüfus Sayımı farklı gizliliği benimsedi demografik istatistikleri yayınlamak için. Bu sayede, yayınlanan veri tabloları tersine mühendislik işlemine tabi tutulamaz. demografik verilere yönelik kamu ihtiyacını yasal koruma gereklilikleri ile dengeleyerek belirli haneleri tanımlar. vatandaş gizliliği.

Diferansiyel Gizlilik ve İlgili Terimler

Diferansiyel mahremiyeti, modern bir mahremiyet sisteminde bulunan diğer mahremiyet koruma tekniklerinden ayırmak önemlidir. MLOps yaşam döngüsü.

• Diferansiyel Gizlilik ve Veri Gizliliği: Veri Gizliliği, aşağıdakileri kapsayan geniş bir disiplindir kişisel verilerin işlenmesine yönelik yasalar, haklar ve en iyi uygulamalar (örn. GDPR). Diferansiyel gizlilik belirli bir matematiksel tanımdır ve Veri gizliliği hedeflerine ulaşmak için kullanılan teknik araç.
• Diferansiyel Gizlilik ve Federe Öğrenme: Federe Öğrenme merkezi olmayan bir eğitimdir Ham verileri bir sunucuya yüklemeden modellerin yerel cihazlarda (edge computing) eğitildiği yöntem. Süre Federe Öğrenme verileri yerel tutar, ancak model güncellemelerinin kendilerinin bilgi sızdırmayacağını garanti etmez. Bu nedenle, model güncellemelerini güvence altına almak için diferansiyel gizlilik genellikle birleştirilmiş öğrenme ile birleştirilir.
• Anonimleştirmeye Karşı Diferansiyel Gizlilik: Geleneksel anonimleştirme İsimler veya sosyal medya hesapları gibi Kişisel Olarak Tanımlanabilir Bilgiler (PII) güvenlik numaraları. Bununla birlikte, anonimleştirilmiş veri kümeleri genellikle aşağıdaki verilerle çapraz referanslama yapılarak "yeniden tanımlanabilir" diğer kamuya açık veriler. Diferansiyel gizlilik, bu tür yeniden kimliklendirmeye karşı matematiksel olarak kanıtlanabilir bir garanti sağlar saldırılar.

Bilgisayarla Görme Alanındaki Önemi

gibi gelişmiş modellerden yararlanan kullanıcılar için YOLO11 görevler için nesne algılama veya gözetleme gibi, farkli gi̇zli̇li̇k, i̇nsanlarin ki̇mli̇kleri̇ni̇ açiğa çikarmadan gerçek dünya vi̇deo yayinlari üzeri̇nde eği̇ti̇m yapmanin yolunu sunuyor görüntülerde yakalanmıştır. Geliştiriciler bu teknikleri entegre ederek Sağlam ve uyumlu yapay zeka sistemleri, ve halk tarafından güvenilen bir kurumdur.

Gizlilik araçları hakkında daha fazla bilgi edinmek için OpenDP projesi açık kaynaklı bir paket sunmaktadır algoritmaları için TensorFlow Privacy 'yi sağlar ve Google Bu kavramları iş akışlarına entegre etmek isteyen geliştiriciler.