Differential Privacy

Diferansiyel gizlilik, veri analizinde ve makine öğrenimi (ML) süreçlerinde, bir veri kümesine dahil edilen kişilerin gizlilik riskini nicelendirmek ve kesin olarak sınırlamak için kullanılan titiz bir matematiksel çerçevedir. Diğer veritabanlarıyla çapraz referans yapılarak genellikle tersine çevrilebilen geleneksel anonimleştirme tekniklerinin aksine diferansiyel gizlilik, belirli bir bireyin bilgilerinin dahil edilip edilmediğine bakılmaksızın bir algoritmanın çıktısının neredeyse aynı kalacağına dair kanıtlanabilir bir garanti sağlar. Bu yaklaşım, araştırmacıların ve kuruluşların faydalı veri analitiği elde etmelerine ve güçlü modeller eğitmelerine olanak tanırken, bir saldırganın sonuçları tersine mühendislik yoluyla belirli kullanıcıları tanımlamak veya hassas nitelikleri ortaya çıkarmak için kullanamayacağından emin olmanı sağlar.

Link to this sectionGizlilik Bütçeleri Mekanizması#

Diferansiyel gizliliğin temel kavramı, veriye veya algoritmanın çıktısına hesaplanmış miktarda "gürültü" yani rastgele değişkenlik eklemeye dayanır. Bu süreç, "gizlilik bütçesi" olarak da adlandırılan Epsilon (ε) parametresi ile yönetilir. Bu bütçe, gizliliğin korunması ile sonuçların doğruluğu (faydalılığı) arasındaki dengeyi belirler.

• Düşük Epsilon: Daha fazla gürültü ekler, daha güçlü gizlilik garantileri sunar ancak modelin içgörülerinin hassasiyetini potansiyel olarak azaltabilir.
• Yüksek Epsilon: Daha az gürültü ekler, daha yüksek veri faydasını korur ancak daha zayıf gizlilik koruması sağlar.

Derin öğrenme (DL) bağlamında gürültü, genellikle gradyan inişi süreci sırasında enjekte edilir. Geliştiriciler, model ağırlıklarını güncellemeden önce gradyanları kırparak ve rastgelelik ekleyerek, sinir ağının belirli eğitim örneklerini "ezberlemesini" engeller. Bu, modelin tıbbi görüntü analizindeki bir tümörün şekli gibi genel özellikleri, belirli bir hastanın ayırt edici biyometrik işaretlerini saklamadan öğrenmesini sağlar.

Link to this sectionGerçek Dünya Uygulamaları#

Diferansiyel gizlilik, veri hassasiyetinin en önemli olduğu sektörlerde yapay zeka etiği ilkelerini uygulamak için kritiktir.

• Healthcare and Clinical Research: Hospitals use differential privacy to collaborate on training models for tumor detection without violating regulations like HIPAA. By applying these techniques, institutions can pool disparate datasets to improve AI in healthcare diagnostics while mathematically ensuring that no single patient's medical history can be reconstructed from the shared model.
• Akıllı Cihaz Telemetrisi: Apple ve Google gibi büyük teknoloji şirketleri, kullanıcı deneyimini iyileştirmek için Yerel Diferansiyel Gizlilik kullanır. Örneğin, bir akıllı telefon bir cümledeki bir sonraki kelimeyi önerdiğinde veya popüler emojileri tanımladığında öğrenme işlemi cihaz üzerinde gerçekleşir. Veriler buluta gönderilmeden önce gürültü eklenir; böylece şirket, tek bir kullanıcının ham metinlerini veya konum verilerini asla görmeden trafik modelleri gibi toplu eğilimleri tanımlayabilir.

Link to this sectionDiferansiyel Gizlilik ve İlgili Kavramlar#

Güvenli bir ML hattı uygulamak için diferansiyel gizliliği diğer güvenlik terimlerinden ayırt etmek şarttır.

• Diferansiyel Gizlilik ve Veri Gizliliği: Veri gizliliği, verilerin nasıl toplandığı ve kullanıldığına ilişkin (örneğin GDPR uyumluluğu gibi) daha geniş kapsamlı yasal ve etik disiplindir. Diferansiyel gizlilik ise bu gizlilik hedeflerine matematiksel olarak ulaşmak için kullanılan belirli bir teknik araçtır.
• Diferansiyel Gizlilik ve Veri Güvenliği: Veri güvenliği, şifreleme ve güvenlik duvarları aracılığıyla yetkisiz erişimi engellemeyi içerir. Güvenlik, verileri hırsızlığa karşı korurken, diferansiyel gizlilik verileri çıkarım saldırılarına karşı korur; bu saldırılarda yetkili kullanıcılar yasal sorgu sonuçlarından hassas bilgileri türetmeye çalışırlar.
• Diferansiyel Gizlilik ve Federated Learning: Federated learning, verilerin yerel cihazlarda kaldığı merkezi olmayan bir eğitim yöntemidir. Ham verileri yerel tutarak gizliliği artırsa da paylaşılan model güncellemelerinin bilgi sızdırmayacağının garantisini vermez. Bu nedenle, model optimizasyon sürecini tam olarak güvence altına almak için diferansiyel gizlilik genellikle federated learning ile birlikte kullanılır.

Link to this sectionBilgisayarlı Görüşte Gürültü Enjeksiyonunu Simüle Etme#

Diferansiyel gizliliğin bir yönü, girdi pertürbasyonunu içerir; yani algoritmanın kesin piksel değerlerine güvenememesi için veriye gürültü eklemek. Gerçek diferansiyel gizlilik karmaşık eğitim döngüleri (DP-SGD gibi) gerektirse de, aşağıdaki Python örneği çıkarım öncesinde bir görüntüye Gauss gürültüsü ekleme kavramını göstermektedir. Bu, bir modelin dayanıklılığını nasıl test edebileceğini veya YOLO26 kullanarak gizlilik korumalı bir hat için verilerin nasıl hazırlanabileceğini simüle eder.

import torch
from ultralytics import YOLO

# Load the latest YOLO26 model (optimized for end-to-end performance)
model = YOLO("yolo26n.pt")

# Create a dummy image tensor (Batch, Channel, Height, Width)
img_tensor = torch.rand(1, 3, 640, 640)

# Generate Gaussian noise (simulate privacy noise injection)
noise = torch.randn_like(img_tensor) * 0.1  # Epsilon proxy: scale of noise

# Add noise to the input data
noisy_input = img_tensor + noise

# Run inference on the noisy data
# A robust model should still detect general patterns despite the noise
results = model(noisy_input)
print(f"Detections on noisy input: {len(results[0].boxes)}")

Link to this sectionGüvenli Veri Kümelerini Yönetme#

Diferansiyel gizliliği uygulamak, "gizlilik bütçesinin" birden fazla eğitim çalışması boyunca doğru bir şekilde takip edilmesini sağlamak için veri kümelerinin dikkatli bir şekilde yönetilmesini gerektirir. Ultralytics Platform, ekiplerin eğitim verilerini yönetmeleri, deneyleri takip etmeleri ve modellerin güvenli bir şekilde dağıtılmasını sağlamaları için merkezi bir ortam sunar. Veri sürümleri ve erişim üzerinde sıkı bir kontrol sağlayarak, kuruluşlar gelişmiş gizlilik çerçevelerini daha iyi uygulayabilir ve bilgisayarlı görü (CV) projelerinde uyumluluk standartlarına bağlı kalabilirler.