Data Security

Veri güvenliği; dijital verileri yaşam döngüleri boyunca, yani toplanma ve depolanma aşamalarından işlenme, paylaşılma ve silinme aşamalarına kadar yetkisiz erişim, hırsızlık, kurcalama ve kayba karşı korumaktır. Amaçları genellikle CIA üçlüsüyle ifade edilir: Yalnızca yetkili kişi ve sistemlerin verileri okuyabilmesini sağlayan gizlilik; verilerin doğru ve değiştirilmemiş kalmasını sağlayan bütünlük; ihtiyaç duyulduğunda kullanılabilmelerini sağlayan erişilebilirlik. Şubat 2024'te yayımlanan NIST Siber Güvenlik Çerçevesi 2.0, çalışmaları altı işleve ayırır: yönetme, belirleme, koruma, tespit etme, müdahale etme ve kurtarma. Makine öğreniminde korunması gereken veriler arasında eğitim verileri ve bunların etiketleri, bu verilerden öğrenilenleri kodlayan model ağırlıkları, çıkarım için gönderilen görüntüler ve istemler ile bunları kaydeden günlükler bulunur.

Temel Kontroller#

Veri güvenliği, bir denetimin başarısız olması durumunda her şeyin açığa çıkmaması için birkaç koruma katmanını bir araya getirir:

• Şifreleme: Bekleyen veriler AES-256 gibi şifrelerle korunur; aktarım hâlindeki veriler TLS üzerinden iletilir.
• Erişim denetimi: Her kişi ve hizmete roller, çok faktörlü kimlik doğrulama ve paylaşılan parolalar yerine kısa ömürlü kimlik bilgileri aracılığıyla yalnızca ihtiyaç duyduğu en düşük düzeyde yetki verilir.
• Anahtar ve gizli bilgi yönetimi: Şifreleme anahtarları verilerden ayrı olarak bir anahtar yönetimi hizmetinde veya donanım güvenlik modülünde tutulur ve belirli aralıklarla yenilenir. API anahtarları kaynak kodunda ve not defterlerinde tutulmaz.
• Bütünlük denetimleri ve yedeklemeler: Sağlama toplamları ve dijital imzalar değiştirilmiş dosyaları tespit eder; sürümlendirilmiş, değiştirilemez yedeklemeler ise fidye yazılımı saldırılarından veya yanlışlıkla silme durumlarından kurtulmayı sağlar.
• Denetim günlükleri: Her okuma, yazma ve izin değişikliği kaydedilir; böylece bir hesabın gece vakti tüm veri kümesini indirmesi gibi olağandışı erişimler tespit edilip incelenebilir.

Kimliği doğrulanmış şifreleme, gizliliği ve bütünlüğü birlikte sağlar. Bu örnek, bir etiket dosyası satırını şifrelemek ve ardından tek bir bitin değiştirildiğini tespit etmek için Python cryptography paketindeki Fernet'i kullanır:

import base64

from cryptography.fernet import Fernet, InvalidToken

# Üretim ortamında anahtar bir anahtar yönetimi hizmetinden alınır ve verilerle birlikte asla saklanmaz
cipher = Fernet(Fernet.generate_key())

label = b"0 0.48 0.63 0.21 0.37\n"  # tek bir YOLO açıklama satırı
token = cipher.encrypt(label)  # AES-128-CBC şifreli metni ve HMAC-SHA256 etiketi
print(cipher.decrypt(token) == label)

# Saklanan şifreli metnin bir bitini değiştir; tahrifat veya disk bozulması durumunda olacağı gibi
raw = bytearray(base64.urlsafe_b64decode(token))
raw[30] ^= 1
try:
    cipher.decrypt(base64.urlsafe_b64encode(bytes(raw)))
except InvalidToken:
    print("Integrity check failed: decryption refused")

Sağlam belirteç özgün etikete çözüldüğü için ilk satır True yazdırır. Şifreli metnin bir biti değiştikten sonra HMAC etiketi artık eşleşmez; bu nedenle decrypt, InvalidToken hatasını verir ve değiştirilmiş verileri döndürmeden Integrity check failed: decryption refused yazdırır.

Makine Öğreniminde Veri Güvenliği#

Yapay zekâ sistemlerinde sıradan veritabanlarında bulunmayan saldırı yüzeyleri vardır:

• Veri zehirleme: Veri kümesine, etiketleme kuyruğuna veya kazınmış bir web kaynağına yazabilen bir saldırgan, gizli bir tetikleyici ortaya çıktığında modelin yanlış davranmasına yol açan örnekler ekler.
• Güvenli olmayan model dosyaları: Python'un pickle modülüyle kaydedilen kontrol noktaları yüklendiklerinde rastgele kod çalıştırabilir. PyTorch 2.6, torch.load değerini varsayılan olarak weights_only=True yaptı; bu seçenek tensörler ve basit türler dışındaki her şeyi reddeder. Safetensors biçimi ise yalnızca tensörleri saklar.
• Üyelik çıkarımı saldırıları: Eğitilmiş bir modeli sorgulamak, belirli bir kaydın eğitim kümesinde bulunup bulunmadığını ortaya çıkarabilir. Bu nedenle hassas verilerle eğitilen ağırlıkların da verilerle aynı şekilde korunması gerekir.
• İstem enjeksiyonu: Belgelere veya web sayfalarına gizlenmiş talimatlar, bir LLM uygulamasının bağlamındaki verileri açığa çıkarmasına ya da araçları aracılığıyla bir saldırgana göndermesine neden olabilir.
• Gölge yapay zekâ: Çalışanlar, kuruluşun onaylamadığı yapay zekâ araçlarına gizli verileri yapıştırarak erişim denetimlerini ve günlüklerini devre dışı bırakır.

Bilgisayarlı görü verileri riski artırır; çünkü insan, ev, araç ve hasta görüntüleri genellikle kişisel bilgiler içerir. Sağlık hizmetlerinde, ABD hastanelerinin tıbbi görüntü analizi için kullandığı taramalar, elektronik korunan sağlık bilgileri için idari, fiziksel ve teknik önlemler gerektiren HIPAA Güvenlik Kuralı kapsamındadır. Kareleri kamerada uç yapay zekâ ile işlemek ham videonun ağa hiç çıkmamasını sağlar; federe öğrenme, her sitenin verilerini kendinde tutarken ortak bir modeli eğitir; gizli yapay zekâ ise hassas veriler üzerindeki eğitim veya çıkarım işlemlerini buluttaki şifreli donanım yalıtılmış alanlarında yürütür. Şirket ağı içinde kalması gereken veri kümeleri için Ultralytics Platform'un Şirket İçi entegrasyonu, veri kümesi alımını, önizlemeleri ve eğitimi şirketin kendi bilgisayarında çalıştırır: çalışan süreç, veri kümesi klasörünü salt okunur olarak bağlar ve gelen bağlantı noktalarını açmadan HTTPS üzerinden dışarıya bağlanır; görüntü pikselleri Platform'a hiçbir zaman ulaşmaz, Platform yalnızca etiketleri, metrikleri ve en iyi kontrol noktasını alır.

Veri Güvenliği ve Veri Gizliliği#

Veri gizliliği, kişisel verilerin GDPR gibi yasalar kapsamında hukuka uygun biçimde ve insanlara bildirildiği şekilde toplanıp toplanmadığı, kullanılıp kullanılmadığı, paylaşılıp paylaşılmadığı ve saklanıp saklanmadığıyla ilgilidir. Veri güvenliği, gizlilik taahhütlerinin dayandığı teknik ve kurumsal korumaları sağlar ve ticari sırlar, kaynak kodu ve kişisel bilgi içermeyen model ağırlıkları dâhil tüm değerli verileri kapsar. Diferansiyel gizlilik gibi gizliliği artıran teknikler, yayımlanan bir modelin veya istatistiğin herhangi bir kişi hakkında açığa çıkardığı bilgiyi sınırlayarak bu ikisinin arasında yer alır. Bir ihlal, kişisel veriler açığa çıktığında gizlilik olayına dönüşen bir güvenlik başarısızlığıdır: GDPR'nin 33. maddesi uyarınca veri sorumlusu, böyle bir ihlalin farkına vardığı andan itibaren 72 saat içinde denetim makamını bilgilendirmelidir; ancak ihlalin insanların hak ve özgürlükleri için risk oluşturması olası değilse bu şart aranmaz.