Confidential AI

Gizli Yapay Zeka, hassas verileri, model ağırlıklarını ve ara sonuçları bir yapay zeka iş yükü boyunca, özellikle de aktif olarak işlenirken korumak için güvenlik teknolojilerinin ve çalışma kontrollerinin kullanılmasıdır. Temel amacı, "kullanımdaki veri" açığını kapatmaktır: depolama şifrelemesi dinlenme halindeki verileri korur ve ağ şifrelemesi transit halindeki verileri korur, ancak geleneksel sistemler eğitim veya çıkarım sırasında bellekteki şifresi çözülmüş bilgileri açığa çıkarabilir. Gizli Yapay Zeka, izole edilmiş, doğrulanabilir bilgi işlem ortamları aracılığıyla bu maruz kalma durumunu azaltır.

Gizli Yapay Zeka Nasıl Çalışır?#

Gizli Yapay Zeka, gizli bilgi işlem kavramını veri hazırlama, eğitim, ince ayar ve çıkarım gibi makine öğrenimi faaliyetlerine kadar genişletir. İş yükü, altyapı yöneticilerinin, bulut operatörlerinin, komşu iş yüklerinin veya güvenliği ihlal edilmiş ana bilgisayar yazılımlarının korunan kodu ve verileri görüntülemesini veya değiştirmesini önlemek için tasarlanmış izole bir alan olan donanım tabanlı bir güvenilir yürütme ortamı (TEE) içinde çalışır.

Bir TEE genellikle şunları sağlar:

• Bellek izolasyonu: Hesaplamalar yapılırken hassas bilgiler korunur.
• Kod ve veri bütünlüğü: İş yükündeki yetkisiz değişiklikler tespit edilebilir veya engellenebilir.
• Uzaktan tasdik: Kriptografik kanıt, bir veri sahibinin sırları açıklamadan önce donanımı, yazılımı ve yapılandırmayı doğrulamasına olanak tanır. Örneğin NVIDIA GPU tasdiki, uyumlu gizli GPU ortamlarının doğrulanmasını destekler.
• Kontrollü anahtar serbest bırakma: Şifre çözme anahtarları yalnızca ortam tasdiki geçtikten sonra verilebilir.

Bu korumalar altyapı operatörlerine duyulan güveni azaltır, ancak her riski ortadan kaldırmaz. Savunmasız uygulama kodu, açığa çıkan çıktılar, aşırı günlük kaydı, güvenliği ihlal edilmiş kullanıcı kimlik bilgileri ve kötü amaçlı model davranışı hala geleneksel veri güvenliği kontrollerini gerektirir.

Gizli Yapay Zeka ve İlgili Gizlilik Teknolojileri#

Gizli Yapay Zeka birkaç kavramla ilişkilidir ancak farklı bir koruma katmanını ele alır:

• Veri gizliliği: Kişisel veya hassas bilgilerin nasıl toplanabileceğini, kullanılabileceğini, saklanabileceğini ve paylaşılabileceğini tanımlar. Gizli Yapay Zeka teknik güvenceler sağlar ancak rıza veya yasal kullanım oluşturmaz.
• Diferansiyel gizlilik: Çıktıların bireysel kayıtlar hakkında neyi ortaya çıkardığını sınırlamak için dikkatlice kalibre edilmiş rastgelelik ekler. Gizli bilgi işlem yürütme ortamını korurken, bu istatistiksel ifşaya karşı koruma sağlar.
• Birleştirilmiş öğrenme: Ham kayıtları merkezileştirmeden merkezi olmayan veri kaynakları genelinde eğitim gerçekleştirir. Gizli bir TEE ayrıca toplama sürecini ve model güncellemelerini koruyabilir.
• Uç Yapay Zeka: İletimi ve gecikmeyi azaltmak için modelleri veri kaynağının yakınında çalıştırır. Yerel işleme veri minimizasyonunu iyileştirir, ancak yalnızca ortam uygun bir izolasyon ve doğrulama mekanizması da sağladığında gizli yapay zeka haline gelir.

Bu nedenle, bir yapay zeka servisi sırf bağlantıları şifrelediği, özel olarak çalıştığı veya müşteri girdileri üzerinde eğitim yapmayacağına söz verdiği için otomatik olarak gizli değildir. NIST’in gizli bilgi işlem tanımı özellikle işleme sırasında bilgilerin korunmasına odaklanır.

Gerçek Dünya Uygulamaları#

• Tıbbi görüntüleme iş birliği: Birkaç hastane, açıkça havuzda toplanamayan taramaları kullanarak teşhis amaçlı bir vizyon modeli eğitmek isteyebilir. Gizli bir ortam, diğer katılımcılar ve altyapı operatörleri tarafından erişimi sınırlandırırken birleştirilmiş verileri işleyebilir. Tasdik, kayıtların şifresi çözülmeden önce yalnızca onaylanmış eğitim kodunun çalıştırıldığını doğrulayabilir. Bu kontroller olmadan, ifşa hasta bilgilerini ortaya çıkarabilir veya düzenleyici ve sözleşmesel sonuçlar doğurabilir. Azure Confidential AI, bu deseni eğitim, ince ayar ve çıkarım genelinde açıklar.

• Korumalı endüstriyel denetim: Bir üretici, model sağlayıcı değerli ağırlıkları korumak isterken tescilli üretim görüntülerini barındırılan bir bilgisayarlı görü modeline gönderebilir. Gizli çıkarım her iki varlığı da izole edebilir: görüntüler yalnızca TEE içinde şifresi çözülür ve model ağırlıkları müşteriden ve altyapı operatöründen gizli kalır. Gizli yapay zeka iş yükleri için Google Cloud kılavuzu benzer güvenli analitik ve iş birliği senaryolarını kapsar.

Gizli Yapay Zekayı Bilgisayarlı Görüye Uygulamak#

Pratik bir mimari; minimize edilmiş veri toplama, şifrelenmiş depolama ve taşıma, kimlik kontrolleri, tasdik edilmiş bilgi işlem, kısıtlı günlükler ve çıktı filtrelemeyi birleştirir. Ekipler Tahmin modu kullanarak Ultralytics YOLO26 modelini yerel olarak çalıştırabilir ve ardından donanım destekli koruma gerektiğinde bu iş akışını uygun şekilde yapılandırılmış gizli altyapı içine yerleştirebilir.

from ultralytics import YOLO

# Load a pretrained YOLO26 detection model.
model = YOLO("yolo26n.pt")

# This public sample keeps the example runnable.
# Use a local file path for confidential production images.
results = model("https://ultralytics.com/images/bus.jpg")

result = results[0]
result.save(filename="confidential_result.jpg")

Bu iş akışı, yerel Python çalışma zamanı aracılığıyla çıkarım gerçekleştirir, ancak tek başına yerel yürütme bir TEE oluşturmaz veya tasdik sağlamaz. Üretim ekipleri, onaylanmış donanım üzerindeki kontrollü bir çalışma zamanını hedeflemek için YOLO dışa aktarma modunu kullanabilir. Veri seti etiketleme ve eğitimi için Ultralytics Platform şirket içi entegrasyonu, hangi meta verilerin ve model yapıtlarının sınırı geçtiğini belgelerken kaynak ve türetilmiş veri seti piksellerini müşteri tarafından yönetilen donanımda tutar.

Gizlilik İddialarını Değerlendirme#

Gizli istemci bilgilerini herhangi bir yapay zeka sistemine göndermeden önce, gerçek mimarisini ve ilkelerini doğrulayın. Verilerin nerede işlendiğini, girdi veya çıktıların saklanıp saklanmadığını, günlüklerine kimlerin erişebileceğini, verilerin eğitim için yeniden kullanılıp kullanılmadığını ve silme işleminin nasıl yönetildiğini inceleyin. Daha güçlü teknik güvence için servisin donanım destekli TEE'ler kullanıp kullanmadığını, uzaktan tasdiki destekleyip desteklemediğini ve anahtarları yalnızca doğrulanan iş yüklerine verip vermediğini sorun.

Gizli Yapay Zeka; erişim kontrolünü, zafiyet yönetimini, çıktı incelemesini, veri minimizasyonunu ve NIST AI Risk Management Framework gibi kuruluş genelinde bir çerçeveyi tamamlamalı, bunların yerini almamalıdır.