Confidential AI

Gizli yapay zekâ, makine öğrenimi eğitimi ve çıkarımını donanım tabanlı güvenilir yürütme ortamlarında (TEE) çalıştırma uygulamasıdır. Böylece veriler, istemler ve model ağırlıkları, bulut sağlayıcısı, sistem yöneticileri ve ana makinenin işletim sistemi dâhil herkese karşı korunur. Şifreleme, uzun süredir diskte bekleyen verileri ve ağlar üzerinden aktarılan verileri koruyor. Gizli yapay zekâ, geleneksel sistemlerin bir modeli işlerken şifresini çözüp CPU ve GPU belleğine aldığı, kullanım hâlindeki verilerle ilgili kalan boşluğu kapatır. Linux Foundation'ın Gizli Hesaplama Konsorsiyumu'nun 2019'dan beri desteklediği bir alan olan gizli hesaplamayı, yapay zekâ iş yüklerine uygular.

Gizli Yapay Zekâ Nasıl Çalışır?#

Güvenceyi üç donanım mekanizması mümkün kılar:

• Yalıtılmış yürütme: Intel TDX ve AMD SEV-SNP gibi CPU teknolojileri, hipervizörün anahtarlarını göremediği şifrelenmiş bellekte sanal makinenin tamamını çalıştırırken Intel SGX, tek bir uygulama içindeki daha küçük enklavları yalıtır. NVIDIA, Hopper neslinden başlayarak veri merkezi GPU'larına gizli hesaplama modu ekledi. Bu mod, CPU ile GPU arasında taşınan verileri şifreler ve ana makinenin GPU belleğini okumasını engeller.
• Uzaktan tasdik: TEE, herhangi bir sır almadan önce yongaya işlenmiş anahtarlara dayanan imzalı bir rapor üretir. Bu rapor, çalıştırdığı donanım, aygıt yazılımı ve yazılımın tam listesini içerir. Veri sahibi veya anahtar yönetimi hizmeti, raporu beklenen değerlerle karşılaştırır.
• Doğrulanmış anahtar serbest bırakma: Veri kümelerinin veya model ağırlıklarının şifre çözme anahtarları yalnızca doğrulama sürecini geçen ortamlara verilir; böylece korunan varlıklar yalnızca doğrulanmış iş yükünün içinde okunabilir.

Performans maliyeti, veri taşımada yoğunlaşır. Belleği ve CPU-GPU aktarımlarını şifrelemek ek yük getirir; GPU içindeki hesaplama ise tam hızda çalışır. Bu nedenle büyük dil modeli çıkarımı gibi hesaplama yoğun işler, çıkarım gecikmesinde yalnızca sınırlı artış görür.

Neye Karşı Koruma Sağlar?#

Tehdit modeli; bulut bilişim sağlayıcısındaki kötü niyetli bir içeriden kişiyi, ele geçirilmiş bir hipervizörü veya aynı fiziksel sunucudaki başka bir kiracıyı kapsayan, güvenliği ihlal edilmiş ya da meraklı bir altyapı katmanıdır. Koruma her iki yönde de işler. Veri sahipleri, denetlemedikleri bir modele hassas kayıtlar gönderebilir; model sahipleri de özel ağırlıklarını açığa çıkarmadan bir iş ortağının veri merkezinde veya uç noktada dağıtabilir. Tasdik, müşterinin verilerini kimin okuyabileceğini doğrulamasını sağladığından gizli hesaplama, yabancıların sahip olduğu donanımlarda çalışan egemen yapay zekâ hizmetleri için de yapı taşlarından biridir.

Gizli yapay zekâ yürütme ortamını güvenceye alır ve işlem hattının geri kalanını kapsayan kontrollerle birlikte kullanılır. Model çıktıları, diferansiyel gizlilik ile sınırlanan üyelik çıkarımı saldırıları aracılığıyla eğitim verilerini yine de açığa çıkarabilir; enklav içindeki uygulama kodu da erişim denetimi ve yama uygulama gibi standart veri güvenliği uygulamalarına ihtiyaç duyar.

İlgili Gizlilik Teknikleri#

• Birleşik öğrenme, ham verileri her katılımcının cihazında veya sunucusunda tutar ve yalnızca model güncellemelerini paylaşır. Toplama sunucusunu TEE içinde çalıştırmak bu güncellemelere ek koruma sağlar.
• Homomorfik şifreleme, hiçbir güvenilir donanım gerektirmeden doğrudan şifrelenmiş veriler üzerinde hesaplama yapar; ancak derin öğrenmede TEE'lerden kat kat yavaştır ve bu nedenle küçük modellere ve basit işlemlere ayrılmıştır.
• Uç yapay zekâ, verileri yakalayan cihazda işleyerek bu sorunu ortadan kaldırır; bu yöntem, modelin cihazda çalışacak kadar küçük olduğu her durumda işe yarar.

Gizli Yapay Zekâ Nerelerde Kullanılır?#

Özel bulut asistanları en görünür dağıtım örnekleridir. 2024'te tanıtılan Apple Private Cloud Compute, cihazın işleyemeyeceği kadar büyük Apple Intelligence isteklerini Apple silikonlu sunucularda işler; bu sunucular istekten sonra kullanıcı verisi saklamaz, çalışanlara ayrıcalıklı erişim vermez ve neyin çalıştığını bağımsız araştırmacıların doğrulayabilmesi için yazılım görüntülerini yayımlar. Kasım 2025'te duyurulan Google Private AI Compute, aynı tasarımı kendi TPU'larında Gemini modellerine uygular; cihazlar veri göndermeden önce tasdiki denetler.

Sağlık hizmetlerinde iş birliği de başka bir örnektir. Hasta kayıtlarını paylaşamayan hastaneler, bir dış geliştiricinin bir TEE içinde kendi verileriyle tıbbi görüntü analizi için model doğrulamasına veya eğitimine olanak tanıyabilir. Hastane model ağırlıklarını, geliştirici ise hastaların taramalarını hiçbir zaman görmez; bulut sağlayıcıları bu örüntüyü Azure'da gizli yapay zekâ ve başka hizmetlerle destekler.

Görüntü sistemleri de kişisel verileri işler: Mağazalardaki, kliniklerdeki ve iş yerlerindeki kameralar, veri gizliliği mevzuatı kapsamındaki yüzleri ve diğer bilgileri kaydeder. Gizli sanal makineler değiştirilmemiş uygulamaları çalıştırabildiğinden, ONNX veya TensorRT'ye aktarılmış bir Ultralytics YOLO26 modeli, herhangi bir GPU sunucusunda çalışacağı şekilde bu sanal makinelerde de dağıtılır; böylece her kare analiz edilirken bulut operatörüne karşı şifreli kalır.