Shadow AI

Gölge YZ, bir kuruluşta bilgi işlem, güvenlik veya uyumluluk ekiplerinin bilgisi ya da onayı olmadan yapay zekâ araçlarının, modellerinin ve hizmetlerinin kullanılmasıdır. Yaygın örnekler arasında çalışanların işle ilgili içerikleri kişisel hesaplarındaki bir üretken YZ asistanına yapıştırması, geliştiricilerin incelenmemiş bir model API'sini kullanması ve ekiplerin halihazırda kullandıkları yazılımlardaki YZ özelliklerini etkinleştirmesi bulunur. Gölge YZ, onaylanmamış uygulamalar ve bulut hizmetlerine ilişkin daha eski sorun olan gölge BT'nin bir alt kümesidir ve aynı nedenle büyür: Araçlar ücretsiz veya ucuzdur, kullanıma alınmaları birkaç dakika sürer ve insanları daha hızlı çalıştırır.

Gölge YZ'nin Gölge BT'den Farkı#

YZ hizmetleri, aldıkları verileri depolamanın yanı sıra işler de. Bir büyük dil modeline (LLM) gönderilen her istem kuruluştan çıkar; kullanıcı kapsam dışı bırakmadığı sürece tüketici planları konuşmaları saklayabilir veya bunları eğitim verisi olarak kullanabilir. 2023'te Samsung mühendisleri gizli kaynak kodunu ve toplantı notlarını ChatGPT'ye yapıştırdı; bunun ardından şirket, cihazlarında üretken YZ araçlarını kısıtladı.

Riskler ters yönde de işler. İncelenmemiş bir asistandan gelen çıktıda halüsinasyonlar, güvenli olmayan kod veya lisansı belirsiz metin bulunabilir ve bunlar kimse denetlemeden ürünlere ve kararlara yansıyabilir. Hugging Face gibi herkese açık merkezlerden indirilen model ağırlıkları, Python'ın pickle biçimini kullanıyorsa yüklendiklerinde istedikleri kodu çalıştırabilir; safetensors biçimi bu nedenle yalnızca tensor'ları saklar. Bir çalışanın kişisel token'ıyla e-postaya, takvimlere veya kod depolarına bağlanan YZ ajanları, şirket sistemlerinde işlem yapabilir; kötü amaçlı bir web sayfası veya belge de istem enjeksiyonu yoluyla bu ajanları yönlendirebilir.

Maliyet, veri ihlali istatistiklerine yansır. IBM'in 2026 Veri İhlalinin Maliyeti raporu, incelediği ihlale uğramış kuruluşların %43'ünde gölge YZ ile bağlantılı olaylar bulunduğunu; bunun bir önceki yılki %20'den yükseldiğini ve bu ihlallerin ortalama 5,39 milyon dolara mal olduğunu bildirdi. Genel ortalama ise 4,99 milyon dolardı.

Gölge Yapay Zekânın Yaygın Biçimleri#

• Sohbet botları ve yazma asistanları: Sözleşmeleri özetlemek, özel kodlarda hata ayıklamak veya müşteri kayıtları içeren yanıt taslakları hazırlamak için kullanılan kişisel hesaplar.
• Yerleşik yapay zekâ özellikleri: Bir tedarikçi, onaylanmış bir araca ses dökümü, özetleme veya toplantı notları özellikleri ekler ve bu özellik, yeni bir alt işlemciye yeni bir inceleme yapılmadan veri göndermeye başlar.
• İncelenmemiş modeller ve API'ler: Geliştiriciler görüntüleri harici bir görüntü işleme API'sine gönderir veya lisansını, kaynağını ve güvenliğini kimsenin denetlemediği indirilmiş ağırlıkları kullanıma alır.
• Tarayıcı uzantıları ve ajanlar: Bir çalışanın açtığı her sayfayı okuyan veya bağlı hesaplarda onun adına işlem yapan araçlar.

Gölge Yapay Zekâyı Tespit Etme ve Azaltma#

Keşif sürecinde çeşitli sinyaller bir arada kullanılır: yapay zekâ uç noktalarına giden trafiği gösteren ağ ve DNS günlükleri, yüklemeleri inceleyen bulut erişim güvenliği aracıları ve veri kaybı önleme araçları, tarayıcı uzantısı envanterleri, yapay zekâ abonelikleri ve API anahtarlarına ilişkin gider raporları ve ekiplerin kullandıkları araçları beyan ettiği anketler veya cezasız bildirim programları. Ardından keşfedilen her araç aşağıda gösterilen aynı ön değerlendirme sürecinden geçer ve yapay zekâ yönetişiminin dayandığı envantere eklenir.

Gölge yapay zekâyı azaltan programlar, hangi verilerin hangi araçlara girebileceğine dair net kuralları kullanımı kolay onaylı seçeneklerle bir araya getirir: müşteri verileriyle eğitimin devre dışı bırakıldığı kurumsal hesaplar, tüm model trafiğini kaydeden ve filtreleyen bir yapay zekâ ağ geçidi ve en hassas işler için kendi sunucularında barındırılan modeller. Yapay zekâ okuryazarlığı eğitimi, kuralların neden var olduğunu ve hangi araçların onaylandığını açıklar.

Bilgisayarlı görü çalışmalarında da benzer bir sorun yaşanır: kişilerin, ürünlerin veya tesislerin görüntüleri çevrim içi etiketleme ve eğitim araçlarında kişisel hesaplarda tutulabilir. Bir Ultralytics Platform ekip çalışma alanında herhangi bir üyenin oluşturduğu veri kümeleri, modeller ve dağıtımlar ekibe aittir; her üye bunları görebilir ve bunları kimin değiştirebileceğini Owner, Admin, Editor ve Viewer rolleri belirler.

Gölge yapay zekâ, veri gizliliği ve veri güvenliği olaylarına dönüşebilen bir görünürlük sorunudur; çünkü güvenlik ekibi varlığından haberdar olmadığı bir aracı değerlendiremez, koruyamaz veya izleyemez. NIST Yapay Zekâ Risk Yönetimi Çerçevesi, kuruluşların risk önceliklerine göre kaynak ayrılmış yapay zekâ sistemleri envanteri oluşturma mekanizmaları çağrısında bulunan GOVERN 1.6 alt kategorisinde bu konuya değinir.