Data Poisoning

Veri zehirleme, kötü niyetli kişilerin Makine Öğrenmesi (ML) modellerini oluşturmak için kullanılan eğitim verilerini kasıtlı olarak değiştirdiği bir siber güvenlik tehdididir. Saldırganlar, model eğitilmeden önce veri kümesini bozarak gizli arka kapılar ekleyebilir, önyargılara yol açabilir veya modelin genel performansını düşürebilir. Bir sistemin kodunu hedefleyen diğer güvenlik açıklarından farklı olarak veri zehirleme saldırıları doğrudan öğrenme sürecini hedefler; bu nedenle model üretim ortamlarında devreye alındıktan sonra tespit edilmeleri son derece zordur. IBM'in tehdit istihbaratı genel bakışına göre bu saldırılar, yapay zekâ sistemlerinin bütünlüğü ve güvenilirliği açısından ciddi riskler oluşturur.

Yapay Zekâ Zehirlemesinin İşleyişi#

Kuruluşlar Derin Öğrenmeye (DL) ve Büyük Dil Modellerine (LLM'ler) giderek daha fazla bel bağladıkça, internetten çoğu doğrulanmamış büyük miktarda veriyi kazıyor. Bu uygulama, saldırganların herkese açık depolara uydurma veya kötü amaçlı veri noktaları eklediği veri enjeksiyonuna fırsat yaratıyor. 2025'te yayımlanan yapay zekâ zehirleme çalışmaları endişe verici bir gerçeği ortaya koyuyor: milyarlarca parametreye sahip devasa modellerde bile saldırganın sistemi tehlikeye atmak için sabite yakın, çok az sayıda örneği değiştirmesi yeterli.

LLM zehirlemesi, modelin eğitim sırasında işlediği metinlere belirli tetikleyici ifadelerin eklenmesiyle gerçekleşir. Model devreye alındıktan sonra, kullanıcı tetikleyici ifadeyi girene kadar normal çalışabilir; bu ifade sistemin güvenlik protokollerini atlamasına veya zararlı çıktılar üretmesine neden olur. Anthropic'in 2025 tarihli LLM zehirleme araştırması, 13 milyar parametreli bir modelde arka kapı oluşturmak için yalnızca 250 zehirlenmiş belgenin yeterli olabileceğini gösteriyor.

Gerçek Dünya Uygulamaları ve Örnekleri#

Veri zehirleme yalnızca metin üretimini etkilemekle kalmaz, Bilgisayarlı Görü (CV) modelleri üzerinde de ciddi etki yaratır. Bu tehdidin gerçek dünya uygulamalarında nasıl ortaya çıktığına dair iki somut örnek şöyle:

• Üretken Sanat Modellerini Bozma: Nightshade projesi gibi araçlar, dijital sanatçıların eserlerini çevrimiçi yüklemeden önce piksellerini fark edilmesi güç biçimde değiştirmesine olanak tanır. Bir Üretken Yapay Zekâ modeli bu görüntüleri eğitim için kazıdığında, değiştirilmiş pikseller zehir işlevi görerek modelin istemleri tamamen yanlış sınıflandırmasına neden olur; örneğin araba istendiğinde kedi görüntüsü üretir.
• Otonom Araçları Tehlikeye Atma: Nesne algılama sistemlerinde, sürücüsüz araçlar için kullanılan açık kaynaklı bir eğitim veri kümesindeki dur işareti görüntülerini saldırgan fark edilmesi güç biçimde değiştirebilir. Belirli görsel parazitleri uygulayarak zehirlenmiş eğitim verileri modele dur işaretlerini hız sınırı işaretleri olarak yanlış yorumlamayı öğretir; bu da feci güvenlik riskleri doğurur.

Hasmane Saldırılardan Farkı#

Yakından ilişkili olsalar da veri zehirlemeyi Hasmane Saldırılardan ayırmak önemlidir. Hasmane saldırılar çıkarım sırasında gerçekleşir; saldırgan, önceden eğitilmiş bir modeli yanıltmak için girdi verilerini değiştirir (örneğin gerçek dünyadaki bir dur işaretine çıkartma yapıştırır). Buna karşılık veri zehirleme, eğitim sırasında gerçekleşir ve modelin iç mantığını temelden değiştirir. Her iki sorunu da ele almak için sağlam Yapay Zekâ Güvenliği protokolleri gerekir.

Model Geliştirmedeki Riskleri Azaltma#

Bu tehditlere karşı koymak için titiz model izleme süreçleri ve model bütünlüğünü doğrulayan kusursuz, güvenilir doğrulama verileri gerekir. Bir modeli doğrulanmış bir veri kümesiyle değerlendirmek, ekiplerin kurcalamaya işaret edebilecek beklenmedik performans düşüşlerini yakalamasına yardımcı olabilir. OpenAI'ın güvenlik araştırmalarında ve OWASP GenAI Güvenlik Projesi'nde açıklanan en iyi uygulamalar, veri kökeninin sıkı biçimde izlenmesini ve ham web verisi kazıma yerine özenle seçilmiş veri kümelerinin kullanılmasını vurguluyor.

Ekipler, modelleri oluşturup test ederken kapsamlı doğrulama rutinlerinin yanı sıra PyTorch veya TensorFlow gibi yerleşik çatılardan yararlanmalıdır. Doğruluğun tehlikeye girmediğinden emin olmak için Ultralytics YOLO26 modelini temiz ve güvenilir bir veri kümesiyle kolayca doğrulayabilirsin.

from ultralytics import YOLO

# Load a custom-trained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a trusted dataset to detect performance drops
# Sudden decreases in precision/recall may indicate data poisoning
metrics = model.val(data="clean_validation_data.yaml")

print(f"mAP50-95: {metrics.box.map}")  # Review core metrics

Büyük ölçekli bilgisayarlı görü projelerinde bu metrikleri birden fazla eğitim çalıştırması boyunca izlemek önemlidir. Geliştiriciler, temel performansı anlamak için model değerlendirme içgörülerini inceleyebilir; doğrulanmamış harici kaynaklara bel bağlamadan verileri güvenli biçimde etiketlemek, eğitmek ve yönetmek için Ultralytics Platform kullanabilir. Güvenli veri seçimini kontrollü veri artırma teknikleriyle birleştirmek, modellerinin hem doğru hem de harici müdahalelere karşı dayanıklı kalmasına yardımcı olur.