Data Poisoning

Data poisoning, Machine Learning (ML) modellerini oluşturmak için kullanılan training data verilerini kötü niyetli kişilerin kasıtlı olarak manipüle ettiği bir cybersecurity threat türüdür. Bir model eğitilmeden önce veri setini bozan saldırganlar, gizli arka kapılar ekleyebilir, önyargılar oluşturabilir veya modelin genel performansını düşürebilir. Bir sistemin kodunu hedef alan diğer güvenlik açıklarının aksine, data poisoning saldırıları doğrudan öğrenme sürecini hedef alır; bu da model üretim ortamlarına alındıktan sonra bunların tespit edilmesini inanılmaz derecede zorlaştırır. IBM's threat intelligence overview kaynağına göre, bu saldırılar yapay zeka sistemlerinin bütünlüğü ve güvenilirliği açısından ciddi riskler oluşturmaktadır.

Yapay Zeka Zehirlemenin Mekanikleri#

Kuruluşlar Deep Learning (DL) ve Large Language Models (LLMs) teknolojilerine giderek daha fazla güvendikçe, genellikle internetten doğrulanmamış devasa miktarda veri toplarlar. Bu uygulama, kötü niyetli kişilerin kamuya açık depolara uydurma veya zararlı veri noktaları eklemesine olanak tanıyan veri enjeksiyonu fırsatları yaratır. 2025 yılına ait son studies on AI poisoning araştırmaları korkutucu bir gerçeği ortaya koyuyor: Milyarlarca parametreye sahip devasa modellerde bile bir saldırganın sistemi tehlikeye atmak için yalnızca sabit sayıya yakın ve minimum düzeyde örneği manipüle etmesi yeterlidir.

LLM poisoning, modelin eğitim sırasında tükettiği metinlere belirli tetikleyici ifadelerin enjekte edilmesiyle gerçekleşir. Dağıtıma alındıktan sonra model, bir kullanıcı tetikleyici ifadeyi girene kadar normal şekilde çalışabilir; ancak bu ifade girildiğinde sistem güvenlik protokollerini atlayabilir veya toksik çıktılar üretebilir. Anthropic's 2025 research on LLM poisoning çalışması, 13 milyar parametreli bir modelde arka kapı oluşturmak için 250 kadar az sayıda zehirlenmiş belgenin bile yeterli olabileceğini göstermektedir.

Gerçek Dünya Uygulamaları ve Örnekleri#

Data poisoning yalnızca metin üretimiyle sınırlı kalmayıp Computer Vision (CV) modellerini de büyük ölçüde etkilemektedir. Bu tehdidin gerçek dünya uygulamalarında nasıl ortaya çıktığına dair iki somut örnek şunlardır:

• Disrupting Generative Art Models: Nightshade projesi gibi araçlar, dijital sanatçıların eserlerini çevrimiçi yüklemeden önce piksellerini incelikle değiştirmesini sağlar. Bir Generative AI modeli bu görselleri eğitim için topladığında, değiştirilen pikseller bir zehir gibi hareket ederek modelin komutları tamamen yanlış sınıflandırmasına neden olur—örneğin "araba" istendiğinde bir kedi görseli üretmesi gibi.
• Compromising Autonomous Vehicles: In object detection Otonom araçlar için kullanılan sistemlerde bir saldırgan, açık kaynaklı bir eğitim veri setindeki dur levhası görsellerini ince bir şekilde değiştirebilir. Belirli bir görsel gürültü uygulayarak, zehirlenmiş eğitim verisi modele dur levhalarını hız sınırı levhaları olarak yanlış yorumlamasını öğretir ve bu da felaket niteliğinde güvenlik riskleri doğurur.

Adversarial Saldırılardan Ayırt Etme#

Yakından ilişkili olmalarına rağmen, data poisoning kavramını Adversarial Attacks türünden ayırmak önemlidir. Adversarial attacks çıkarsama sırasında gerçekleşir; saldırgan, halihazırda eğitilmiş bir modeli kandırmak için girdiyi (gerçek dünyadaki bir dur levhasına etiket yapıştırmak gibi) manipüle eder. Buna karşın data poisoning eğitim sırasında gerçekleşir ve modelin iç mantığını temelden değiştirir. Her iki durumu ele almak da güçlü AI Safety protokolleri gerektirir.

Model Geliştirmede Risklerin Azaltılması#

Bu tehditlere karşı savunma yapmak, titiz bir model monitoring süreci ile model bütünlüğünü doğrulamak için kusursuz ve güvenilir validation data kullanılmasını gerektirir. Bir modeli doğrulanmış bir veri setine karşı değerlendirmek, ekiplerin kurcalamaya işaret edebilecek beklenmeyen performans düşüşlerini yakalamasına yardımcı olabilir. OpenAI's safety research ve OWASP GenAI Security Project tarafından belirlenen en iyi uygulamalar, hammaddesi web kazıma olan veriler yerine katı veri menşeini ve organize edilmiş veri setlerinin kullanımını vurgulamaktadır.

Modelleri oluşturup test ederken ekipler, kapsamlı doğrulama rutinlerinin yanı sıra PyTorch veya TensorFlow gibi köklü çerçevelerden yararlanmalıdır. Doğruluğun tehlikeye atılmadığından emin olmak için Ultralytics YOLO26 modelini temiz ve güvenilir bir veri setine karşı kolayca doğrulayabilirsin.

from ultralytics import YOLO

# Load a custom-trained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a trusted dataset to detect performance drops
# Sudden decreases in precision/recall may indicate data poisoning
metrics = model.val(data="clean_validation_data.yaml")

print(f"mAP50-95: {metrics.box.map}")  # Review core metrics

Büyük ölçekli bilgisayarlı görü projeleri için bu metrikleri birden fazla eğitim çalıştırması boyunca takip etmek esastır. Geliştiriciler, temel performansı anlamak için model evaluation insights kaynaklarını inceleyebilir ve doğrulanmamış dış kaynaklara güvenmeden verileri güvenli bir şekilde etiketlemek, eğitmek ve yönetmek için Ultralytics Platform çözümünden yararlanabilir. Güvenli veri küratörlüğünü kontrollü data augmentation teknikleriyle birleştirmek, modellerinin hem doğru kalmasını hem de dış manipülasyonlara karşı dirençli olmasını sağlar.