AI Safety

Yapay Zeka Güvenliği, Artificial Intelligence (AI) sistemlerinin güvenilir, öngörülebilir ve faydalı bir şekilde çalışmasını sağlamaya odaklanan çok disiplinli bir alandır. Sistemleri dış saldırılardan koruyan siber güvenliğin aksine Yapay Zeka Güvenliği, sistemin kendi tasarımı ve çalışmasındaki doğal riskleri ele alır. Bu, amaç uyumsuzluğundan, yeni ortamlardaki sağlamlık eksikliğinden veya Deep Learning (DL) genellemesindeki hatalardan kaynaklanan istenmeyen sonuçları önlemeyi içerir. Modeller daha özerk hale geldikçe, Center for Human-Compatible AI gibi kuruluşlardaki araştırmacılar, bu teknolojilerin insan niyeti ve güvenlik standartlarıyla uyumlu olmasını sağlamak için çalışmaktadır.

Güvenli AI'nın Temel Direkleri#

Güvenli bir sistem oluşturmak, basit doğruluk ölçümlerinin ötesine geçen birkaç teknik zorluğun ele alınmasını gerektirir. Bu sütunlar, Machine Learning (ML) modellerinin karmaşık, gerçek dünya senaryolarında dağıtıldığında bile kontrol altında kalmasını sağlar.

• Sağlamlık: Güvenli bir model, bozulmuş girdilerle veya ortamdaki değişikliklerle karşılaşıldığında performansını korumalıdır. Bu, giriş verilerinin küçük manipülasyonlarının bir modeli yüksek güvenle hatalar yapmaya yönlendirebileceği adversarial attacks karşı savunmayı içerir.
• Hizalama: Bu ilke, bir yapay zekanın hedeflerinin tasarımcının gerçek niyetiyle eşleşmesini sağlar. Uyumsuzluk genellikle bir sistem ödül fonksiyonunu "oynamayı" öğrendiğinde Reinforcement Learning içinde meydana gelir; örneğin bir temizlik robotunun dağınıklığı daha hızlı temizlemek için bir vazoyu kırması gibi. Bunu hafifletmek için Reinforcement Learning from Human Feedback (RLHF) gibi teknikler kullanılır.
• Yorumlanabilirlik: Explainable AI (XAI) olarak da bilinen bu kavram, "kara kutu" modellerinde şeffaflık oluşturmayı içerir. feature maps görselleştirmek, mühendislerin karar verme sürecini anlamasını sağlayarak modelin sahte korelasyonlara güvenmediğinden emin olur.
• İzleme: Sürekli model monitoring, data drift tespit etmek için esastır. Gerçek dünya verileri training data önemli ölçüde sapmaya başlarsa güvenlik protokolleri uyarıları veya yedek mekanizmaları tetiklemelidir.

Gerçek Dünya Uygulamaları#

AI Güvenliği, algoritmik başarısızlığın fiziksel zarara veya önemli ekonomik kayıplara yol açabileceği yüksek riskli alanlarda hayati önem taşır.

1. Autonomous Vehicles: In the field of AI in automotive, safety frameworks define how a car reacts to uncertainty. If an object detection model cannot identify an obstacle with high confidence, the system must default to a safe state—such as braking—rather than guessing. The NHTSA Automated Vehicles guidelines emphasize these fail-safe mechanisms.

2. Tıbbi Teşhis: AI in healthcare uygulanırken güvenlik, kritik teşhislerde yanlış negatifleri en aza indirmeyi içerir. Sistemler genellikle hiçbir potansiyel durumun kaçırılmadığından emin olmak için yüksek recall için ayarlanır ve etkili bir şekilde doktorlar için bir "ikinci görüş" olarak işlev görür. FDA Digital Health Center gibi düzenleyici kurumlar, tıbbi cihaz olarak yazılım (SaMD) için katı standartlar belirler.

Güvenlik Eşiklerinin Uygulanması#

Bilgisayarlı görüdeki en temel güvenlik mekanizmalarından biri güven eşiklerinin kullanımıdır. inference sırasında düşük olasılıklı tahminleri filtreleyerek geliştiriciler, sistemlerin zayıf bilgiler üzerine hareket etmesini engeller.

Aşağıdaki örnek, yalnızca güvenilir algılamaların işlenmesini sağlayarak Ultralytics YOLO26 kullanarak bir güvenlik filtresinin nasıl uygulanacağını göstermektedir.

from ultralytics import YOLO

# Load the YOLO26 model (latest standard for efficiency)
model = YOLO("yolo26n.pt")

# Run inference with a strict confidence threshold of 0.7 (70%)
# This acts as a safety gate to ignore uncertain predictions
results = model.predict("https://ultralytics.com/images/bus.jpg", conf=0.7)

# Verify detections meet safety criteria
print(f"Safety Check: {len(results[0].boxes)} objects detected with >70% confidence.")

AI Güvenliği vs. AI Etiği#

Bu terimler genellikle birbirinin yerine kullanılsa da, sorumlu AI'nın farklı yönlerini ele alırlar.

• AI Safety teknik bir mühendislik disiplinidir. "Bu sistem kazalara neden olmadan doğru şekilde çalışacak mı?" diye sorar. model hallucination ve pekiştirmeli öğrenmede güvenli keşif gibi sorunlarla ilgilenir.
• AI Ethics sosyoteknik bir çerçevedir. "Bu sistemi inşa etmeli miyiz ve adil mi?" diye sorar. EU AI Act içinde özetlendiği gibi algorithmic bias, gizlilik hakları ve faydaların adil dağılımı gibi konulara odaklanır.

Gelecek Görünümü#

Endüstri Artificial General Intelligence (AGI) doğru ilerledikçe güvenlik araştırmaları giderek daha kritik hale gelmektedir. Kuruluşlar, veri kümelerini yönetmek ve model deployment denetlemek için Ultralytics Platform yararlanabilir, böylece yapay zeka çözümlerinin yaşam döngüleri boyunca sağlam, şeffaf ve güvenlik standartlarıyla uyumlu kalmasını sağlayabilirler.