Transparency in AI

Yapay zekâda şeffaflık, bir yapay zekâ (AI) sisteminin nasıl oluşturulduğu, eğitildiği, değerlendirildiği ve kullanıldığı konusunda açık olmak ve insanlara böyle bir sistemle etkileşimde olduklarını bildirmektir. Şeffaflık, sistemin tamamıyla ilgili soruları yanıtlar: modeli hangi verilerin eğittiği, modeli kimin ve hangi amaçla geliştirdiği, modelin ne kadar iyi performans gösterdiği ve kimler için etkili olduğu, hangi amaçlarla kullanılmaması gerektiği ve bir sohbet ortağının, görüntünün ya da kararın yapay zekâ ürünü olup olmadığı. Şeffaflık, kullanıcıların güven düzeylerini ayarlamasına, denetçilerin ve düzenleyicilerin sistemin iddialarını kontrol etmesine, araştırmacıların da algoritmik önyargı gibi kusurları bulmasına yardımcı olur. Bu nedenle OECD Yapay Zekâ İlkeleri ve diğer yapay zekâ etiği çerçevelerinin çoğu, şeffaflığı temel bir ilke olarak sıralar.

Şeffaflık Biçimleri#

• Bilgilendirme: İnsanlara bir yapay zekâ sistemiyle etkileşimde oldukları veya yapay zekâ tarafından oluşturulmuş içerik gördükleri bildirilir. 2 Ağustos 2026'dan beri geçerli olan AB Yapay Zekâ Yasası'nın 50. maddesi, sohbet robotlarının kullanıcıların bir makineyle konuştuğunu açıkça belirtmesini, üretken sistem sağlayıcılarının çıktıları makine tarafından okunabilir bir biçimde işaretlemesini ve sistemi kullananların deepfake'leri etiketlemesini zorunlu kılar. Content Credentials (C2PA) ve yapay zekâ filigranlama gibi standartlar bu işaretlemeyi uygular.
• Belgelendirme: Bir model kartı, modelin kullanım amacını, eğitim verilerini, gruplara göre ayrıştırılmış değerlendirme sonuçlarını ve bilinen sınırlamalarını bildirir. Veri Kümeleri için Veri Sayfaları da veriler için aynısını yaparak verilerin gerekçesini, bileşimini, toplanma sürecini ve önerilen kullanım alanlarını kaydeder. AB Yapay Zekâ Yasası kapsamında, genel amaçlı yapay zekâ modeli sağlayıcıları, Avrupa Komisyonunun Temmuz 2025'te yayımladığı şablonu kullanarak eğitim içeriklerinin bir özetini de yayımlamalıdır.
• Erişim: Ağırlıkları, kodu veya verileri yayımlamak; dışarıdan kişilerin, model geliştiricisinin raporlarına güvenmek yerine modeli doğrudan incelemesini, yeniden üretmesini ve test etmesini sağlar.
• Çıktıların açıklanması: Bireysel kararlar, açıklanabilir yapay zekâ (XAI) yöntemleriyle açıklanabilir. GDPR ve AB Yapay Zekâ Yasası, yüksek risk taşıyan bazı ortamlarda bu yöntemlerin kullanılmasını zorunlu kılar.

Erişim farklı düzeylerde sunulur. Kapalı bir model yalnızca geliştiricisinin API'si üzerinden kullanılabilir; açık ağırlıklı bir model parametrelerini yayımlar. Open Source Initiative'ın Ekim 2024'te yayımladığı Açık Kaynaklı Yapay Zekâ Tanımı 1.0 ise ayrıca eksiksiz eğitim ve çıkarım kodunu ve yetkin bir kişinin büyük ölçüde eşdeğer bir sistem oluşturabilmesi için kaynak ve işleme süreci dâhil eğitim verileri hakkında yeterli ayrıntıyı gerektirir:

Şeffaflık ve Açıklanabilirlik#

Terimler örtüşür ve bazen "şeffaflık ve açıklanabilirlik" ifadesinde olduğu gibi birlikte kullanılır. Şeffaflık, sistemi ve sistemi ortaya çıkaran süreci ele alır; geliştiricinin eğitim verilerini ve test sonuçlarını belgelemesi gibi, kimsenin yorumlayamadığı bir model için de geçerlidir. Açıklanabilirlik ise bir modelin belirli bir çıktıyı neden ürettiğiyle ilgilidir; örneğin sınıflandırmayı hangi piksellerin etkilediğiyle. Küçük karar ağaçları gibi yorumlanabilir modeller, tasarımları gereği anlaşılabilirdir. Mekanik yorumlanabilirlik, büyük ağların iç devrelerini tersine mühendislikle çözümler. Verilerin nereden geldiğini ve nasıl değiştiğini kaydeden veri köken bilgisi, şeffaflık raporlarının içeriğinin büyük bölümünü sağlar.

Modelle Birlikte Taşınan Belgeler#

Belgeler, modelle birlikte dağıtımdan sonra da kaldığında en kullanışlı hâle gelir. Ultralytics YOLO26, modelin ve eğitim veri kümesinin açıklamasını, kitaplık sürümünü, dışa aktarma tarihini, görevi, girdi boyutunu ve sınıf adlarını her dışa aktarılmış modele, örneğin bir ONNX dosyasının meta veri özelliklerine yazar. Ultralytics, modeli doğru şekilde çalıştırmak için bu alanları yeniden okur:

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

Yazdırılan alanlar; özgün eğitim çalışmasına erişim gerekmeden modelin kimliğini, eğitim verilerini, modeli dışa aktaran yazılımı ve dışa aktarma zamanını belirtir.

Şeffaflığı Ölçme#

Stanford'un Temel Model Şeffaflık Endeksi, önde gelen yapay zekâ geliştiricilerini amiral gemisi modellerinin arkasındaki verileri ve hesaplama gücünü, modellerin kendisini ve yayımlandıktan sonraki kullanım biçimlerini kapsayan 100 göstergeye göre puanlar. 13 geliştiricinin puanlandığı 2025 edisyonunda ortalama, 2024'teki 58 puandan 100 üzerinden 40 puana düştü. Geliştiricilerin en az şeffaf olduğu alanlar eğitim verileri ve eğitimde kullanılan hesaplama gücü olurken IBM, endeksin en yüksek puanı olan 95'i aldı.