AI Ethics

AI etiği, yapay zekânın (AI) tasarımına, geliştirilmesine ve kullanımına ahlaki ilkeleri uygulayan; hangi sistemlerin geliştirilmesi gerektiğini, sistemlerin nasıl davranması gerektiğini ve sistemlerin etkilerinden kimin sorumlu olduğunu sorgulayan alandır. AI etiğinin temel konuları hakkaniyet, gizlilik, şeffaflık, güvenlik, hesap verebilirlik ve insan gözetimidir; AI etiği felsefe, hukuk, sosyal bilimler ve mühendislikten yararlanır. Uygulamada AI etiği, ekiplerin veri toplama, modelleri değerlendirme ve hangi ürünleri piyasaya süreceklerine karar verme biçimlerini şekillendirir; ayrıca AB Yapay Zekâ Tüzüğü ve Kaliforniya'nın AI yasaları gibi düzenlemelerin temelini oluşturur.

Temel İlkeler#

Uluslararası çerçeveler benzer bir dizi ilkede uzlaşır. 2019'da kabul edilip 2024'te güncellenen OECD AI İlkeleri, yapay zekâya ilişkin ilk hükümetler arası standarttı; UNESCO'nun Yapay Zekâ Etiğine İlişkin Tavsiye Kararı 2021'de 193 üye devletin tamamı tarafından kabul edildi; NIST Yapay Zekâ Risk Yönetimi Çerçevesi (2023) ise benzer değerleri, kuruluşların ölçebileceği güvenilir yapay zekâ özelliklerine dönüştürür:

• Adalet ve ayrımcılık yapmama: Sistemler; ten rengi, cinsiyet, yaş veya korunan diğer özellikler nedeniyle bazı kişilere karşı daha kötü performans göstermemeli ya da onları dezavantajlı duruma düşürmemelidir. Yapay zekâda önyargı genellikle temsili olmayan verilerden veya etiketlerden kaynaklanır; yapay zekâda adalet ise bunu sınayan ölçütleri sağlar.
• Gizlilik ve veri yönetişimi: Kişisel veriler, gerektiğinde rıza alınarak ve yasalara uygun biçimde toplanmalı; yalnızca amaç için gereken ölçüde işlenmelidir. Diferansiyel gizlilik ve federe öğrenme gibi teknikler, bir modelin açığa çıkardığı veya merkezileştirdiği veri miktarını azaltır. Video analizinde gizliliği tasarıma dâhil etmek, görüntüler saklanmadan önce kişileri anonimleştirmek anlamına gelebilir: Ultralytics nesne bulanıklaştırma çözümü, her karede YOLO26 algılaması yapar ve kişiler dâhil algılanan her nesneyi yerinde bulanıklaştırır.
• Şeffaflık ve açıklanabilirlik: İnsanlar bir yapay zekâ sistemiyle etkileşimde olduklarını bilmeli ve sistemin nasıl geliştirildiğini öğrenebilmelidir; bu konu yapay zekâda şeffaflık kapsamında ele alınır. İnsanları etkileyen kararlar da açıklanabilir yapay zekâ (XAI) yöntemleriyle açıklanabilmelidir.
• Güvenlik ve sağlamlık: Sistemler, dağıtım sırasında karşılaştıkları koşullarda güvenilir biçimde çalışmalı, karşıt saldırılar gibi manipülasyonlara direnç göstermeli ve güvenli biçimde hata vermelidir.
• Hesap verebilirlik ve insan gözetimi: Her sistemin sonuçlarından adı belirli bir kişi veya kuruluş sorumlu olmalı; insanlar sistemi izleyebilmeli, müdahale edebilmeli veya sistemi kapatabilmelidir.

İlkelerden Yasaya#

AB Yapay Zekâ Yasası, bu ilkeleri risk düzeyine göre ölçeklenen yükümlülüklere dönüştürür. Yasa Ağustos 2024'te yürürlüğe girdi; yasaklanan uygulamalara ilişkin yasaklar 2 Şubat 2025'ten, şeffaflık yükümlülükleri ise 2 Ağustos 2026'dan beri uygulanıyor. 2026 Dijital Omnibus değişikliğinin ardından, işe alım, kredi puanlaması ve eğitim gibi Ek III'te listelenen yüksek riskli kullanımlara ilişkin gereklilikler 2 Aralık 2027'den itibaren geçerli olacak. Yasa, yapay zekânın her kullanımını doğurduğu yükümlülüklere göre sınıflandırır:

Bazı yasaklar doğrudan bilgisayarlı görü ile ilgilidir: tanıma veritabanları oluşturmak için internetten veya CCTV sistemlerinden yüz görüntülerinin hedefsiz biçimde toplanması; iş yerlerinde ve okullarda duygu tanıma; ırk veya siyasi görüş gibi özellikleri çıkarımlayan biyometrik kategorilendirme; ayrıca dar kapsamlı istisnalar dışında, kolluk kuvvetlerinin kamusal alanlarda gerçek zamanlı uzaktan biyometrik kimlik tespiti. Kuruluşlar, yapay zekâ yönetimi uygulamalarını 2023'te yayımlanan uluslararası standart ISO/IEC 42001'e göre de belgelendirebilir.

Yapay Zekâ Etiği ve İlgili Terimler#

• Yapay zekâ güvenliği: Sistemler daha yetenekli hâle geldikçe kazaları, kötüye kullanımı ve kontrol kaybını önlemeye odaklanır. Yapay zekâ etiği ayrıca bir sistemin var olması gerekip gerekmediğini ve kime hizmet ettiğini sorgular.
• Yapay zekâ yönetişimi: Kuruluşların ve hükümetlerin etik ilkeleri uygulamaya koyduğu politika, süreç ve yasalar.
• Sorumlu yapay zekâ: Şirketlerin genellikle kendi yapay zekâ etiği uygulamaları için kullandığı terim; büyük ölçüde eş anlamlıdır.
• Algoritmik önyargı: Daha geniş alan içindeki belirli bir etik sorun; adaletsiz sonuçlar doğuran sistematik hata.

Bilgisayarlı Görüde Etik Sorunlar#

• Sağlık hizmetleri: Tıbbi görüntü analizinde, tek bir hastanenin tarayıcıları ve hastalarıyla doğrulanan bir model, hiç görmediği popülasyonlardaki bulguları kaçırabilir. Bu nedenle etik çerçeveler, gruplara ayrıştırılmış değerlendirme ve klinisyen gözetimi çağrısında bulunur.
• Sentetik medya: Deepfake'ler dolandırıcılığa, tacize ve dezenformasyona olanak tanır; AB Yapay Zekâ Yasası, bunları kullananların bu içerikleri açıklamasını zorunlu kılar.
• Duygu tanıma: Microsoft, duygusal durumları ve cinsiyet ile yaş gibi özellikleri çıkarımlayan Azure Face özelliklerini 2022'de kullanımdan kaldırdı. Şirket, duyguların nasıl tanımlanacağı konusunda bilimsel uzlaşı bulunmamasını ve yüz ifadelerinden yapılan çıkarımların bölgeler ve demografik gruplar arasında genellenebilirliğine ilişkin şüpheleri gerekçe gösterdi.
• Rıza ve veri kümesinin kaynağı: Yüz ve kişi veri kümelerinin çoğu, fotoğraflardaki kişilerin haberi olmadan toplandı; Microsoft, yaklaşık 100.000 kişinin 10 milyon fotoğrafını içeren MS-Celeb-1M veri kümesini 2019'da kaldırdı.
• Yüz tanıma ve gözetim: Haziran 2020'de IBM genel amaçlı yüz tanıma hizmeti sunmayı bıraktı, Amazon ise Rekognition hizmetinin polis tarafından kullanımını duraklattı ve bu moratoryumu daha sonra süresiz olarak uzattı. Hollanda Veri Koruma Kurumu, Eylül 2024'te internetten toplanan milyarlarca yüz fotoğrafından veritabanı oluşturduğu için Clearview AI'a 30,5 milyon € para cezası verdi.