Açıklanabilir AI (XAI) hakkında bilmen gereken her şey

Yapay zekâ (AI) aracı ChatGPT’den gelen bir yanıtı görüp bu sonuca nasıl ulaştığını hiç merak ettin mi? İşte o zaman AI’ın “kara kutu” sorunuyla karşılaşmışsındır. Bu terim, AI modellerinin verileri nasıl işleyip analiz ettiğine dair açıklık bulunmamasını ifade eder. Gelişmiş AI algoritmalarıyla düzenli olarak çalışan AI mühendisleri ve bilim insanları bile algoritmaların iç işleyişini tam olarak anlamakta zorlanabilir. Nitekim BT uzmanlarının yalnızca %22’si AI araçlarının yeteneklerini gerçekten anlıyor.

AI modellerinin nasıl karar verdiğine ilişkin belirsizlik, özellikle sağlık hizmetlerinde bilgisayarlı görü ve finansta AI gibi kritik alanlarda risk oluşturabilir. Ancak bu zorlukların üstesinden gelmek ve şeffaflığı artırmak için önemli ilerlemeler kaydediliyor.

Özellikle açıklanabilir yapay zekâ (XAI) bu sorunu çözmeye odaklanır. Basitçe söylemek gerekirse, insan kullanıcıların karmaşık makine öğrenmesi algoritmalarının sonuçlarını veya çıktılarını anlamasına ve bunlara güvenmesine yardımcı olan süreç ve yöntemler bütünüdür.

XAI, geliştiricilerin AI sistemlerinin beklendiği gibi çalıştığından emin olmasına yardımcı olabilir. Ayrıca AI şirketlerinin düzenleyici standartları karşılamasına da katkıda bulunabilir. Bu makalede açıklanabilir yapay zekâyı ve geniş kullanım alanlarını ele alacağız.

Açıklanabilir yapay zekânın önemi#

AI ile çalışırken açıklanabilirlik çok önemlidir. Bu, özellikle sağlık hizmetleri gibi sektörlerde yaygın biçimde kullanılan bir AI alt alanı olan bilgisayarlı görü için geçerlidir. Bu tür hassas sektörlerde görüntü modelleri kullanıldığında, modelin nasıl çalıştığının herkes için şeffaf ve yorumlanabilir olması önem taşır.

Bilgisayarlı görü modellerinin yorumlanabilir olması, kullanıcıların bir tahminin nasıl yapıldığını ve arkasındaki mantığı daha iyi anlamasına yardımcı olur. Modelin sınırlamalarını açıkça ortaya koyup verilerin etik biçimde kullanılmasını sağlayarak şeffaflığı da artırır. Örneğin bilgisayarlı görü, radyologların röntgen görüntülerindeki sağlık sorunlarını verimli biçimde tespit etmesine yardımcı olabilir.

Şekil 1. Sağlıklı, hasta, aktif tüberküloz ve latent tüberküloz sınıflandırmalarını gösteren, görsel yapay zekâyla analiz edilmiş göğüs röntgenleri.

Ancak yalnızca doğru sonuç veren bir görüntü sistemi yeterli değildir. Sistemin kararlarını açıklayabilmesi de gerekir. Diyelim ki sistem, sonuçlarına ulaşmasını sağlayan görüntü bölgelerini gösterebiliyor; böylece tüm çıktılar daha anlaşılır hâle gelir. Bu düzeyde şeffaflık, sağlık profesyonellerinin bulgularını yeniden kontrol etmesine ve hasta bakımının tıbbi standartları karşılamasını sağlamasına yardımcı olur.

Açıklanabilirliğin önemli olmasının bir diğer nedeni, yapay zekâ şirketlerini sorumlu tutması ve kullanıcıların güvenini kazanmasıdır. Güvenilir yapay zekâ, kullanıcıların yapay zekâ yeniliklerinin güvenilir biçimde çalıştığına, adil kararlar aldığına ve verileri sorumlu biçimde işlediğine güvenmesini sağlar.

Bilgisayarlı görüde açıklanabilir yapay zekânın temel teknikleri#

Bilgisayarlı görüde açıklanabilirliğin neden önemli olduğunu ele aldığımıza göre, şimdi görsel yapay zekâda kullanılan temel XAI tekniklerine göz atalım.

Belirginlik haritaları#

Sinir ağları, verileri birbirine bağlı düğüm (nöron) katmanları üzerinden işleyerek örüntüleri tanımak ve karar vermek üzere tasarlanmış, insan beyninden esinlenen modellerdir. Karmaşık bilgisayarlı görü sorunlarını yüksek doğrulukla çözmek için kullanılabilirler. Bu doğruluğa rağmen, tasarımları gereği hâlâ kara kutu niteliğindedirler.

Belirginlik haritaları, görüntüleri analiz ederken sinir ağlarının ne gördüğünü anlamaya yardımcı olmak için kullanılabilen bir XAI tekniğidir. Modeller beklendiği gibi performans göstermediğinde sorun giderme amacıyla da kullanılabilir.

Belirginlik haritaları, bir modelin tahminlerini hangi görüntü bölümlerinin (piksellerin) belirlediğine odaklanır. Bu süreç, modelin tahminlerden girdiye geri iz sürdüğü geri yayılıma çok benzer. Ancak modelin ağırlıklarını hatalara göre güncellemek yerine, her pikselin tahmin için ne kadar “önemli” olduğuna bakarız. Belirginlik haritaları, görüntü sınıflandırma gibi bilgisayarlı görü görevlerinde çok kullanışlıdır.

Örneğin, bir görüntü sınıflandırma modeli görüntünün bir köpeğe ait olduğunu tahmin ederse, modelin neden köpek düşündüğünü anlamak için belirginlik haritasına bakabiliriz. Bu, çıktıyı en çok etkileyen pikselleri belirlememize yardımcı olur. Belirginlik haritası, görüntünün köpeğe ait olduğuna ilişkin nihai tahmine katkıda bulunan tüm pikselleri vurgular.

Şekil 2. Girdi görüntüleri ile belirginlik haritalarının yan yana görünümü.

Sınıf Aktivasyon Haritalama (CAM)#

Sınıf Aktivasyon Haritalama, bir sinir ağının görüntü sınıflandırma tahminleri yaparken görüntünün hangi bölümlerine odaklandığını anlamak için kullanılan bir başka XAI tekniğidir. Belirginlik haritalarına benzer şekilde çalışır, ancak belirli pikseller yerine görüntüdeki önemli özellikleri belirlemeye odaklanır. Özellikler, modelin görüntüde algıladığı şekiller veya dokular gibi örüntüler ya da ayrıntılardır.

Gradyan Ağırlıklı Sınıf Aktivasyon Haritalama (Grad-CAM) ve Grad-CAM++ gibi yöntemler, bazı iyileştirmelerle aynı fikri temel alır.

CAM şöyle çalışır:

• Sinir ağı nihai kararını vermeden önce, bilgiyi basitleştirmek için küresel ortalama havuzlama (GAP) adı verilen bir adım kullanır. GAP, algılanan bir örüntüdeki tüm pikselleri tek bir ortalama değerde birleştirerek her özellik haritası (algılanan örüntülerin görsel temsili) için bir özet oluşturur.
• Ardından her özellik haritasına, belirli bir sınıfı (örneğin “kuş” veya “kedi”) tahmin etmedeki önemini gösteren bir ağırlık verilir.
• Ancak CAM’in bir sınırlaması, bu ağırlıkları hesaplamak için modeli yeniden eğitmenin gerekebilmesidir; bu da zaman alabilir.

Grad-CAM, her özellik haritasının nihai tahmini ne ölçüde etkilediğini gösteren sinyaller gibi düşünülebilecek gradyanları kullanarak bunu geliştirir. Bu yöntem GAP gereksinimini ortadan kaldırır ve yeniden eğitim yapmadan modelin neye odaklandığını görmeyi kolaylaştırır. Grad-CAM++ bunu bir adım ileri taşıyarak yalnızca olumlu etkileri dikkate alır ve sonuçları daha da anlaşılır hâle getirir. Ultralytics YOLO modelleri, visualize=True ile tahmin modunu çalıştırdığında her görüntü için benzer bir sınıf aktivasyon ısı haritası kaydedebilir.

Şekil 3. CAM, Grad-CAM ve Grad-CAM++ karşılaştırması.

Karşıolgusal açıklamalar#

Karşıolgusal açıklamalar, açıklanabilir yapay zekânın önemli bir unsurudur. Karşıolgusal açıklama, gerçekleşmemiş ancak gerçekleşebilecek alternatif senaryoları veya olayları göz önünde bulundurarak bir durumu ya da sonucu betimler. “X gerçekleşmeseydi Y de gerçekleşmezdi.” gibi ifadelerle belirli girdi değişkenlerindeki değişikliklerin farklı sonuçlara nasıl yol açtığını gösterebilir.

AI ve bilgisayarlı görü bağlamında karşı-olgusal açıklama, bir AI modelinin farklı ve belirli bir sonuç üretmesini sağlamak için girdide (görüntü veya veri gibi) yapılması gereken en küçük değişikliği belirler. Örneğin, görüntüdeki bir nesnenin rengini değiştirmek, görüntü sınıflandırma modelinin tahminini “kedi”den “köpek”e çevirebilir.

Bir başka iyi örnek, yüz tanıma sistemindeki açıyı veya aydınlatmayı değiştirmektir. Bu değişiklik, modelin farklı bir kişiyi tanımlamasına yol açarak girdideki küçük değişikliklerin modelin tahminlerini nasıl etkileyebileceğini gösterir.

Bu açıklamaları oluşturmanın en basit yolu deneme yanılmadır: AI modeli istediğin sonucu verene kadar girdinin bazı bölümlerini (görüntünün veya verinin özellikleri gibi) rastgele değiştirebilirsin. Diğer yöntemler arasında değişiklikleri bulmak için optimizasyon ve arama teknikleri kullanan modelden bağımsız yaklaşımlar ile gerekli değişiklikleri belirlemek için iç ayarlara veya hesaplamalara dayanan modele özgü yaklaşımlar bulunur.

Açıklanabilir yapay zekânın bilgisayarlı görüdeki uygulamaları#

XAI’ın ne olduğunu ve temel tekniklerini artık ele aldığımıza göre, gerçek hayatta nasıl kullanıldığını inceleyebiliriz. XAI’ın birçok alanda çeşitli uygulamaları vardır. Potansiyelini gösteren bazı kullanım örnekleri şunlardır:

• Güvenlik sistemleri: XAI; pasaport ve sürücü belgeleri gibi kimlik belgelerindeki dönüştürülmüş görüntüleri algılayarak güvenlik sistemlerini geliştirmek için kullanılabilir. Bu, görüntülerin gerçekliğini doğrular, kimlik doğrulama süreçlerini güçlendirir ve hassas uygulamalarda dolandırıcılığı önler.

Şekil 4. XAI'ın dönüştürülmüş görüntüleri algılama yöntemi.

• Otonom sürüş: Sürücüsüz bir aracın yerleşik görsel yapay zekâ sisteminin yeteneklerini ve sınırlamalarını anlamak, araç gerçek yollarda kullanılmadan önce test edilmesinin önemli bir parçası olabilir. XAI, otomobil şirketlerinin sorunları daha net biçimde belirleyip gidermesine yardımcı olabilir.
• Hukuk sistemleri: Görüntü destekli belge analiz sistemleri, yargı kararlarında giderek daha fazla kullanılıyor. XAI, adil sonuçları destekler ve otomatik kararların incelenmesine olanak tanır. Ayrıca hukuk profesyonellerinin bir AI modelinin kararlarına nasıl ulaştığını anlamasına yardımcı olur.
• Yaban hayatı izleme: Kamera tuzakları, yaban hayatını izlemek ve hayvan türleri hakkında veri toplamak için sıkça kullanılır. XAI, yapay zekânın görüntülerdeki bu türleri nasıl sınıflandırdığını açıklamak için kullanılabilir. Böylece koruma çalışmaları daha güvenilir ve doğru hâle gelir.

Açıklanabilir yapay zekâ hakkında temel çıkarımlar#

Açıklanabilir yapay zekâ, AI sistemlerinin nasıl çalıştığını ve belirli kararları neden aldığını anlamayı kolaylaştırır. AI modelleri hakkındaki şeffaflık güven ve hesap verebilirlik oluşturur. Sağlık hizmetleri, güvenlik, otonom sürüş ve hukuk sistemleri gibi kritik alanlarda XAI; geliştiricilerin ve kullanıcıların AI tahminlerini anlamasına, hataları belirlemesine ve adil, etik kullanımı sağlamasına yardımcı olabilir. XAI, AI’ı daha şeffaf hâle getirerek teknoloji ile insan güveni arasındaki boşluğu kapatır ve AI’ı gerçek dünya uygulamaları için daha güvenli ve güvenilir kılar.

Daha fazla bilgi için GitHub depomuzu ziyaret et ve topluluğumuza katıl. Çözümler sayfalarımızda kendi kendine giden araçlarda AI uygulamalarını ve tarım uygulamalarını keşfet.