Açıklanabilir AI (XAI) hakkında bilmen gereken her şey

Hiç ChatGPT gibi bir yapay zekâ (AI) aracından gelen bir yanıtı görüp bu sonuca nasıl ulaştığını merak ettin mi? O zaman AI’ın “kara kutu” sorunuyla karşılaşmışsın demektir. Bu terim, AI modellerinin verileri nasıl işlediği ve analiz ettiği konusundaki belirsizliği ifade eder. En gelişmiş AI algoritmalarıyla düzenli olarak çalışan AI mühendisleri ve bilim insanları bile bu algoritmaların iç işleyişini tam olarak anlamakta zorlanabilir. Hatta BT profesyonellerinin yalnızca %22’si AI araçlarının yeteneklerini gerçekten anlıyor.

AI modellerinin kararları nasıl aldığı konusundaki belirsizlik, özellikle sağlık hizmetlerinde bilgisayarlı görü ve finansta AI gibi kritik alanlarda riskli olabilir. Ancak bu zorlukların üstesinden gelmek ve şeffaflığı artırmak için önemli ilerlemeler kaydediliyor.

Özellikle açıklanabilir yapay zekâ (XAI) yalnızca bu sorunu çözmeye odaklanır. Basitçe ifade etmek gerekirse XAI, insan kullanıcıların karmaşık makine öğrenimi algoritmalarının sunduğu sonuçları veya çıktıları anlamasına ve bunlara güvenmesine yardımcı olan bir dizi süreç ve yöntemdir.

XAI, geliştiricilerin AI sistemlerinin beklendiği gibi çalıştığından emin olmasına yardımcı olabilir. Ayrıca AI şirketlerinin düzenleyici standartları karşılamasına da yardımcı olabilir. Bu makalede açıklanabilir yapay zekâyı ve çok çeşitli kullanım alanlarını inceleyeceğiz. Hadi başlayalım!

Açıklanabilir yapay zekânın önemi#

AI ile çalışırken açıklanabilirlik kritik öneme sahiptir. Bu durum, sağlık hizmetleri gibi sektörlerdeki uygulamalarda yaygın olarak kullanılan AI alt alanı bilgisayarlı görü için özellikle geçerlidir. Bu tür hassas sektörlerde görü modelleri kullanılırken modelin işleyişinin herkes için şeffaf ve yorumlanabilir olması önemlidir.

Bilgisayarlı görü modellerinde yorumlanabilirlik, kullanıcıların bir tahminin nasıl yapıldığını ve arkasındaki mantığı daha iyi anlamasına yardımcı olur. Şeffaflık ise modelin sınırlamalarını açıkça ortaya koyarak ve verilerin etik biçimde kullanılmasını sağlayarak modelin işleyişini herkes için anlaşılır hâle getirir. Örneğin bilgisayarlı görü, radyologların röntgen görüntülerindeki sağlık sorunlarını verimli bir şekilde tespit etmesine yardımcı olabilir.

Şekil 1. Sağlıklı, hasta, aktif ve latent tüberküloz sınıflandırmalarını gösteren, görü AI kullanılarak analiz edilmiş göğüs röntgenleri.

Ancak yalnızca doğru sonuç veren bir görü sistemi yeterli değildir. Sistemin kararlarını açıklayabilmesi de gerekir. Sistemin, sonuçlarına yol açan görüntü bölümlerini gösterebildiğini varsayalım; bu durumda tüm çıktılar daha anlaşılır olurdu. Böyle bir şeffaflık düzeyi, sağlık profesyonellerinin bulgularını yeniden kontrol etmesine ve hasta bakımının tıbbi standartları karşılamasını sağlamasına yardımcı olurdu.

Açıklanabilirliğin önemli olmasının bir başka nedeni, AI şirketlerini hesap verebilir hâle getirmesi ve kullanıcıların güvenini oluşturmasıdır. Güvenilir AI, kullanıcıların AI yeniliklerinin güvenilir biçimde çalıştığından, adil kararlar aldığından ve verileri sorumlu bir şekilde işlediğinden emin olmasını sağlar.

Bilgisayarlı görüde temel açıklanabilir yapay zekâ teknikleri#

Bilgisayarlı görüde açıklanabilirliğin neden önemli olduğunu ele aldığımıza göre şimdi görü AI’da kullanılan temel XAI tekniklerine göz atalım.

Belirginlik haritaları#

Sinir ağları, verileri birbirine bağlı düğüm (nöron) katmanları üzerinden işleyerek örüntüleri tanımak ve kararlar almak üzere tasarlanmış, insan beyninden esinlenen modellerdir. Karmaşık bilgisayarlı görü sorunlarını yüksek doğrulukla çözmek için kullanılabilirler. Bu doğruluğa rağmen tasarımları gereği hâlâ kara kutudur.

Belirginlik haritaları, görüntüleri analiz ederken sinir ağlarının ne gördüğünü anlamaya yardımcı olan bir XAI tekniğidir. Ayrıca modeller beklenen performansı göstermediğinde sorun gidermek için de kullanılabilir.

Belirginlik haritaları, bir modelin tahminlerini hangi görüntü bölümlerinin (piksellerin) belirlediğine odaklanarak çalışır. Bu süreç, modelin tahminlerden girdiye doğru geriye iz sürdüğü geri yayılıma oldukça benzer. Ancak modelin ağırlıklarını hatalara göre güncellemek yerine yalnızca her pikselin tahmin için ne kadar "önemli" olduğuna bakarız. Belirginlik haritaları, görüntü sınıflandırma gibi bilgisayarlı görü görevleri için çok kullanışlıdır.

Örneğin bir görüntü sınıflandırma modeli bir görüntünün köpek olduğunu tahmin ederse modelin neden bunun köpek olduğunu düşündüğünü anlamak için belirginlik haritasına bakabiliriz. Bu, çıktıyı en çok etkileyen pikselleri belirlememize yardımcı olur. Belirginlik haritası, görüntünün köpek olduğuna dair nihai tahmine katkıda bulunan tüm pikselleri vurgular.

Şekil 2. Girdi görüntülerinin ve bunlara ait belirginlik haritalarının yan yana görünümü.

Sınıf Aktivasyon Haritalama (CAM)#

Sınıf Aktivasyon Haritalama, bir sinir ağının görüntü sınıflandırma tahminleri yaparken görüntünün hangi bölümlerine odaklandığını anlamak için kullanılan başka bir XAI tekniğidir. Belirginlik haritalarına benzer şekilde çalışır, ancak belirli pikseller yerine görüntüdeki önemli özellikleri belirlemeye odaklanır. Özellikler, modelin görüntüde tespit ettiği şekiller veya dokular gibi örüntüler ya da ayrıntılardır.

Gradyan Ağırlıklı Sınıf Aktivasyon Haritalama (Grad-CAM) ve Grad-CAM++ gibi yöntemler, bazı iyileştirmelerle aynı fikri temel alır.

CAM şu şekilde çalışır:

• Sinir ağı nihai kararını vermeden önce bilgileri basitleştirmek için küresel ortalama havuzlama (GAP) adı verilen bir adım kullanır. GAP, tespit edilen bir örüntüdeki tüm pikselleri tek bir ortalama değerde birleştirerek her özellik haritası (tespit edilen örüntülerin görsel temsili) için bir özet oluşturur.
• Daha sonra her özellik haritasına, belirli bir sınıfı ("kuş" veya "kedi" gibi) tahmin etmedeki önemini gösteren bir ağırlık verilir.
• Ancak CAM’in bir sınırlaması, bu ağırlıkları hesaplamak için modeli yeniden eğitmen gerekebilmesidir; bu da zaman alabilir.

Grad-CAM, her özellik haritasının nihai tahmini ne ölçüde etkilediğini gösteren sinyallere benzeyen gradyanları kullanarak bunu iyileştirir. Bu yöntem GAP ihtiyacını ortadan kaldırır ve yeniden eğitim olmadan modelin neye odaklandığını görmeyi kolaylaştırır. Grad-CAM++ ise yalnızca pozitif etkiler üzerine odaklanarak bunu bir adım ileri taşır ve sonuçları daha da anlaşılır hâle getirir.

Şekil 3. CAM, Grad-CAM ve Grad-CAM++ karşılaştırması.

Karşı-olgusal açıklamalar#

Karşı-olgusal açıklamalar, açıklanabilir yapay zekânın önemli bir unsurudur. Karşı-olgusal açıklama, gerçekleşmemiş ancak gerçekleşebilecek alternatif senaryoları veya olayları dikkate alarak bir durumu ya da sonucu açıklamayı içerir. Belirli girdi değişkenlerindeki değişikliklerin farklı sonuçlara nasıl yol açtığını, örneğin “X olmasaydı Y gerçekleşmezdi.” ifadesindeki gibi gösterebilir.

AI ve bilgisayarlı görü söz konusu olduğunda karşı-olgusal açıklama, bir AI modelinin farklı ve belirli bir sonuç üretmesini sağlamak için bir girdide (örneğin bir görüntü veya veride) yapılması gereken en küçük değişikliği belirler. Örneğin bir görüntüdeki nesnenin rengini değiştirmek, bir görüntü sınıflandırma modelinin tahminini "kedi"den "köpek"e dönüştürebilir.

Bir başka iyi örnek, bir yüz tanıma sistemindeki açıyı veya aydınlatmayı değiştirmektir. Bu, modelin farklı bir kişiyi tanımlamasına neden olabilir ve girdideki küçük değişikliklerin modelin tahminlerini nasıl etkileyebileceğini gösterir.

Bu açıklamaları oluşturmanın en basit yolu deneme yanılmadır: AI modeli istenen sonucu verene kadar girdinin bazı bölümlerini (görüntünün veya verilerin özellikleri gibi) rastgele değiştirebilirsin. Diğer yöntemler arasında değişiklikleri bulmak için optimizasyon ve arama tekniklerini kullanan modelden bağımsız yaklaşımlar ile gereken değişiklikleri belirlemek için dahili ayarlara veya hesaplamalara dayanan modele özgü yaklaşımlar bulunur.

Bilgisayarlı görüde açıklanabilir yapay zekâ uygulamaları#

XAI’ın ne olduğunu ve temel tekniklerini incelediğimize göre şimdi gerçek hayatta nasıl kullanıldığına bakalım. XAI’ın birçok alanda çeşitli uygulamaları vardır. Potansiyelini ortaya koyan bazı kullanım alanlarını inceleyelim:

• Güvenlik sistemleri: XAI, pasaportlar ve sürücü belgeleri gibi kimlik belgelerindeki değiştirilmiş görüntüleri tespit ederek güvenlik sistemlerini geliştirmek için kullanılabilir. Bu, görüntülerin özgünlüğünü doğrular, kimlik doğrulama süreçlerini güçlendirir ve hassas uygulamalardaki dolandırıcılık faaliyetlerini önler.

Şekil 4. XAI’ın değiştirilmiş görüntüleri tespit etmek için nasıl çalıştığı.

• Otonom sürüş: Otonom bir aracın yerleşik görü AI sisteminin yeteneklerini ve sınırlamalarını anlamak, araç gerçek dünya yollarına çıkarılmadan önce yapılan testlerin önemli bir parçası olabilir. XAI, otomotiv şirketlerinin sorunları daha net bir şekilde belirlemesine ve çözmesine yardımcı olabilir.

• Hukuk sistemleri: Görü özellikli belge analizi sistemleri, yargı kararlarında giderek daha fazla kullanılmaktadır. XAI, adil sonuçları destekler ve otomatik kararların incelenmesine olanak tanır. Ayrıca hukuk profesyonellerinin bir AI modelinin kararlarına nasıl ulaştığını anlamasına yardımcı olur.

• Yaban hayatı izleme: Kamera tuzakları, yaban hayatını izlemek ve hayvan türleri hakkında veri toplamak için sıklıkla kullanılır. XAI, AI’ın görüntülerdeki bu türleri nasıl sınıflandırdığını açıklamak için kullanılabilir. Böylece koruma çalışmaları daha güvenilir ve doğru hâle getirilebilir.

Açıklanabilir yapay zekâ hakkında temel çıkarımlar#

Açıklanabilir yapay zekâ, AI sistemlerinin nasıl çalıştığını ve neden belirli kararlar aldığını anlamayı kolaylaştırır. AI modelleri hakkındaki şeffaflık güven ve hesap verebilirlik oluşturur. Bilgi güçtür ve AI yeniliklerinin daha sorumlu bir şekilde kullanılmasına yardımcı olur. Sağlık hizmetleri, güvenlik, otonom sürüş ve hukuk sistemleri gibi kritik alanlarda XAI; geliştiricilerin ve kullanıcıların AI tahminlerini anlamasına, hataları belirlemesine ve adil ve etik kullanımı güvence altına almasına yardımcı olmak için kullanılabilir. AI’ı daha şeffaf hâle getiren XAI, teknoloji ile insan güveni arasındaki boşluğu kapatarak gerçek dünya uygulamalarını daha güvenli ve güvenilir kılar.

Daha fazla bilgi edinmek için GitHub depomuzu ziyaret et ve topluluğumuzla etkileşime geç. Çözüm sayfalarımızda otonom araçlardaki AI uygulamalarını ve tarımdaki AI uygulamalarını keşfet. 🚀