Açıklanabilir yapay zeka (XAI) hakkında bilmen gereken her şey

ChatGPT gibi bir yapay zeka (AI) aracından gelen bir yanıtı görüp bu sonuca nasıl ulaştığını hiç merak ettin mi? Öyleyse, yapay zekanın "kara kutu" endişesiyle tanışmışsın demektir. Bu terim, yapay zeka modellerinin verileri nasıl işleyip analiz ettiğine dair netlik eksikliğini ifade eder. En son teknoloji yapay zeka algoritmalarıyla düzenli olarak çalışan yapay zeka mühendisleri ve bilim insanları bile iç işleyişlerini tam olarak anlamayı zor bulabilirler. Nitekim, BT profesyonellerinin yalnızca %22'si yapay zeka araçlarının yeteneklerini gerçekten anlamaktadır.

Yapay zeka modellerinin kararları nasıl aldığına dair belirsizlik, özellikle sağlık sektöründe bilgisayarlı görü ve finansta yapay zeka gibi kritik alanlarda riskli olabilir. Bununla birlikte, bu zorlukların üstesinden gelmek ve şeffaflığı artırmak için önemli ilerlemeler kaydedilmektedir.

Özellikle açıklanabilir yapay zeka (XAI) yalnızca bu sorunu çözmeye odaklanır. Basitçe söylemek gerekirse, karmaşık makine öğrenimi algoritmaları tarafından sağlanan sonuçları veya çıktıları insan kullanıcıların anlamasına ve güvenmesine yardımcı olan bir süreçler ve yöntemler setidir.

XAI, geliştiricilerin yapay zeka sistemlerinin beklendiği gibi çalıştığından emin olmalarına yardımcı olabilir. Ayrıca yapay zeka şirketlerinin düzenleyici standartları karşılamasına yardımcı olabilir. Bu makalede, açıklanabilir yapay zekayı ve geniş kullanım alanı yelpazesini inceleyeceğiz. Hadi başlayalım!

Açıklanabilir yapay zekanın önemi#

Yapay zeka ile çalışırken açıklanabilirlik çok önemlidir. Bu durum özellikle, sağlık sektörü gibi endüstrilerdeki uygulamalarda yaygın olarak kullanılan bir yapay zeka alt alanı olan bilgisayarlı görü için geçerlidir. Bu tür hassas endüstrilerde görüntü modelleri kullanırken, modelin işleyişinin herkes için şeffaf ve yorumlanabilir olması önemlidir.

Bilgisayarlı görü modellerinde yorumlanabilirlik, kullanıcıların bir tahminin nasıl yapıldığını ve arkasındaki mantığı daha iyi anlamasına yardımcı olur. Şeffaflık, modelin sınırlarını net bir şekilde belirleyerek ve verilerin etik olarak kullanılmasını sağlayarak modelin işleyişini herkes için anlaşılır katar. Örneğin bilgisayarlı görü, radyologların röntgen görüntü corriente sağlık komplikasyonlarını verimli bir şekilde tanımlamasına yardımcı olabilir.

Şek 1. Sağlıklı, hasta, aktif ve latent tüberküloz sınıflandırmalarını gösteren, görü yapay zekası ile analiz edilen göğüs röntgenleri.

Ancak yalnızca doğru çalışan bir görü sistemi yeterli değildir. Sistemin kararlarını açıklayabilmesi de gerekir. Diyelim ki sistem görüntünün hangi bölümlerinin kendi sonuçlarına yol açtığını gösterebiliyordu; o zaman herhangi bir çıktı daha net olurdu. Böyle bir şeffaflık düzeyi, tıp uzmanlarının bulgularını iki kez kontrol etmesine ve hasta bakımı nın tıbbi standartları karşıladığından emin olmasına yardımcı olur.

Açıklanabilirliğin esas olmasının bir başka nedeni de yapay zeka şirketlerini sorumlu kılmasından ve kullanıcılarda güven oluşturmasından kaynaklanır. Güvenilir yapay zeka, kullanıcıların yapay zeka yeniliklerinin güvenilir şekilde çalıştığına, adil kararlar verdiğine ve verileri sorumlu bir şekilde işlediğine dair güven duymasını sağlar.

Bilgisayarlı görüde temel açıklanabilir yapay zeka teknikleri#

Artık bilgisayarlı görüde açıklanabilirliğin neden önemli olduğunu konuştuğumuza göre, görü yapay zekasında kullanılan temel XAI tekniklerine bir göz atalım.

Belirginlik haritaları (Saliency maps)#

Yapay sinir ağları, birbirine bağlı düğüm (nöron) katmanları aracılığıyla verileri işleyerek kalıpları tanı ve karar vermek için tasarlanmış, insan beyninden ilham alan modellerdir. Karmaşık bilgisayarlı görü problemlerini yüksek doğrulukla çözmek için kullanılabilirler. Bu doğruluğa rağmen, tasarımları gereği hala birer kara kutudurlar.

Belirginlik haritaları, sinir ağlarının görüntüleri analiz ederken ne gördüğünü anlamlandırmaya yardımcı olmak için kullanılabilecek bir XAI tekniğidir. Ayrıca, modellerin beklendiği gibi çalışmadığı durumlarda sorun giderme amacıyla da kullanılabilir.

Önem haritaları (saliency maps), bir görüntünün hangi kısımlarının (piksellerin) bir modelin tahminlerini tanımladığını odaklanarak çalışır. Bu süreç, modelin tahminlerden girdiye kadar iz sürdüğü geriye yayılım ile çok benzerdir. Ancak modelin ağırlıklarını hatalara göre güncellemek yerine, her pikselin tahmin için ne kadar "önemli" olduğuna bakıyoruz. Önem haritaları, görüntü sınıflandırma gibi bilgisayarlı görü görevleri için çok yararlıdır.

Örneğin, bir görüntü sınıflandırma modeli bir görüntünün bir köpeğe ait olduğunu tahmin ederse, modelin neden bir köpek olduğunu düşündüğünü anlamak için önem haritasına bakabiliriz. Bu, çıktıya en çok hangi piksellerin etki ettiğini belirlememize yardımcı olur. Önem haritası, görüntünün köpek olduğu yönündeki nihai tahribe katkıda bulunan tüm pikselleri vurgular.

Şek 2. Girdi görüntülerinin ve önem haritalarının yan yana görünümü.

Sınıf Aktivasyon Haritalama (CAM)#

Sınıf Aktivasyon Eşlemesi, bir sinir ağının görüntü sınıflandırma tahminleri yaparken bir görüntünün hangi kısımlarına odaklandığını anlamak için kullanılan bir diğer XAI tekniğidir. Önem haritalarına benzer şekilde çalışır ancak belirli pikseller yerine görüntüdeki önemli özellikleri tanımlamaya odaklanır. Özellikler, modelin görüntüde tespit ettiği şekiller veya dokular gibi kalıplar veya detaylardır.

Gradyan Ağırlıklı Sınıf Aktivasyon Haritalama (Grad-CAM) ve Grad-CAM++ gibi yöntemler, bazı iyileştirmelerle aynı fikir üzerine inşa edilmiştir.

CAM'in nasıl çalıştığı aşağıda açıklanmıştır:

• Sinir ağı nihai kararını vermeden önce, bilgiyi basitleştirmek için küresel ortalama havuzlama (GAP) adı verilen bir adım kullanır. GAP, tespit edilen bir kalıptaki tüm pikselleri tek bir ortalama değerde birleştirerek her bir özellik haritası (tespit edilen kalıpların görsel bir temsili) için bir özet oluşturur.
• Daha sonra her bir özellik haritasına, belirli bir sınıfı ("kuş" veya "kedi" gibi) tahmin etmek için ne kadar önemli olduğunu gösteren bir ağırlık verilir.
• Ancak CAM'in bir sınırlaması, bu ağırlıkları hesaplamak için modeli yeniden eğitmeniz gerekebilmesi ve bunun zaman alıcı olabilmesidir.

Grad-CAM, her özellik haritasının nihai tahmini ne kadar etkilediğini gösteren sinyaller gibi gradyanları kullanarak bunu geliştirir. Bu yöntem GAP ihtiyacını ortadan kaldırır ve yeniden eğitmeden modelin neye odaklandığını görmeyi kolaylaştırır. Grad-CAM++ bunu bir adım ileri taşıyarak yalnızca olumlu etkilere odaklanır ve sonuçları daha da netleştirir.

Şek 3. CAM, Grad-CAM ve Grad-CAM++ karşılaştırması.

Karşıt açıklamalar (Counterfactual explanations)#

Karşıt açıklamalar, açıklanabilir yapay zekanın önemli bir unsurdur. Karşıt açıklama, gerçekleşmemiş ancak gerçekleşebilecek alternatif senaryoları veya olayları dikkate alarak bir durumu veya sonucu tanımlamayı içerir. "X gerçekleşmeseydi, Y meydana gelmezdi" gibi, belirli girdi değişkenlerindeki değişikliklerin nasıl farklı sonuçlara yol açtığını gösterebilir.

Yapay zeka ve bilgisayarlı görü söz konusu olduğunda, karşı olgusal bir açıklama (counterfactual explanation), bir yapay zeka modelinin farklı ve spesifik bir sonuç üretmesini sağlamak için bir girdide (örneğin bir görüntü veya veri) gereken en küçük değişikliği tanımlar. Örneğin, bir görüntüdeki nesnenin rengini değiştirmek bir görüntü sınıflandırma modelinin tahminini "kedi"den "köpek"e değiştirebilir.

Bir diğer güzel örnek ise yüz tanıma sisteminde açıyı veya aydınlatmayı değiştirmek olabilir. Bu, modelin farklı bir bireyi tanımlamasına neden olarak girdideki küçük değişikliklerin modelin tahminlerini nasıl etkileyebileceğini gösterebilir.

Bu açıklamaları oluşturmanın en basit yolu deneme yanılmadır: Yapay zeka modeli istediğiniz sonucu verene kadar girdinin parçalarını (görüntünün özellikleri veya verileri gibi) rastgele değiştirebilirsiniz. Diğer yöntemler arasında değişiklikleri bulmak için optimizasyon ve arama tekniklerini kullanan modelden bağımsız yaklaşımlar ve gerekli değişiklikleri belirlemek için dahili ayarlara veya hesaplamalara güvenen modele özgü yaklaşımlar yer alır.

Bilgisayarlı görüde açıklanabilir yapay zekanın uygulamaları#

Artık XAI'nin ne olduğunu ve temel tekniklerini incelediğimize göre, gerçek hayatta nasıl kullanıldığını adım adım görebiliriz. XAI, birçok alanda çeşitli uygulamalara sahiptir. Potansiyelini vurgulayan bazı kullanım durumlarına dalalım:

• Güvenlik sistemleri: XAI, pasaportlar ve ehliyetler gibi kimlik belgelerindeki dönüştürülmüş görüntüleri tespit ederek güvenlik sistemlerini geliştirmek için kullanılabilir. Bu, görüntülerin orijinalliğini sağlar, kimlik doğrulama süreçlerini güçlendirir ve hassas uygulamalarda sahtekarlık faaliyetlerini önler.

Şek 4. XAI'ın dönüştürülmüş görüntüleri tespit etmek için nasıl çalıştığı.

• Otonom sürüş: Sürücüsüz bir arabanın yerleşik görü yapay zeka sisteminin yeteneklerini ve sınırlarını anlamak, araba gerçek dünya yollarında konuşlandırılmadan önce test edilmesinin büyük bir parçası olabilir. XAI, araba şirketlerinin sorunları daha net bir şekilde belirlemesine ve çözmesine yardımcı olabilir.

• Hukuk sistemleri: Görü destekli belge analizi sistemleri, adli karar vermede giderek daha fazla kullanılmaktadır. XAI, adil sonuçları destekler ve otomatik kararların incelenmesine olanak tanır. Ayrıca hukuk profesyonellerinin bir yapay zeka modelinin kararlarına nasıl ulaştığını anlamasına yardımcı olur.

• Yaban hayatı izleme: Kamera tuzakları sıklıkla yaban hayatını izlemek ve hayvan türleri hakkında veri toplamak için kullanılır. XAI, yapay zekanın görüntülerdeki bu türleri nasıl sınıflandırdığını açıklamak için kullanılabilir. Bu sayede koruma çalışmaları daha güvenilir ve doğru olabilir.

Açıklanabilir yapay zeka hakkında önemli çıkarımlar#

Açıklanabilir yapay zeka, yapay zeka sistemlerinin nasıl çalıştığını ve neden belirli kararlar aldıklarını anlamayı kolaylaştırır. Yapay zeka modelleri konusundaki şeffaflık, güven ve hesap verebilirlik oluşturur. Bilgi güçtür ve yapay zeka inovasyonlarının daha sorumlu bir şekilde kullanılmasına yardımcı olur. Sağlık, güvenlik, otonom sürüş ve hukuk sistemleri gibi kritik alanlarda XAI, geliştiricilerin ve kullanıcıların yapay zeka tahminlerini anlamalarına, hataları tanımlamalarına ve adil ve etik bir kullanım sağlamalarına yardımcı olmak için kullanılabilir. XAI, yapay zekayı daha şeffaf hale getirerek teknoloji ile insan güveni arasındaki boşluğu doldurur ve onu gerçek dünya uygulamaları için daha güvenli ve daha güvenilir kılar.

Daha fazla bilgi edinmek için GitHub depomuzu ziyaret edin ve topluluğumuzla etkileşime geçin. Çözüm sayfalarımızda kendi kendine giden araçlardaki yapay zeka uygulamalarını ve tarımı keşfedin. 🚀