Mekanik Yorumlanabilirlik

Mekanik Yorumlanabilirlik, makine öğrenimi içindeki gelişmiş bir araştırma alanıdır ve eğitimli sinir ağlarının iç işleyişini tersine mühendislikle incelemeye odaklanır. Bu yaklaşım, modeli bir kara kutu olarak ele almak yerine, Bu yaklaşım, modeli bir kara kutu olarak ele almak yerine, modelin belirli bir çıktı üretmesine neden olan kesin matematiksel devreleri, belirli nöronları ve bağlantılı yolları anlamaya çalışır. Bu iç yapıları insanın anlayabileceği kavramlara eşleyerek, geliştiriciler yapay zeka sistemlerinin bilgileri katman katman nasıl işlediğini deşifre edebilirler.

Mekanik Yorumlanabilirlik ve Açıklanabilir Yapay Zeka (XAI)

Mekanik Yorumlanabilirlik ile genel Açıklanabilir Yapay Zeka (XAI) kavramları sıklıkla karıştırılır. XAI, bir modelin nereye baktığını vurgulayan ısı haritaları veya belirginlik haritaları gibi araçları kapsayan daha geniş bir terimken, Mekanik Yorumlanabilirlik, modelin yanıtını nasıl ve neden hesapladığını yanıtlamayı amaçlar. Örneğin, XAI bir nesne algılama modelinin bir köpeği tanımlamak için tüylü bir dokuya odaklandığını gösterebilirken, Mekanik Yorumlanabilirlik belirli "tüy algılama" nöronlarını bulmayı ve bunların nihai tahmine olan algoritmik bağlantılarını izlemeyi amaçlar.

Gerçek Dünya Uygulamaları

Sinir ağlarının kesin iç mantığını anlamak, yüksek riskli yapay zeka uygulamaları için kritik öneme sahiptir. İşte iki somut uygulama:

• AI Güvenliği ve Uyum için Denetim: Anthropic ve OpenAI gibi kuruluşlar, büyük dil modellerini (LLM'ler) gizli önyargılar, aldatıcı davranışlar veya insan değerleriyle potansiyel uyumsuzluklar açısından incelemek için Mekanik Yorumlanabilirlik kullanıyor. Araştırmacılar, seyrek otomatik kodlayıcılar gibi teknikleri kullanarak insan tarafından okunabilir özellikleri çıkararak, sağlam bir AI güvenliği sağlamak için dağıtımdan önce kötü niyetli yolları cerrahi bir şekilde düzenleyebilir veya devre dışı bırakabilir.
• Tıbbi Teşhislerin Hata Ayıklaması: Sağlık gibi kritik alanlarda Mekanik Yorumlanabilirlik, araştırmacıların bilgisayar görme algoritmalarının hastalıkları tahmin ederken yapay öğelerden ( örneğin görüntüdeki hastane filigranı veya cetvel) ziyade gerçek biyolojik belirteçlere dayandığını doğrulamasına yardımcı olur. Bu ayrıntılı doğrulama, tıbbi yapay zekaya uyum ve güven için çok önemlidir.

Yorumlanabilirlik İçin Özelliklerin Çıkarılması

Bilgisayar görme mimarileriyle çalışırken, Mekanik Yorumlanabilirlikte yaygın olarak atılan ilk adım, ara aktivasyonları çıkarmaktır. PyTorch kancaları gibi araçları kullanarak, geliştiriciler ileri geçiş sırasında ağın içini görebilirler.

Aşağıdaki kod parçacığı, bir Ultralytics modelinin ilk evrişimli katmanına bir kanca ekleyerek, çıkarım sırasında oluşturulan iç özellik haritalarının boyutlarını incelemeyi gösterir.

from ultralytics import YOLO

# Load the Ultralytics YOLO26 nano model
model = YOLO("yolo26n.pt")


# Define a hook function to capture and inspect intermediate layer activations
def hook_fn(module, input, output):
    print(f"Analyzed Layer: {module.__class__.__name__} | Activation Shape: {output.shape}")


# Attach the hook to the first layer of the model architecture
handle = model.model.model[0].register_forward_hook(hook_fn)

# Run a quick inference to trigger the hook and print the mechanistic features
results = model("https://ultralytics.com/images/bus.jpg")
handle.remove()

ML mühendisleri bu aktivasyonları analiz ederek özellik görselleştirme gerçekleştirebilir ve ağın davranışını haritalamaya başlayabilir. Bu yorumlanabilir sistemleri eğitmek için gerekli olan büyük ölçekli veri kümelerini yönetmek için, Ultralytics gibi araçlar, model eğitimi, günlük kaydı ve sürekli izlemeyi basitleştiren sağlam uçtan uca boru hatları sunar. AI'da şeffaflık talebi hızlandıkça, Mekanik Yorumlanabilirlik, güvenilir ve sağlam modeller oluşturmak için temel bir disiplin olmaya devam edecektir.