Concept Bottleneck Models

Kavramsal darboğaz modelleri (CBM'ler), insan tarafından anlaşılabilir kavramlardan oluşan bir ara katman üzerinden tahmin yapan sinir ağlarıdır. Bir girdiyi doğrudan nihai etikete eşlemek yerine CBM önce “kırmızı kanat”, “yüzey çatlağı” veya “eklem daralması” gibi anlamlı öznitelikleri tahmin eder ve ardından kararını üretmek için yalnızca bu öznitelikleri kullanır. Bu yapı, modeli geleneksel bir kara kutu modele kıyasla incelemeyi, hatalarını ayıklamayı ve düzeltmeyi kolaylaştırır.

Kavramsal Darboğaz Modelleri Nasıl Çalışır?#

Standart bir sinir ağı, bilgileri çoğu zaman opak bir gizli uzayda temsil eder. CBM, bu gizli temsilin bir bölümünü boyutları tanımlanmış anlamlara sahip bir kavram vektörüyle değiştirir.

Tahmin işlem hattı iki ana aşamadan oluşur:

1. Bir kavram tahminleyici, görüntü gibi ham girdiyi kavram değerlerine eşler.
2. Bir hedef tahminleyici, bu kavram değerlerini nihai sınıfa veya skora eşler.

Örneğin bir kuş sınıflandırıcısı, türü belirlemeden önce “siyah gaga”, “beyaz göğüs” ve “uzun kuyruk” kavramlarını tahmin edebilir. Kavramlar ikili, kategorik veya sürekli olabilir. Genellikle denetimli öğrenme yoluyla öğrenilir ve her eğitim örneğinin hem hedef etiketlerini hem de kavram açıklamalarını içermesi gerekir.

İki aşama bağımsız olarak, sıralı biçimde veya birlikte eğitilebilir. Bağımsız eğitim ayrımı açık hâle getirirken birlikte eğitim, kavram kalitesi ile nihai görev performansı arasında denge kurabilir. Her durumda darboğaz, hedef tahminleyiciyi beyan edilen kavramlarla sınırlamalıdır; aksi takdirde gizli bilgiler amaçlanan açıklamayı atlayabilir.

Yorumlanabilirlik ve Müdahale Neden Önemlidir?#

CBM'ler, yapısal açıklanabilir yapay zekânın bir biçimidir: yorumlanabilir yapıları sonradan eklenmek yerine tahmin sürecinin içine yerleştirilmiştir. Bu, hâlihazırda eğitilmiş bir kara kutuyu neyin etkilediğini tahmin eden önem haritaları gibi sonradan uygulanan araçlardan farklıdır.

Kavram katmanı çeşitli yararlı etkileşimleri destekler:

• Kullanıcılar, hangi kavramların bir karara neden olduğunu inceleyebilir.
• Alan uzmanları, hatalı bir kavramı düzeltebilir ve çıktıyı yeniden hesaplayabilir.
• Geliştiriciler, hedef tahminleyicinin geçerli alan mantığını izleyip izlemediğini test edebilir.
• Ekipler, kavram doğruluğunu nihai görev doğruluğundan ayrı olarak ölçebilir.

Bu özellikler, NIST'in açıklanabilir yapay zekâya ilişkin rehberiyle ve People + AI Guidebook'ta ele alınan insan merkezli kontrollerle uyumludur. Ancak anlaşılabilir bir açıklama otomatik olarak doğru olduğu anlamına gelmez. Kavram sadakati varsayılmak yerine değerlendirilmelidir.

Gerçek Dünya Uygulamaları#

• Tıbbi Görüntü Analizi: Bir X-ray'i inceleyen model, hastalık şiddetini derecelendirmeden önce kemik çıkıntıları, eklem aralığı daralması ve skleroz gibi kavramları tahmin edebilir. Bir klinisyen yalnızca şiddet skoru almak yerine bu ara bulguları inceleyebilir veya düzeltebilir. Bu insan-model etkileşimi, makine öğrenimi kullanan tıbbi cihazlara yönelik FDA şeffaflık ilkeleri açısından özellikle önemlidir.

• Üretimde Görsel Denetim: Bir görsel sistem, eksik bileşenler, çatlaklar, renk değişimleri veya hatalı hizalama gibi kavramları belirleyebilir ve ardından bunları kullanarak bir ürünün denetimden geçip geçmediğine ya da belirli bir onarım gerektirip gerektirmediğine karar verebilir. Nesne algılama, bileşenleri ve kusurları konumlandırabilirken aşağı akıştaki kavram tabanlı sınıflandırıcı denetlenebilir bir kalite kararı sağlar.

Sınırlamalar ve İlgili Kavramlar#

Kavram etiketleri ek veri açıklama maliyetleri oluşturur ve uzmanlık bilgisi gerektirebilir. Kötü tanımlanmış kavramlar öznel, birbiriyle ilişkili veya eksik olabilir ya da girdiden tanınmaları zor olabilir. Ekipler kesin etiketleme kuralları oluşturmalı ve açıklayıcılar arasındaki anlaşmazlıkları denetlemelidir.

Diğer önemli riskler arasında kavram tahmin hataları, kalibre edilmemiş skorlar ve sürekli kavram değerlerinin belirtilen anlamlarının ötesinde amaçlanmayan bilgileri kodladığı kavram sızıntısı yer alır. Olasılık kalibrasyonuna ilişkin rehber, kavram güven değerlerinin güvenilir olup olmadığını belirlemeye yardımcı olabilir.

CBM, özellik mühendisliğinden de farklıdır: mühendislik ürünü özellikler manuel olarak hesaplanan girdilerken kavramlar normalde ham verilerden tahmin edilir ve açıkça denetlenir. Bu, her boyutun insan tarafından okunabilir olmasını gerektirmeden temsilleri sıkıştıran bilgi darboğazı ilkesiyle aynı değildir.

Yanlı açıklamalar veya eksik kavramlar eşitsiz hatalara yol açabileceğinden kavram performansı, ilgili veri dilimleri genelinde kontrol edilmelidir. Google'ın makine öğrenimindeki yanlılığı belirlemeye yönelik rehberi ve NIST AI RMF Core, yararlı değerlendirme ve yönetişim uygulamaları sunar.

Uygulamalı Bir Görsel İşlem Hattı Oluşturma#

Bir Ultralytics YOLO26 modeli, yukarı akış görsel kavram çıkarıcısı olarak görev yapabilir. Aşağıdaki Predict mode iş akışı, algılanan nesne sınıflarını aday kavram sinyalleri olarak toplar:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Bu, eksiksiz bir CBM değildir: aşağı akıştaki bir modelin, nihai hedefi yalnızca seçilen kavramlardan tahmin etmek üzere hâlâ eğitilmesi gerekir. Ekipler görsel verileri açıklamak, kavram çıkarıcıları eğitmek, deneyleri karşılaştırmak ve dağıtılmış bileşenleri izlemek için Ultralytics Platform kullanabilir. Yapılandırılmış bir model değerlendirme iş akışı kullanarak kavram doğruluğunu, hedef doğruluğunu, kalibrasyonu, müdahale davranışını ve önemli alt grupları ayrı ayrı değerlendirin.