Concept Bottleneck Models

Kavram darboğaz modelleri (CBM'ler), insan tarafından anlaşılabilir kavramlardan oluşan ara bir katman aracılığıyla tahmin yapan sinir ağlarıdır. Bir girdiyi doğrudan nihai bir etikete eşlemek yerine, bir CBM önce "kırmızı kanat", "yüzey çatlağı" veya "eklem daralması" gibi anlamlı öznitelikleri tahmin eder ve ardından kararını üretmek için yalnızca bu öznitelikleri kullanır. Bu yapı, modeli geleneksel bir kara kutu modeline kıyasla incelemeyi, hata ayıklamayı ve düzeltmeyi daha kolay hale getirir.

Kavram Darboğaz Modelleri Nasıl Çalışır?#

Standart bir neural network, bilgiyi genellikle opak bir latent space içinde temsil eder. Bir CBM, bu gizli gösterimin bir kısmını, boyutlarının tanımlı anlamları olduğu bir kavram vektörüyle değiştirir.

Tahmin işlem hattı iki ana aşamadan oluşur:

1. Bir kavram tahmincisi; görüntü gibi ham girdiyi kavram değerlerine eşler.
2. Bir hedef tahmincisi; bu kavram değerlerini nihai sınıfa veya skora eşler.

Örneğin, bir kuş sınıflandırıcısı türü tanımlamadan önce "siyah gaga", "beyaz göğüs" ve "uzun kuyruk" tahminlerinde bulunabilir. Kavramlar ikili, kategorik veya sürekli olabilir. Genellikle her bir eğitim örneğinin hem hedef etiketleri hem de kavram açıklamalarını içermesini gerektiren supervised learning aracılığıyla öğrenilirler.

Bu iki aşama bağımsız, sıralı veya ortak olarak eğitilebilir. Bağımsız eğitim ayrımı açık hale getirirken, ortak eğitim kavram kalitesi ile nihai görev performansı arasında denge kurabilir. Her durumda darboğaz, hedef tahmincisini beyan edilen kavramlarla sınırlandırmalıdır; aksi takdirde gizli bilgi amaçlanan açıklamayı baypas edebilir.

Yorumlanabilirlik ve Müdahale Neden Önemlidir?#

CBM'ler içsel bir explainable AI biçimidir: yorumlanabilir yapıları sonradan eklenmek yerine tahminde yerleşik olarak bulunur. Bu, halihazırda eğitilmiş bir kara kutuyu neyin etkilediğini tahmin eden saliency maps gibi post-hoc araçlardan farklıdır.

Kavram katmanı çeşitli faydalı etkileşimleri destekler:

• Kullanıcılar hangi kavramların bir karara yol açtığını inceleyebilir.
• Alan uzmanları yanlış bir kavramı düzeltebilir ve çıktıyı yeniden hesaplayabilir.
• Geliştiriciler, hedef tahmincisinin geçerli alan mantığını takip edip etmediğini test edebilir.
• Ekipler kavram doğruluğunu nihai görev doğruluğundan ayrı olarak ölçebilir.

Bu yetenekler, NIST guidance on explainable AI ve People + AI Guidebook içinde tartışılan insan merkezli kontrollerle uyumludur. Bununla birlikte, anlaşılabilir bir açıklama otomatik olarak doğru bir açıklama değildir. Kavram sadakati varsayılmak yerine değerlendirilmelidir.

Gerçek Dünya Uygulamaları#

• Medical Image Analysis: Bir röntgeni inceleyen model, hastalığın ciddiyet derecesini belirlemeden önce kemik çıkıntıları, eklem mesafesi daralması ve skleroz gibi kavramları tahmin edebilir. Bir klinisyen yalnızca bir ciddiyet skoru almak yerine bu ara bulguları inceleyebilir veya düzeltebilir. Bu insan-model etkileşimi, özellikle FDA transparency principles for machine-learning medical devices ile ilgilidir.

• Manufacturing Visual Inspection: Bir görüş sistemi eksik bileşenler, çatlaklar, renk bozulması veya yanlış hizalama gibi kavramları tanımlayabilir, ardından bunları bir ürünün denetimden geçip geçmediğine veya belirli bir onarım gerektirip gerektirmediğine karar vermek için kullanabilir. Object detection bileşenleri ve kusurları yerelleştirebilirken, aşağı akıştaki kavram tabanlı sınıflandırıcı denetlenebilir bir kalite kararı sağlar.

Sınırlamalar ve İlgili Kavramlar#

Kavram etiketleri ek data annotation maliyetleri yaratır ve uzmanlık bilgisi gerektirebilir. Zayıf tanımlanmış kavramlar öznel, korelasyonlu, eksik veya girdiden tanınması zor olabilir. Ekipler kesin etiketleme kuralları oluşturmalı ve etiketleyiciler arasındaki anlaşmazlıkları denetlemelidir.

Diğer önemli riskler arasında kavram tahmin hataları, kalibre edilmemiş skorlar ve sürekli kavram değerlerinin belirtilen anlamlarının ötesinde istenmeyen bilgileri kodladığı concept leakage yer alır. probability calibration hakkındaki rehberlik, kavram güven değerlerinin güvenilir olup olmadığını belirlemeye yardımcı olabilir.

Bir CBM ayrıca özellik mühendisliğinden farklıdır: tasarlanmış özellikler manuel olarak hesaplanan girdilerdir, oysa kavramlar normalde ham verilerden tahmin edilir ve açıkça denetlenir. Her boyutun insan tarafından okunabilir olmasını gerektirmeden temsilleri sıkıştıran bilgi darboğazı ilkesiyle aynı değildir.

Önyargılı açıklamalar veya eksik kavramlar eşit olmayan hatalara yol açabileceğinden, kavram performansı ilgili veri dilimleri arasında kontrol edilmelidir. Google’s guidance for identifying ML bias ve NIST AI RMF Core faydalı değerlendirme ve yönetişim uygulamaları sağlar.

Pratik Bir Görüş İşlem Hattı Oluşturma#

Bir Ultralytics YOLO26 modeli, akış yukarı görsel bir kavram çıkarıcısı olarak hareket edebilir. Aşağıdaki Predict mode workflow, tespit edilen nesne sınıflarını aday kavram sinyalleri olarak toplar:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Bu eksiksiz bir CBM değildir: aşağı akış modeli, nihai hedefi yalnızca seçilen kavramlardan tahmin etmek için yine de eğitilmelidir. Ekipler görsel verileri etiketlemek, kavram çıkarıcıları eğitmek, denemeleri karşılaştırmak ve dağıtılan bileşenleri izlemek için Ultralytics Platform kullanabilir. Yapılandırılmış bir model evaluation workflow kullanarak kavram doğruluğunu, hedef doğruluğunu, kalibrasyonu, müdahale davranışını ve önemli alt grupları ayrı ayrı değerlendir.