Multiple Instance Learning

Çoklu örnek öğrenimi (MIL), eğitim örneklerinin torba adı verilen gruplar hâlinde sunulduğu ve yalnızca torbalara etiket atandığı, torbaların içindeki tek tek örneklerin ise etiket taşımadığı bir makine öğrenimi türüdür. "Kanser" olarak etiketlenmiş sayısallaştırılmış bir patoloji slaytı, belki yalnızca bir avuç kadarında tümör hücresi görülen binlerce doku yamasından oluşan bir torbadır; "olay" olarak etiketlenmiş bir gözetim videosu ise çoğu olaysız olan kısa kliplerden oluşan bir torbadır. MIL, bu tür verilerden torba etiketlerini tahmin etmeyi ve bu süreçte hangi örneklerin bu etiketlerden sorumlu olduğunu da öğrenir. Bu, her örneği etiketlemenin uzmanlar için çok uzun süreceği veya imkânsız olacağı durumlarda kullanılan bir zayıf denetim türüdür.

Thomas Dietterich, Richard Lathrop ve Tomás Lozano-Pérez, bu yaklaşımı 1997'de ilaç etkinliğini tahmin etmek için ortaya koydu. Bir molekül birçok şekle bürünebilir ve bunlardan en az biri uyduğunda hedefe bağlanır; bu nedenle araştırmacılar her molekülü olası şekillerinden oluşan bir torba olarak ele aldı ve etiket olarak yalnızca molekülün ölçülen etkinliğini kullandı.

Standart MIL Varsayımı#

İkili etiketler için klasik varsayım, bir torbanın en az bir pozitif örnek içeriyorsa pozitif, yalnızca tüm örnekleri negatifse negatif olduğudur. Sıradan denetimli öğrenmede olduğu gibi torbanın etiketini her örneğe kopyalamak, her pozitif torbadaki çok sayıdaki negatif örneği yanlış etiketler. MIL bunun yerine her örneği puanlar ve puanları tek bir torba tahmininde bir araya getirir. En yüksek puanı almak standart varsayımla tam olarak örtüşür: Torbanın puanı en şüpheli örneğin puarı kadar yüksek olur ve torba etiketinden gelen geri yayılım sinyalini yalnızca o örneğin puanı alır.

Bu PyTorch örneği, 20 rastgele örnek içeren 16.000 torbada doğrusal bir örnek puanlayıcısını eğitir. Her pozitif torbada, 16 özelliğinin 4'ünde farklılık gösteren bir "tanık" örnek gizlidir. Eğitimde yalnızca torba etiketleri kullanılır; 1.000 test torbası hem torba tahminlerini hem de en yüksek puanlı örneğin tanık olup olmadığını denetler:

import torch

torch.manual_seed(0)
n = 17000  # 16,000 training bags and 1,000 test bags, each holding 20 instances with 16 features
bags, labels, witness = torch.randn(n, 20, 16), torch.randint(0, 2, (n,)).float(), torch.randint(0, 20, (n,))
bags[torch.arange(n), witness, :4] += 2.0 * labels[:, None]  # a positive bag hides one shifted "witness" instance

scorer = torch.nn.Linear(16, 1)  # gives every instance a score
optimizer = torch.optim.Adam(scorer.parameters(), lr=1e-2)
for i in range(0, 16000, 32):  # train on 32 bags per step, using bag labels only
    bag_logits = scorer(bags[i : i + 32]).squeeze(-1).max(dim=1).values  # max pooling: a bag scores as its top instance
    loss = torch.nn.functional.binary_cross_entropy_with_logits(bag_logits, labels[i : i + 32])
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

with torch.no_grad():
    scores = scorer(bags[16000:]).squeeze(-1)  # one score per test instance
positive = labels[16000:].bool()
bag_accuracy = ((scores.max(dim=1).values > 0) == positive).float().mean()
located = (scores.argmax(dim=1) == witness[16000:])[positive].float().mean()
print(f"Bag accuracy: {bag_accuracy:.3f}, witness ranked first in {located:.3f} of positive bags")

Model test torbalarının 0.917'sini doğru sınıflandırır ve pozitif torbaların 0.960'ında tanığı ilk sıraya yerleştirir; üstelik hiçbir örnek etiketi kullanılmamıştır. Örnek sıralaması, MIL sistemlerinin bir kararın arkasındaki döşemeleri veya klipleri işaret etmesini sağlar.

Havuzlama ve Dikkat Tabanlı MIL#

Maksimum havuzlama tek bir örneğe dayanır; bu nedenle tek bir gürültülü örnek torbanın sonucunu değiştirebilir. Ortalama havuzlama her örneği kullanır ancak nadir bir sinyali zayıflatır; bu yöntem, etiketin bir şey gösteren örneklerin oranına bağlı olduğu kolektif varsayımlara uygundur. Maximilian Ilse, Jakub Tomczak ve Max Welling, 2018'de dikkat tabanlı derin MIL'i önerdi: Küçük bir ağ her örneğe ağırlık verir ve torba temsili, örnek özelliklerinin ağırlıklı ortalamasından oluşur. Dikkat mekanizması her boyuttaki torbaları işler, örneklerin sırasını göz ardı eder ve tahminin arkasındaki bölgelerin ısı haritası işlevi gören ağırlıklar üretir; bu yönüyle belirginlik haritalarına benzer.

Bütün slayt görüntüleri uçtan uca eğitim için fazla büyüktür; bu nedenle birçok patoloji işlem hattı önce her döşemeyi dondurulmuş, önceden eğitilmiş bir kodlayıcıyla özellik vektörüne dönüştürür ve yalnızca havuzlama ağını ve sınıflandırıcıyı slayt etiketleriyle eğitir. Bir YOLO26 görüntü sınıflandırma modeli bu kodlayıcı rolünü üstlenebilir: model.embed(), her girdi görüntüsü için bir havuzlanmış özellik vektörü döndürür; böylece bir döşeme yığını, dikkatli havuzlama başlığı için örnek vektörlerinden oluşan bir torbaya dönüşür.

Uygulamalar#

Tıbbi görüntü analizinde MIL, patologların gigapiksel boyutundaki slaytlarda tümörlerin çevresini çizme ihtiyacını ortadan kaldırır. Memorial Sloan Kettering'den Gabriele Campanella ve çalışma arkadaşları, yalnızca patoloji raporlarındaki tanıları kullanarak 15.187 hastanın 44.732 tam slayt görüntüsü üzerinde bir MIL sistemi eğitti. 2019 tarihli çalışmaları, prostat kanseri, bazal hücreli karsinom ve lenf düğümlerine metastaz yapmış meme kanseri için ROC eğrisinin altında kalan alanın 0.98'in üzerinde olduğunu bildirdi.

Videoda Waqas Sultani, Chen Chen ve Mubarak Shah, her gözetim videosunu anomali tespiti için bir segment torbası olarak ele aldı ve yalnızca video düzeyinde etiketlere sahip, kırpılmamış 1.900 videodan oluşan UCF-Crime veri kümesini yayımladı. Bu etiketler, bir olayın gerçekleştiği segmentlere en yüksek anomali puanını vermek için bir modeli eğitir. Zayıf denetimli nesne tespiti, bir görüntüyü yalnızca içerdiği sınıflarla etiketlenmiş aday bölgelerden oluşan bir torba olarak ele alır; en yüksek puanı alan bölgeler tahmin edilen sınırlayıcı kutulara dönüşür. Bu yaklaşımların her birinde, bir slayttan, hastadan veya videodan gelen tüm döşemeleri ya da kareleri aynı bölmede tutmak, birbirine çok benzeyen örnekleri eğitim ve test kümelerine dağıtmaktan kaynaklanacak veri sızıntısını önler.

MIL ve İlgili Yaklaşımlar#

Yarı denetimli öğrenme, tümüyle etiketli ve etiketsiz örnekleri bir araya getirirken her MIL torbasının etiketi vardır ancak hiçbir örneğinin etiketi yoktur. Çok etiketli sınıflandırma tek bir örneğe birden fazla sınıf atar; çok örnekli, çok etiketli öğrenme ise bu iki yaklaşımı birleştirir. Örnek düzeyinde etiketlerin maliyetini karşılamaya değer olduğunda aktif öğrenme, pozitif torbalardaki en yüksek puanlı örnekleri uzmanlara göndererek MIL'i izleyebilir.