Geometric Deep Learning (GDL)

Geometrik derin öğrenme (GDL), verileri ister piksel ızgarasında, ister grafikte, nokta kümesinde, kürede ya da eğri bir yüzeyde bulunsun; derin öğrenme yöntemleriyle bu verilerin yapısına ve simetrilerine göre sinir ağları tasarlayan daldır. Temel fikri, girdi anlamını değiştirmeyen bir dönüşüm geçirdiğinde modelin öngörülebilir şekilde yanıt vermesi gerektiğidir; örneğin bir görüntüyü kaydırmak, bir moleküldeki atomları yeniden etiketlemek veya 3B taramayı döndürmek. Michael Bronstein, Joan Bruna, Yann LeCun, Arthur Szlam ve Pierre Vandergheynst, bu adı 2017 tarihli Geometric Deep Learning: Going Beyond Euclidean Data incelemelerinde popülerleştirdi; 2021'de Bronstein, Bruna, Taco Cohen ve Petar Veličković tarafından hazırlanan ön kitap alanı beş başlık altında düzenledi: ızgaralar, gruplar, grafikler, jeodezikler ve ayar ölçüleri.

Değişmezlik, Eşdeğişkenlik ve GDL Taslağı#

İki özellik işin büyük bölümünü üstlenir. Bir fonksiyonun çıktısı, dönüşümden sonra aynı kalıyorsa fonksiyon bu dönüşüme göre değişmezdir; örneğin kedi yer değiştirdiğinde görüntü sınıflandırma etiketi yine "kedi" olmalıdır. Çıktı girdiyle birlikte dönüşüyorsa fonksiyon eşdeğişkendir; örneğin anlamsal bölümleme maskesi nesneyle birlikte kaymalıdır. GDL taslağı; komşular arasındaki bilgiyi birleştiren eşdeğişken katmanları, alanı kabalaştıran havuzlama adımlarını ve görev tek bir yanıt gerektirdiğinde son bir değişmez okumayı art arda kullanır. Alanın simetri grubunu seçmek, bilinen mimarileri ortaya çıkarır:

Evrişim, aynı çekirdeği tüm piksel konumlarında kullanır; dolayısıyla evrişimli sinir ağı (CNN), ızgara üzerinde ötelemeye göre eşdeğişken olan özel durumdur. Graf sinir ağı (GNN), aynı fonksiyonu her kenara uygular; bu nedenle düğümlerin yeniden etiketlenmesi yalnızca çıktılarının sırasını değiştirir. Transformer, token'larını tamamen bağlı bir grafik gibi ele alır; öz dikkat permütasyona göre eşdeğişken olduğundan token sırasını belirlemek için konumsal kodlamalara ihtiyaç duyar. GNN'ler en çok bilinen GDL modelleridir; GDL ise bu üçünü de açıklayan daha geniş çerçevedir. Taco Cohen ve Max Welling'in 2016'da tanıttığı grup eşdeğişken CNN'ler, ağırlık paylaşımını döndürme ve yansıtmalara genişletir; ağ ve manifold ağları ise eğri yüzeylerde yerel koordinat çerçevelerinde evrişimi tanımlar.

Ultralytics YOLO26 ızgara örneğidir: evrişimleri piksel konumlarında ağırlıkları paylaşır; mimarinin yerleşik olarak içermediği simetriler ise veri artırma yoluyla öğretilir. Varsayılan olarak eğitim sırasında her görüntü fliplr=0.5 olasılığıyla yatay çevrilir; dikey çevirmeler (flipud) ve rastgele döndürmeler (degrees) ise kapalıdır.

Graflarda Mesaj Aktarımı#

GDL'deki grafik modelleri mesaj aktarımıyla oluşturulur. Her düğüm komşularından mesaj toplar, bunları toplam, ortalama veya maksimum gibi sıradan bağımsız bir fonksiyonla birleştirir ve kendi gömme vektörünü günceller. Google'dan Justin Gilmer ve çalışma arkadaşları, 2017'de birçok grafik mimarisinin bu mesaj aktarımı düzenine uyduğunu gösterdi ve bu düzeni moleküllerin kuantum-kimyasal özelliklerini tahmin etmek için kullandı. Küçük bir grafiğin düğümlerini yeniden etiketlemek, her iki simetri özelliğini de doğrudan sınar:

import torch

torch.manual_seed(0)
nodes = torch.randn(5, 3)  # 5 atom veya kullanıcı, her biri 3 özellik
adjacency = torch.zeros(5, 5)
edges = torch.tensor([[0, 1], [1, 2], [0, 2], [2, 3], [3, 4]])
adjacency[edges[:, 0], edges[:, 1]] = adjacency[edges[:, 1], edges[:, 0]] = 1
w_self, w_neighbors, w_dense = torch.randn(3, 4), torch.randn(3, 4), torch.randn(15, 4)

# Düğümleri rastgele bir sırayla yeniden etiketle: aynı grafik, farklı sırada listeleniyor
order = torch.randperm(5)
nodes_p, adjacency_p = nodes[order], adjacency[order][:, order]

# Mesaj aktarımı: her düğüm kendi özelliklerini komşularının toplamıyla birleştirir
out = torch.relu(nodes @ w_self + adjacency @ nodes @ w_neighbors)
out_p = torch.relu(nodes_p @ w_self + adjacency_p @ nodes_p @ w_neighbors)
print(torch.allclose(out_p, out[order]))  # eşdeğişken: çıktılar düğümlerle birlikte yeniden sıralanır
print(torch.allclose(out_p.sum(dim=0), out.sum(dim=0)))  # değişmez: grafik düzeyindeki okuma değişmez

# Düzleştirilmiş düğüm listesinde çalışan yoğun katman, yeniden etiketlenmiş grafiği yeni veri olarak ele alır
print(torch.allclose(nodes_p.flatten() @ w_dense, nodes.flatten() @ w_dense))

True, True ve False yazdırılır. Mesaj aktarımı katmanının çıktısı düğümlerle birlikte tam olarak yeniden sıralanır, grafik düzeyinde toplamaya dayalı okuma değişmez ve sıradan bir yoğun katman, farklı sırada listelenen aynı grafik için farklı yanıt verir. PyTorch Geometric, farklı boyutlardaki graflar için toplu işleme desteğiyle birlikte bu tür onlarca katmanı paketler.

Uygulamalar#

Moleküller atomlardan ve bağlardan oluşan graflardır; bu nedenle mesaj aktarımı ağları, ilaç keşfi için çözünürlük ve bağlanma gibi özellikleri tahmin eder. Proteinler 3B geometri de içerir: AlphaFold 2, tahmin ettiği yapıları değişmez nokta dikkatiyle iyileştirir; bu yöntem, proteinin tamamı uzayda döndürüldüğünde veya ötelendiğinde aynı sonucu verir.

LiDAR tarayıcıları ve derinlik sensörleri, sırasız 3B nokta kümeleri olan nokta bulutları üretir. Stanford'dan Charles Qi ve çalışma arkadaşlarının 2017'de geliştirdiği PointNet, her noktaya aynı ağı uygular ve sonuçları maksimum havuzlamayla birleştirir; böylece çıktı nokta sırasına bağlı olmaz. Bu tasarım, otonom araçlar ve robotik için kullanılan birçok 3B nesne algılama sisteminin temelini oluşturur. Kullanıcı ve öğelerden oluşan sosyal ve ticari graflar, Pinterest'teki PinSage gibi GNN tabanlı öneri sistemlerini destekler; bilgi grafları ise aynı mesaj aktarımını varlıklara ve aralarındaki ilişkilere uygular.

Hava durumu modelleri küre üzerinde çalışır. Google DeepMind'ın 2023'te Science dergisinde yayımladığı GraphCast, küre çevresindeki bir yirmi yüzlünün aşamalı olarak inceltilmesiyle oluşturulan çok ölçekli bir ağ üzerinde mesaj aktarır ve 0,25° çözünürlükte 10 gün sonrasına ait yüzlerce değişkeni bir dakikadan kısa sürede tahmin eder. Model, 1.380 doğrulama hedefinin %90'ında önde gelen operasyonel deterministik tahmin olan ECMWF'nin HRES modelinden daha başarılıdır.