Spiking Neural Network

Darbeli sinir ağı (SNN), nöronların biyolojik nöronların sinyal gönderme biçimine daha yakın olan, darbe adı verilen ayrık ve ya hep ya hiç olaylarla iletişim kurduğu bir sinir ağıdır. Her nöron, gelen darbeleri yavaşça sızan bir iç zar potansiyelinde biriktirir ve yalnızca bu potansiyel bir eşiği aştığında kendisi de bir darbe üretir. Bilgi, hangi nöronların ne zaman ateşlediğinde bulunduğundan SNN'ler veriyi zaman içinde geldikçe işler ve yalnızca darbeler oluştuğunda hesaplama yapar. Olay odaklı bu seyrek yapı, nöromorfik çiplerde düşük güçlü uç yapay zekâ için onları cazip kılar; ayrıca değişimleri eşzamansız olaylar olarak bildiren olay kameralarıyla doğal bir uyum sağlar. Wolfgang Maass, 1997'de SNN'leri eşik birimlerinden ve sürekli aktivasyonlu ağlardan sonra gelen üçüncü nesil sinir ağı modelleri olarak tanımladı.

Darbeli Nöronlar Nasıl Çalışır#

En yaygın kullanılan model, sızdırmalı bütünleştir-ve-ateşle (LIF) nöronudur. Her zaman adımında zar potansiyeli sabit bir oranda azalır, ağırlıklandırılmış giriş darbeleri eklenir ve potansiyel eşiğe ulaştığında nöron bir darbe gönderip sıfırlanır. Girişi zayıf olan nöron eşiğe ulaşamaz; güçlü girişi olan nöron ise sık sık ateşler. Böylece ateşleme sıklığı giriş gücünü kodlar. Aşağıdaki simülasyon, üç LIF nöronunu farklı sabit giriş akımlarıyla çalıştırıyor:

import torch

# Three leaky integrate-and-fire neurons, each driven by a constant input current
current = torch.tensor([0.15, 0.3, 0.6])
decay, threshold = 0.8, 1.0  # fraction of potential kept per step, firing threshold

potential = torch.zeros(3)
spike_counts = torch.zeros(3)
for step in range(20):
    potential = decay * potential + current  # leak, then integrate the input
    spikes = (potential >= threshold).float()  # fire where the threshold is crossed
    potential = potential * (1 - spikes)  # reset neurons that fired
    spike_counts += spikes

print(f"Spikes in 20 steps: {spike_counts.tolist()}")

Spikes in 20 steps: [0.0, 4.0, 10.0] yazdırır. 0.15 girişinde potansiyel 0.15 / (1 − 0.8) = 0.75 değerinde dengelenir; bu eşik değerin altında olduğundan nöron hiç ateşlemez. 0.3 girişi 4 darbe üretir; 0.6 girişi ise iki adımda bir eşiği aşarak 10 darbe oluşturur. snnTorch gibi kitaplıklar, GPU'larda eğitilebilen PyTorch modülleri olarak bunun gibi LIF katmanları sunar.

Darbelerde Bilginin Kodlanması#

SNN'nin kullanabilmesi için verinin önce darbelere dönüştürülmesi gerekir; kodlama tercihi hem doğruluğu hem de hızı etkiler:

• Frekans kodlaması: Yukarıdaki simülasyonda olduğu gibi bir değer ateşleme sıklığına dönüşür. Sağlam bir yöntemdir, ancak bir değeri hassas biçimde temsil etmek için çok sayıda zaman adımı gerekir.
• Zamansal kodlama: Bir değer, örneğin daha parlak pikseller için daha erken darbeler kullanılarak, darbenin zamanlamasına dönüşür; bu, bilgiyi çok az darbeyle aktarır.
• Olay sensörleri: Nöromorfik görüntüleme kameraları, bir pikselin parlaklığı her değiştiğinde mikrosaniye hassasiyetinde zamanlamayla ve sabit kare hızı olmadan darbe benzeri bir olay çıktısı verir; böylece verileri doğrudan bir SNN'ye aktarılabilir.

SNN'lerin Eğitimi#

Darbe, türevi hemen her yerde sıfır olan bir basamak fonksiyonudur; bu nedenle standart geri yayılım gradyanları içinden geçiremez. Bu sorunu aşan üç yaklaşım vardır. ANN'den SNN'ye dönüştürme, sıradan bir ağı ReLU aktivasyonlarıyla eğitir ve her aktivasyonu bir ateşleme hızına eşler. Yaklaşık gradyan eğitimi, ileri geçişteki sert darbeyi korur ancak geri geçişte türevi düzgün bir fonksiyonla değiştirir; ardından tekrarlayan sinir ağlarına (RNN) benzer şekilde zaman içinde geri yayılımla eğitim yapar. Diken-zamanlamasına bağlı plastisite (STDP), giriş darbesi çıkış darbesinden önce geldiğinde sinapsı güçlendiren, biyolojiden esinlenmiş yerel bir kuraldır ve etiket olmadan öğrenir. Yakın dönemdeki yüksek doğruluklu SNN'lerin çoğu doğrudan yaklaşık gradyanlarla eğitilir; bu yöntem dönüştürülmüş ağlara göre çok daha az zaman adımı gerektirir. Dönüştürme ise mevcut bir modelden yola çıkmanın en basit yoludur.

Nöromorfik Donanım#

SNN'ler en çok, kendileri için tasarlanmış çiplerde enerji tasarrufu sağlar. Nöromorfik işlemciler belleği çok sayıda küçük çekirdeğin yanına yerleştirir, darbe iletileriyle iletişim kurar ve yalnızca darbeler geldiğinde hesaplama yapar. Ayrıca darbeler ikili olduğundan, her sinaptik olay için çarpma yerine toplama gerekir. IBM'in TrueNorth'u (2014) tek çipe bir milyon nöron sığdırdı; Manchester Üniversitesi'nin SpiNNaker'ı büyük ARM çekirdek dizileri kullanıyor. Intel'in Loihi 2'si ise 1.152 Loihi 2 işlemcisi ve 1,15 milyar nöronu bulunan 2024 araştırma sistemi Hala Point'e güç sağlıyor. Yoğun matris işlemleri için tasarlanmış standart GPU'larda SNN'ler genellikle eşdeğer geleneksel ağlardan daha yavaş çalışır.

SNN'ler ve Geleneksel Sinir Ağları#

• Sinyaller: Evrişimli sinir ağları (CNN'ler) ve Transformer'lar dâhil geleneksel ağlar, tek bir ileri geçişte her nörona sürekli değerler iletir. SNN'ler birçok zaman adımında ikili darbeler iletir ve her an nöronların çoğu sessiz kalır.
• Doğruluk: Geleneksel ağlar standart görüntü kıyaslamalarında hâlâ öndedir; SNN'ler arayı çoğunlukla yaklaşık gradyan eğitimi ve geleneksel modellerden alınan mimariler sayesinde kapattı.
• Verimlilik: Nöromorfik donanımdaki SNN'ler, olay kamerası akışları ve sürekli açık ses gibi seyrek, olay odaklı girdilerde çok daha az enerji kullanır.

Uygulamalar#

• Olay tabanlı görüntüleme ve robotik: Science Robotics'te yayımlanan 2024 tarihli bir çalışmada TU Delft araştırmacıları, Intel'in Loihi'sinde tamamen darbeli bir görüntüleme ve kontrol ağıyla drone uçurdu; ham olay kamerası verilerini 200 Hz hızında hareket komutlarına dönüştürdü.
• Sürekli açık algılama: Anahtar sözcük algılama, hareket tanıma ve sensörlerde anomali tespiti; hiçbir şey değişmediğinde neredeyse hiç güç tüketmeyen SNN'lerden yararlanır.
• Nesne algılama: Xinhao Luo, Man Yao ve meslektaşlarının ECCV 2024'te sunduğu, darbeli bir algılayıcı olan SpikeYOLO, Ultralytics kod tabanı üzerine kuruludur ve Ultralytics YOLOv8 mimarisini darbeyle çalışan bloklarla basitleştirir. Tamsayı değerli eğitim ve darbeyle çalışan çıkarımla COCO üzerinde %48,9 mAP_50-95'e ulaşır.