Spiking Neural Network

Bir Spiking Neural Network (SNN), standart derin öğrenme modellerinden daha yakından biyolojik beyin davranışını taklit etmek için tasarlanmış, yapay sinir ağlarının özel bir sınıfıdır. Geleneksel ağlar bilgiyi kayan noktalı sayılar kullanarak sürekli bir şekilde işlerken, SNN'ler "spikes" (dürtü) adı verilen ayrık olayları kullanarak çalışır. Bu dürtüler yalnızca bir nöronun iç voltajı belirli bir eşiğe ulaştığında meydana gelir; bu mekanizma genellikle "entegre et ve ateşle" olarak tanımlanır. Bu olaya dayalı doğa, SNN'lerin zamansal verileri olağanüstü enerji verimliliğiyle işlemesini sağlar, bu da onları uç yapay zeka ve otonom robotik gibi düşük güç gerektiren uygulamalar için oldukça uygun hale getirir. Sinyallerin yalnızca büyüklüğünden ziyade zamanlamasından yararlanan SNN'ler, öğrenme sürecine bir zaman boyutu ekleyerek dinamik, gerçek dünya duyusal verilerini içeren görevler için güçlü bir alternatif sunar.

Link to this sectionBiyolojik İlham ve Mekanik#

Bir SNN'nin temel mimarisi, biyolojik sinir sistemlerinde gözlemlenen sinaptik etkileşimlerden ilham alır. Standart bir Evrişimli Sinir Ağında (CNN) veya Yinelemeli Sinir Ağında (RNN), nöronlar genellikle her yayılım döngüsünde aktiftir ve sürekli olarak hesaplama kaynaklarını tüketir. Buna karşılık, SNN nöronları yeterli girdi birikip bir dürtüyü tetikleyene kadar pasif kalır. Seyreklik (sparsity) olarak bilinen bu özellik, enerji yalnızca önemli olaylar meydana geldiğinde harcandığı için güç tüketimini önemli ölçüde azaltır.

Temel mekanik farklar şunlardır:

• Bilgi Kodlama: Standart ağlar oran kodlamasını (aktivasyonun büyüklüğü) kullanırken, SNN'ler genellikle bilginin dürtülerin kesin zamanlamasıyla taşındığı darbe kodlamasını veya zamansal kodlamayı kullanır.
• Öğrenme Kuralları: Geleneksel geriye yayılım, türevlenemeyen dürtü olayları nedeniyle SNN'lerde zordur. Bunun yerine SNN'ler, sinaptik ağırlıkları ayarlamak için genellikle Dürtü-Zamanlamasına Bağlı Plastisite (STDP) veya vekil gradyan yöntemleri gibi biyolojik olarak makul kuralları kullanır.
• Hardware Compatibility: SNNs are particularly well-suited for neuromorphic computing hardware, such as Intel's Loihi or IBM's TrueNorth, which are designed to handle asynchronous, parallel processing distinct from standard GPUs.

Link to this sectionGeleneksel ANN'lerle Karşılaştırma#

SNN'leri, ana akım bilgisayarlı görüde kullanılan daha yaygın Yapay Sinir Ağlarından (ANN) ayırmak önemlidir.

• Yapay Sinir Ağları (ANN'ler): ResNet veya YOLO26 gibi mimariler dahil olmak üzere bu modeller, ReLU veya Sigmoid gibi sürekli aktivasyon fonksiyonlarına dayanır. Statik görüntü tanıma için mükemmeldirler ve COCO gibi kıyaslamalarda en üst düzey doğruluk oranlarına ulaşırlar ancak seyrek, zamansal veri akışlarını işlemek için daha az verimli olabilirler.
• Spiking Neural Networks (SNN'ler): SNN'ler, gecikme ve güç verimliliğinin kritik olduğu senaryolarda üstündür. Zamansal dinamikleri doğal olarak ele alırlar, bu da onları sabit bir oranda kareler yerine bir sahnedeki değişiklikleri eşzamansız olarak yakalayan olay tabanlı kameralardan gelen girdileri işlemek için üstün kılar.

Link to this sectionGerçek Dünya Uygulamaları#

SNN'lerin benzersiz özellikleri, geleneksel derin öğrenme modellerinin çok fazla güç tükettiği veya tepki vermekte yavaş kaldığı özel alanlarda benimsenmelerine yol açmıştır.

1. Drone'lar için Nöromorfik Görü: Yüksek hızlı drone'lar, nesne tespiti ve çarpışma önleme için olay kameralarıyla eşleştirilmiş SNN'ler kullanır. Olay kameraları yalnızca piksel değişikliklerini bildirdiğinden, SNN seyrek verileri mikrosaniyeler içinde işler ve drone'un hareket bulanıklığı veya düşük kare hızları nedeniyle standart bir kare tabanlı kameranın gözden kaçırabileceği hızlı hareket eden engellerden kaçınmasına olanak tanır.

2. Protezler ve Biyosinyal İşleme: Tıp teknolojisinde SNN'ler, robotik uzuvları kontrol etmek için elektromiyografi (EMG) sinyallerini yorumlar. Ağın gürültülü, zamana bağlı biyolojik sinyalleri gerçek zamanlı olarak işleme yeteneği, protez cihazlarının daha pürüzsüz ve doğal bir şekilde kontrol edilmesini sağlayarak biyolojik sinirler ile dijital aktüatörler arasındaki boşluğu doldurur.

Link to this sectionTemel Spiking Kavramlarını Uygulama#

YOLO26 gibi modern tespit modelleri verimli CNN mimarileri üzerine inşa edilmiş olsa da, araştırmacılar dinamikleri anlamak için standart tensörler kullanarak spiking davranışını sık sık simüle ederler. Aşağıdaki Python örneği, bir nöronun nasıl voltaj biriktirdiğini ve dürtüden sonra nasıl sıfırlandığını göstererek PyTorch kullanarak basit bir "Leaky Integrate-and-Fire" (LIF) nöron simülasyonunu göstermektedir.

import torch


def lif_neuron(inputs, threshold=1.0, decay=0.8):
    """Simulates a Leaky Integrate-and-Fire neuron."""
    potential = 0.0
    spikes = []

    for x in inputs:
        potential = potential * decay + x  # Integrate input with decay
        if potential >= threshold:
            spikes.append(1)  # Fire spike
            potential = 0.0  # Reset potential
        else:
            spikes.append(0)  # No spike

    return torch.tensor(spikes)


# Simulate neuron response to a sequence of inputs
input_stream = [0.5, 0.5, 0.8, 0.2, 0.9]
output_spikes = lif_neuron(input_stream)
print(f"Input: {input_stream}\nSpikes: {output_spikes.tolist()}")

Link to this sectionGelecek Görünümü#

Bilgisayarlı görü alanı, derin öğrenmenin doğruluğunu spiking ağlarının verimliliği ile birleştiren hibrit mimarileri giderek daha fazla keşfediyor. Araştırmacılar SNN eğitimiyle ilgili zorlukların üstesinden geldikçe, YOLO gibi modellerin gelecekteki sürümlerinin ultra düşük güçte uç dağıtım için spiking katmanlarını dahil ettiğini görebiliriz. Şimdilik, standart modelleri verimli bir şekilde eğitmek ve dağıtmak, çoğu geliştirici için temel odak noktası olmaya devam ediyor ve veri kümelerini yönetmek ve modelleri çeşitli donanım hedefleri için optimize etmek adına Ultralytics Platform gibi araçlardan yararlanılıyor. Anında yüksek performanslı tespit isteyen kullanıcılar, gerçek zamanlı uygulamalar için hız ve doğruluk dengesi sunan YOLO26 modelini keşfetmelidir.