Recurrent Neural Network (RNN)

Tekrarlayan Sinir Ağı (RNN), metin, genomlar, el yazısı veya konuşma gibi veri dizilerindeki örüntüleri tanımak üzere özel olarak tasarlanmış bir yapay sinir ağı türüdür. Tüm girdilerin (ve çıktıların) birbirinden bağımsız olduğunu varsayan geleneksel ileri beslemeli ağların aksine, RNN'ler bir tür bellek barındırır. Bu dahili bellek, önceki bilgileri anlayarak girdileri işlemelerine olanak tanır ve onları bağlam ile zamansal sıranın kritik olduğu görevler için benzersiz şekilde uygun hâle getirir. Bu mimari, insanların bilgiyi işleme biçimini taklit eder—örneğin bir cümleyi okumak, mevcut sözcüğü anlamak için önceki sözcükleri hatırlamayı gerektirir.

RNN'ler Nasıl Çalışır#

Bir RNN'nin temel yeniliği döngü yapısıdır. Standart bir ileri beslemeli ağda bilgi yalnızca tek yönde, girdiden çıktıya doğru akar. Buna karşılık bir RNN, bilginin korunmasını sağlayan bir geri besleme döngüsüne sahiptir. Ağ bir diziyi işlerken, ağın kısa süreli belleği olarak görev yapan bir vektör olan "gizli durum"u korur. RNN, her zaman adımında mevcut girdiyi ve önceki gizli durumu alarak bir çıktı üretir ve bir sonraki adım için gizli durumu günceller.

Bu ardışık işleme yeteneği, Doğal Dil İşleme (NLP) ve zaman serisi analizi için gereklidir. Ancak standart RNN'ler, dizi uzadıkça ağın önceki girdileri unuttuğu kaybolan gradyan sorunu nedeniyle uzun dizilerde genellikle zorlanır. Bu sınırlama, daha uzun süreler boyunca bilgi akışını daha iyi düzenleyen mekanizmalar sunan Uzun Kısa Süreli Bellek (LSTM) ağları ve Kapılı Tekrarlayan Birimler (GRU'lar) gibi daha gelişmiş varyantların geliştirilmesine yol açmıştır.

Gerçek Dünya Uygulamaları#

Tekrarlayan Sinir Ağları, makinelerin ardışık verileri anlamasını sağlayarak birçok sektörü dönüştürdü. Öne çıkan iki örnek şunlardır:

1. Makine Çevirisi: Google Translate gibi hizmetler, metni bir dilden diğerine dönüştürmek için başlangıçta büyük ölçüde RNN tabanlı mimarilere (özellikle diziden diziye modeller) dayanıyordu. Ağ, girdinin tamamını (örneğin İngilizce bir cümleyi) okur ve ardından dilbilgisel tutarlılığı sağlayarak çevrilmiş çıktıyı (örneğin Fransızca) sözcük sözcük oluşturmak için kullandığı bir bağlam vektörü oluşturur.

2. Tahmine Dayalı Yazma ve Otomatik Düzeltme: Akıllı telefonunda yazı yazarken klavye, sıradaki olası sözcüğü önerir. Bu özellik çoğu zaman RNN'lerle eğitilmiş bir dil modeli tarafından desteklenir. Model, en olası sonraki sözcüğü tahmin etmek ve kullanıcı hızını ve doğruluğunu artırmak için yazdığın sözcüklerin dizisini analiz eder. Benzer mantık, konuşulan sesi metne dönüştüren konuşma tanıma sistemleri için de geçerlidir.

RNN'ler ile CNN'ler ve Transformer Karşılaştırması#

RNN'leri diğer önemli mimarilerden ayırt etmek faydalıdır. Bir Evrişimli Sinir Ağı (CNN), öncelikle görüntüler gibi uzamsal veriler için tasarlanmıştır ve şekilleri ve nesneleri belirlemek üzere piksel ızgaralarını işler. Örneğin Ultralytics YOLO26, gerçek zamanlı nesne algılama için güçlü bir CNN omurgası kullanır. CNN "bu görüntüde ne var?" sorusunda başarılı olurken, RNN "bu videoda sırada ne oluyor?" sorusunda başarılıdır.

Daha yakın zamanda Transformer mimarisi, birçok karmaşık NLP görevi için RNN'lerin yerini büyük ölçüde aldı. Transformer'lar, dizilerin tamamını ardışık olarak değil paralel biçimde işlemek için bir dikkat mekanizması kullanır. Bununla birlikte RNN'ler, belirli düşük gecikmeli ve kaynakları kısıtlı akış uygulamalarında hâlâ son derece verimlidir ve basit zaman serisi tahmini için uç cihazlarda dağıtımları daha kolaydır.

PyTorch Uygulama Örneği#

Modern bilgisayarlı görü görevleri çoğunlukla CNN'lere dayansa da hibrit modeller, video karelerinden çıkarılan zamansal özellikleri analiz etmek için RNN'leri kullanabilir. Aşağıda, bir veri dizisini işleyen temel bir RNN katmanı oluşturmak için PyTorch kullanan basit ve çalıştırılabilir bir örnek yer alıyor.

import torch
import torch.nn as nn

# Define a basic RNN layer
# input_size: number of features in the input (e.g., 10 features per time step)
# hidden_size: number of features in the hidden state (memory)
# batch_first: input shape will be (batch, seq, feature)
rnn = nn.RNN(input_size=10, hidden_size=20, num_layers=1, batch_first=True)

# Create a dummy input: Batch size 1, Sequence length 5, Features 10
input_seq = torch.randn(1, 5, 10)

# Forward pass through the RNN
# output contains the hidden state for every time step
# hn contains the final hidden state
output, hn = rnn(input_seq)

print(f"Output shape: {output.shape}")  # Expected: torch.Size([1, 5, 20])
print(f"Final hidden state shape: {hn.shape}")  # Expected: torch.Size([1, 1, 20])

Zorluklar ve Geleceğe Bakış#

Yararlı olmalarına rağmen RNN'ler, hesaplama açısından çeşitli zorluklarla karşılaşır. Ardışık işleme paralelleştirmeyi engellediğinden, GPU'larda eğitim Transformer'lara kıyasla daha yavaştır. Ayrıca patlayan gradyan sorununu yönetmek, dikkatli hiperparametre ayarlaması ve gradyan kırpma gibi teknikler gerektirir.

Bununla birlikte RNN'ler, Derin Öğrenme (DL) alanında temel bir kavram olmaya devam eder. Yapay Zekâ (AI) gelişimini anlamanın ayrılmaz bir parçasıdır ve IoT sensörleri için basit anomali algılama sistemlerinde hâlâ yaygın olarak kullanılır. Görüntü modellerini dizi tahmincileriyle birleştirmek gibi karmaşık işlem hatları oluşturan geliştiriciler için veri kümelerini ve eğitim iş akışlarını yönetmek kritik önem taşır. Ultralytics Platformu, verileri yönetmek ve modelleri çeşitli ortamlarda verimli bir şekilde dağıtmak için araçlar sunarak bu süreci kolaylaştırır.