Sequence-to-Sequence Models

Diziden Diziye (Seq2Seq) modelleri, dizileri bir alandan diğerine dönüştürmek için tasarlanmış güçlü bir makine öğrenimi mimarisi sınıfıdır. Giriş ve çıkış boyutlarının sabit olduğu standart görüntü sınıflandırma görevlerinin aksine, Seq2Seq modelleri değişken uzunluktaki giriş ve çıkışları işleme konusunda üstündür. Bu esneklik, onları giriş cümlesinin uzunluğunun çıkış cümlesinin uzunluğunu zorunlu olarak belirlemediği çeviri ve özetleme gibi birçok modern doğal dil işleme (NLP) uygulamasının temel taşı haline getirir.

Link to this sectionTemel Mimari ve İşlevsellik#

Bir Seq2Seq modelinin temel yapısı, kodlayıcı-kod çözücü (encoder-decoder) çerçevesine dayanır. Bu mimari, modeli, sıralı verileri işlemek için birlikte çalışan iki ana bileşene ayırır.

• Kodlayıcı: Bu bileşen, giriş dizisini (örneğin İngilizce bir cümle veya ses karelerinden oluşan bir dizi) her seferinde bir öğe olacak şekilde işler. Bilgiyi, gizli durum (hidden state) olarak da bilinen sabit uzunluklu bir bağlam vektörüne sıkıştırır. Geleneksel mimarilerde kodlayıcı, genellikle zaman adımları boyunca bilgiyi korumak üzere tasarlanmış Yinelemeli Sinir Ağları (RNN) veya Uzun Kısa Süreli Bellek (LSTM) ağları kullanılarak oluşturulur.
• Kod Çözücü: Giriş kodlandıktan sonra, kod çözücü bağlam vektörünü alır ve çıkış dizisini (örneğin karşılık gelen Fransızca cümle) adım adım tahmin eder. Dilbilgisel ve bağlamsal sürekliliği sağlamak için bir sonraki tahmini etkilemek amacıyla önceki tahmini kullanır.

İlk sürümler büyük ölçüde RNN'lere dayansa da, modern Seq2Seq modelleri ağırlıklı olarak Transformer mimarisini kullanır. Transformer'lar, modelin mevcut adımdan olan uzaklıklarına bakılmaksızın giriş dizisinin belirli bölümlerine "dikkat etmesini" sağlayan dikkat mekanizmasını kullanır; bu da Attention Is All You Need adlı ufuk açıcı makalede ayrıntılandırıldığı üzere, uzun dizilerdeki performansı önemli ölçüde artırır.

Link to this sectionGerçek Dünya Uygulamaları#

Seq2Seq modellerinin çok yönlülüğü, metin analizi ile bilgisayarlı görü arasındaki boşluğu doldurmalarına ve karmaşık çok modlu etkileşimleri mümkün kılmalarına olanak tanır.

• Makine Çevirisi: Belki de en ünlü uygulama olan Seq2Seq modelleri, Google Translate gibi araçlara güç verir. Model, kaynak dilde bir cümleyi kabul eder ve dilbilgisi ile cümle yapısındaki farklılıkları akıcı bir şekilde ele alarak hedef dilde bir cümle üretir.
• Metin Özetleme: Bu modeller uzun belgeleri veya makaleleri alıp kısa özetler oluşturabilir. Kod çözücü, giriş metninin temel anlamını kavrayarak, otomatik haber derleme için hayati önem taşıyan, temel bilgileri koruyan daha kısa bir dizi üretir.
• Görüntü Açıklama: Görü ve dili birleştiren bir Seq2Seq modeli, bir görüntünün içeriğini tanımlayabilir. Bir Evrişimli Sinir Ağı (CNN), görsel özellikleri çıkarmak için kodlayıcı görevi görürken, tanımlayıcı bir cümle oluşturmak için bir RNN kod çözücü görevi görür. Bu, çok modlu bir modelin önde gelen bir örneğidir.
• Konuşma Tanıma: Bu sistemlerde giriş, bir ses sinyali kareleri dizisidir ve çıkış, metin karakterleri veya sözcüklerden oluşan bir dizidir. Bu teknoloji, Siri ve Alexa gibi sanal asistanların temelini oluşturur.

Link to this sectionKod Örneği: Temel Yapı Taşı#

Üst düzey çerçeveler karmaşıklığın çoğunu soyutlasa da, temel mekanizmayı anlamak faydalıdır. Aşağıdaki kod, geleneksel bir Seq2Seq modelinin kodlayıcısı veya kod çözücüsü içinde yinelemeli birim olarak sıklıkla kullanılan PyTorch'taki temel bir LSTM katmanını göstermektedir.

import torch
import torch.nn as nn

# Initialize an LSTM layer (common in Seq2Seq encoders)
# input_size: number of features per time step (e.g., word embedding size)
# hidden_size: size of the context vector/hidden state
lstm_layer = nn.LSTM(input_size=10, hidden_size=20, batch_first=True)

# Create a dummy input sequence: Batch size 3, Sequence length 5, Features 10
input_seq = torch.randn(3, 5, 10)

# Pass the sequence through the LSTM
# output contains features for each time step; hn is the final hidden state
output, (hn, cn) = lstm_layer(input_seq)

print(f"Output shape: {output.shape}")  # Shape: [3, 5, 20]
print(f"Final Hidden State shape: {hn.shape}")  # Shape: [1, 3, 20]

Link to this sectionİlgili Kavramlarla Karşılaştırma#

Seq2Seq modellerinin özel faydalarını anlamak için onları diğer mimarilerden ayırmak önemlidir.

• Standart Sınıflandırmaya Karşı: Temel görüntü sınıflandırmada kullanılanlar gibi standart sınıflandırıcılar, tek bir girişi (bir görüntü gibi) tek bir sınıf etiketine eşler. Buna karşılık Seq2Seq modelleri, dizileri dizilere eşleyerek değişken çıkış uzunluklarına olanak tanır.
• Nesne Algılamaya Karşı: Ultralytics YOLO26 gibi modeller, nesneleri ve konumlarını tanımlayarak tek bir kare içindeki konumsal algılamaya odaklanır. YOLO görüntüleri yapısal olarak işlerken, Seq2Seq modelleri verileri zamansal olarak işler. Bununla birlikte, video kareleri boyunca nesne yörüngelerini tanımlamanın sıralı veri analizi içerdiği nesne takibi gibi görevlerde alanlar örtüşür.
• Transformer'lara Karşı: Transformer mimarisi, Seq2Seq'in modern evrimidir. Orijinal Seq2Seq modelleri büyük ölçüde RNN'lere ve Kapılı Yinelemeli Birimlere (GRU) dayanırken, Transformer'lar dizileri paralel olarak işlemek için öz-dikkat (self-attention) mekanizmasını kullanır ve hız ile doğruluk açısından önemli gelişmeler sunar.

Link to this sectionYapay Zeka Ekosistemindeki Önemi#

Seq2Seq modelleri, makinelerin insan dili ve zamansal verilerle etkileşim biçimini temelden değiştirmiştir. Diziye bağımlı verileri işleme yetenekleri; gelişmiş sohbet robotlarının, otomatik çevirmenlerin ve kod oluşturma araçlarının yaratılmasını sağlamıştır. Bu modelleri eğitmek için gereken büyük veri kümeleriyle çalışan geliştiriciler, Ultralytics Platform'u kullanarak veri yönetimi ve model dağıtım iş akışlarını kolaylaştırabilir. Araştırmalar Üretken Yapay Zeka alanında ilerledikçe, dizi modelleme ilkeleri Büyük Dil Modelleri (LLM) ve gelişmiş video anlama sistemlerinin geliştirilmesinde merkezi bir konumda kalmaya devam edecektir.