Deep Learning (DL)

Derin öğrenme (DL), pikseller, ses dalga biçimleri ve metin gibi ham verilerden doğrudan öğrenmek üzere çok sayıda katman üst üste yerleştirilmiş sinir ağlarını eğiten bir makine öğrenimi (ML) dalıdır. "Derin" sözcüğü katmanların derinliğini anlatır: her katman, kendisinden önceki katmanın çıktısını dönüştürür. Böylece ağ, mühendislerin elle tasarlamasına gerek kalmadan görüntüde kenarlardan dokulara ve bütün nesnelere uzanan kendi özellik hiyerarşisini oluşturur. Derin öğrenme, modern bilgisayarlı görü, konuşma tanıma, büyük dil modellerine (LLM) ve üretken yapay zekâya güç verir.

Derin Öğrenme Nasıl Çalışır?#

Bir sinir ağı, katmanlar zincirinden oluşur. Her katman girdisini öğrenilmiş ağırlıklardan oluşan bir matrisle çarpar, bir yanlılık ekler ve sonucu ReLU gibi doğrusal olmayan bir aktivasyon işlevinden geçirir. Derinliği kullanışlı kılan, doğrusal olmayanlıktır: bu özellik olmasaydı katman yığınlarının tamamı tek bir doğrusal dönüşüme indirgenirdi.

Eğitim, ağın çıktılarının eğitim etiketleriyle eşleşmesini sağlamak için ağırlıkları ayarlar. Her adımda bir veri grubu ağdan ileri yönde geçer, bir kayıp işlevi hatayı puanlar, geri yayılım her ağırlığın bu hataya ne ölçüde katkıda bulunduğunu hesaplar ve stokastik gradyan inişi (SGD) veya Adam gibi bir eniyileyici, hatayı azaltacak yönde her ağırlığı küçük miktarda günceller. Bunu çok sayıda dönem boyunca tekrarlamak, rastgele ağırlıkları kullanışlı özelliklere dönüştürür. Aşağıdaki PyTorch örneği, noktaların dairenin içinde olup olmadığına göre etiketlendiği bir veri kümesinde tek doğrusal katmanı ve üç katmanlı bir ağı eğitir:

import torch
from torch import nn

torch.manual_seed(0)

# Points inside a circle are class 1: no straight line separates the classes
x = torch.rand(1000, 2) * 2 - 1
y = (x.pow(2).sum(dim=1) < 0.5).float().unsqueeze(1)

# A single linear layer versus stacked layers with nonlinear activations
models = {
    "linear": nn.Linear(2, 1),
    "deep": nn.Sequential(nn.Linear(2, 16), nn.ReLU(), nn.Linear(16, 16), nn.ReLU(), nn.Linear(16, 1)),
}
for name, model in models.items():
    optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
    for step in range(500):
        loss = nn.functional.binary_cross_entropy_with_logits(model(x), y)
        optimizer.zero_grad()
        loss.backward()  # backpropagation computes gradients for every layer
        optimizer.step()
    accuracy = ((model(x) > 0) == y).float().mean()
    print(f"{name}: {accuracy:.1%} accuracy")

Doğrusal model %60,8'e ulaşır; bu, dairenin dışındaki noktaların yaklaşık oranıdır, çünkü düz bir sınır bir bölgeyi çevreleyemez. Derin model %99,9'a ulaşır: gizli katmanları, karar sınırını verilerden öğrenilen bir eğriye dönüştürür. Ultralytics YOLO26 çok daha büyük ölçekte aynı döngüyle eğitilir; model.train() ise kullanılabilir olduğunda GPU üzerinde etiketli görüntülerden ileri geçişleri, kayıp hesaplamasını ve geri yayılımı yürütür.

Derin Öğrenme ve Makine Öğrenimi#

Derin öğrenme, makine öğreniminin bir alt kümesidir; ikisi temel olarak özelliklerin nereden geldiği bakımından ayrılır. Karar ağaçları, destek vektör makineleri ve gradyan artırmalı ağaçlar gibi klasik algoritmalar, işlem büyüklüğü veya kelime sayısı gibi insanların tanımladığı özelliklerden öğrenir. Derin ağlar özellikleri kendileri öğrenir; bu nedenle görüntü, ses ve metin gibi yapılandırılmamış verilerde öne çıkar. Bu yetenek daha yüksek maliyet getirir: derin modeller genellikle çok daha fazla etiketli veriye ihtiyaç duyar, GPU'larda veya başka hızlandırıcılarda eğitilir ve akıl yürütmelerini daha az açıklar. Tablo verilerinde XGBoost gibi gradyan artırmalı ağaçlar güçlü rakipler olmaya devam eder. Aktarım öğrenmesi, büyük bir veri kümesi üzerinde önceden eğitilmiş bir ağdan başlatarak derin modellerin veri açığını azaltır.

Temel Mimariler#

• Evrişimli sinir ağları (CNN): Öğrenilmiş küçük filtreleri görüntü üzerinde kaydırarak aynı örüntüyü karenin her yerinde tanır. CNN'ler gerçek zamanlı nesne algılama ve görüntü segmentasyonunun temelini oluşturur.
• Tekrarlayan sinir ağları (RNN): Gizli durumu koruyarak dizileri her seferinde bir adım işler. LSTM gibi çeşitleri, Transformer'lardan önce konuşma ve çeviri alanına hâkimdi.
• Transformer'lar: Bir dizinin her öğesini diğer tüm öğelerle paralel olarak ilişkilendirmek için öz-dikkat mekanizmasını kullanır. 2017'de tanıtılan Transformer'lar, LLM'lere ve Görüntü Transformer'larına (ViT) güç verir.
• Difüzyon modelleri: Gürültüyü adım adım gidermeyi öğrenir; bu sayede rastgele gürültüden görüntü, video ve ses üretebilir.

Kısa Bir Tarihçe#

Derin öğrenmenin ardındaki fikirlerin geçmişi onlarca yıl öncesine dayanır. Geriye yayılım, David Rumelhart, Geoffrey Hinton ve Ronald Williams'ın 1986 tarihli makalesiyle yaygınlaştı; ancak ImageNet gibi büyük etiketli veri kümeleri, bunlarla eğitim yapmaya yetecek kadar hızlı GPU'lar ve ReLU aktivasyonları ile dropout gibi teknikler bir araya gelene kadar ağlar sığ kaldı. AlexNet, 2012'de ImageNet'teki ilk 5 hata oranını %15,3'e düşürdü; sonraki en iyi sonuç %26,2'ydi ve alan neredeyse bir gecede derin ağlara yöneldi. Hinton, Yann LeCun ve Yoshua Bengio bu çalışmalarıyla 2018 Turing Ödülü'nü aldı; 2024 Nobel Fizik Ödülü ise yapay sinir ağlarıyla makine öğrenmesini mümkün kılan keşifleri nedeniyle Hinton ve John Hopfield'a verildi. Ağ derinliği artmaya devam etti: artık bağlantılar, ResNet'in 152 katmanlı ağları eğitmesini sağladı ve bu ağlardan oluşan bir topluluk, 2015 ImageNet sınıflandırma yarışmasını %3,57 ilk 5 hata oranıyla kazandı.