Softmax

Softmax is a mathematical function pivotal to the field of artificial intelligence, specifically serving as the final step in many classification algorithms. It transforms a vector of raw numbers, often called logits, into a vector of probabilities. This transformation ensures that the output values are all positive and sum up to exactly one, effectively creating a valid probability distribution. Because of this property, Softmax is the standard activation function used in the output layer of neural networks designed for multi-class classification, where the system must choose a single category from more than two mutually exclusive options.

Link to this sectionSoftmax'in İşleyişi#

Tipik bir derin öğrenme (DL) iş akışında, bir ağın katmanları karmaşık matris çarpımları ve toplamaları gerçekleştirir. Son katmanın aktivasyon öncesindeki çıktısı, logit olarak bilinen ham puanlardan oluşur. Bu değerler negatif sonsuzdan pozitif sonsuza kadar değişebilir ve bu da onları doğrudan güven düzeyi olarak yorumlamayı zorlaştırır.

Softmax bunu iki temel işlem gerçekleştirerek çözer:

1. Üstel İşlem (Exponentiation): Her bir girdi sayısının üstelini hesaplar. Bu adım, tüm değerlerin negatif olmamasını sağlar (çünkü $e^x$ her zaman pozitiftir) ve maksimumdan önemli ölçüde düşük olan değerleri cezalandırırken en büyük puanları öne çıkarır.

2. Normalizasyon: Bu üstel değerleri toplar ve her bir üstel değeri bu toplam tutara böler. Bu normalizasyon süreci, sayıları bir bütünün parçalarını temsil edecek şekilde ölçeklendirerek geliştiricilerin bunları yüzdesel güven puanları olarak yorumlamasına olanak tanır.

Link to this sectionGerçek Dünya Uygulamaları#

Net olasılıklar çıktısı verebilme yeteneği, Softmax'i çeşitli endüstrilerde ve makine öğrenmesi (ML) görevlerinde vazgeçilmez kılar.

• Görüntü Sınıflandırma: Bilgisayarlı görüde modeller, görüntüleri kategorize etmek için Softmax kullanır. Örneğin, Ultralytics YOLO26 sınıflandırma modeli bir fotoğrafı analiz ettiğinde "Golden Retriever", "Alman Çoban Köpeği" ve "Poodle" gibi sınıflar için puanlar üretebilir. Softmax bu puanları olasılıklara (örneğin 0,85, 0,10, 0,05) dönüştürerek görüntünün bir Golden Retriever içerdiğine dair yüksek bir güven düzeyi olduğunu belirtir. Bu, otomatik fotoğraf düzenlemeden Sağlık Hizmetlerinde Yapay Zeka alanındaki tıbbi teşhislere kadar uzanan uygulamalar için kritiktir.
• Doğal Dil İşleme (NLP): Softmax, Büyük Dil Modellerindeki (LLM'ler) metin üretiminin ardındaki motordur. Transformer gibi bir model bir cümle oluşturduğunda, sözlüğündeki her kelime için bir puan hesaplayarak bir sonraki kelimeyi (token) tahmin eder. Softmax bu puanları olasılıklara dönüştürerek modelin en olası bir sonraki kelimeyi seçmesini sağlar; bu da akıcı makine çevirisi ve konuşmaya dayalı yapay zeka uygulamalarına olanak tanır.
• Pekiştirmeli Öğrenme: Pekiştirmeli öğrenmedeki ajanlar, eylemleri seçmek için sıklıkla Softmax kullanır. Ajan, her zaman en yüksek değere sahip eylemi seçmek yerine, robotik kontrol veya oyun oynama gibi ortamlarda keşif ve sömürü arasında bir denge kurarak farklı stratejileri keşfetmek için olasılıkları kullanabilir.

Link to this sectionPython Kod Örneği#

Aşağıdaki örnek, önceden eğitilmiş bir YOLO26 sınıflandırma modelinin nasıl yükleneceğini ve Softmax aracılığıyla üretilen olasılık puanlarına nasıl erişileceğini göstermektedir.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Run inference on a sample image
results = model("https://ultralytics.com/images/bus.jpg")

# The model applies Softmax internally. Access the top prediction:
# The 'probs' attribute contains the probability distribution.
top_prob = results[0].probs.top1conf.item()
top_class = results[0].names[results[0].probs.top1]

print(f"Predicted Class: {top_class}")
print(f"Confidence (Softmax Output): {top_prob:.4f}")

Link to this sectionSoftmax'i İlgili Kavramlardan Ayırma#

While Softmax is dominant in multi-class scenarios, it is important to distinguish it from other mathematical functions used in model training and architecture design:

• Sigmoid: Sigmoid fonksiyonu da değerleri 0 ile 1 arasında ölçeklendirir, ancak her çıktıyı bağımsız olarak ele alır. Bu, Sigmoid'i ikili sınıflandırma (evet/hayır) veya sınıfların birbirini dışlamadığı çok etiketli sınıflandırma (örneğin, bir görüntü hem "İnsan" hem de "Sırt Çantası" içerebilir) için ideal kılar. Softmax, olasılıkların toplamını bire zorlayarak sınıfların birbiriyle rekabet etmesini sağlar.
• ReLU (Düzeltilmiş Doğrusal Birim): ReLU, doğrusal olmayan bir yapı kazandırmak için öncelikle bir ağın gizli katmanlarında kullanılır. Softmax'ten farklı olarak ReLU, çıktıları belirli bir aralıkla sınırlamaz (negatif girdiler için basitçe sıfır, pozitif girdiler için girdinin kendisini çıktı olarak verir) ve bir olasılık dağılımı oluşturmaz.
• Argmax: Softmax tüm sınıflar için olasılıkları sağlarken, Argmax fonksiyonu genellikle en yüksek olasılığa sahip tek dizini seçmek için onunla birlikte kullanılır. Softmax "yumuşak" güven düzeyini sağlarken, Argmax "sert" nihai kararı verir.

Link to this sectionGelişmiş Entegrasyon#

Modern makine öğrenmesi hatlarında Softmax genellikle kayıp fonksiyonlarının içinde örtük olarak hesaplanır. Örneğin Çapraz Entropi Kaybı (Cross-Entropy Loss), eğitim sırasında sayısal kararlılığı artırmak için Softmax ve negatif log-olabilirliği tek bir matematiksel adımda birleştirir. Ultralytics Platform gibi platformlar bu karmaşıklıkları otomatik olarak yöneterek kullanıcıların bu matematiksel işlemleri manuel olarak uygulamaya gerek duymadan güçlü modeller eğitmelerine olanak tanır.