Softmax

تعد Softmax دالة رياضية محورية في مجال الذكاء الاصطناعي، وتعمل تحديداً كخطوة نهائية في العديد من خوارزميات التصنيف. تقوم هذه الدالة بتحويل متجه من الأرقام الخام، التي غالباً ما تُسمى logits، إلى متجه من الاحتمالات. يضمن هذا التحويل أن تكون جميع قيم المخرجات موجبة ومجموعها يساوي واحداً بالضبط، مما ينشئ فعلياً توزيعاً احتماليًا صالحاً. وبسبب هذه الخاصية، تعد Softmax دالة التنشيط القياسية المستخدمة في طبقة المخرجات في الشبكات العصبية المصممة للتصنيف متعدد الفئات، حيث يجب على النظام اختيار فئة واحدة من بين أكثر من خيارين متنافيين.

Link to this sectionآلية عمل Softmax#

في سير عمل التعلم العميق (DL) المعتاد، تقوم طبقات الشبكة بعمليات ضرب وجمع مصفوفات معقدة. تتكون مخرجات الطبقة النهائية، قبل التنشيط، من نتائج خام تُعرف بـ logits. يمكن لهذه القيم أن تتراوح من سالب ما لا نهاية إلى موجب ما لا نهاية، مما يجعل من الصعب تفسيرها مباشرة كمستويات ثقة.

تعالج Softmax هذا الأمر من خلال تنفيذ عمليتين رئيسيتين:

1. الرفع للأس: تحسب الدالة الأس لكل رقم من المدخلات. تضمن هذه الخطوة أن تكون جميع القيم غير سالبة (بما أن $e^x$ دائماً موجبة) وتفرض عقوبة على القيم التي تقل بشكل ملحوظ عن القيمة القصوى، مع إبراز النتائج الأكبر.

2. التطبيع (Normalization): تجمع هذه الدالة القيم المرفوعة للأس وتقسم كل قيمة أسية فردية على هذا المجموع الكلي. تعمل عملية التطبيع هذه على قياس الأرقام بحيث تمثل أجزاءً من كل، مما يسمح للمطورين بتفسيرها كنسب مئوية لمستويات الثقة.

Link to this sectionتطبيقات العالم الحقيقي#

إن القدرة على إخراج احتمالات واضحة تجعل من Softmax أداة لا غنى عنها عبر مختلف الصناعات ومهام التعلم الآلي (ML).

• تصنيف الصور: في الرؤية الحاسوبية، تستخدم النماذج Softmax لتصنيف الصور. على سبيل المثال، عندما يقوم نموذج التصنيف Ultralytics YOLO26 بتحليل صورة، قد ينتج نتائج لفئات مثل "Golden Retriever" و "German Shepherd" و "Poodle". تقوم Softmax بتحويل هذه النتائج إلى احتمالات (على سبيل المثال: 0.85، 0.10، 0.05)، مما يشير إلى ثقة عالية بأن الصورة تحتوي على كلب من نوع Golden Retriever. يعد هذا أمراً بالغ الأهمية للتطبيقات التي تتراوح من تنظيم الصور المؤتمت إلى التشخيص الطبي في الذكاء الاصطناعي في الرعاية الصحية.
• معالجة اللغات الطبيعية (NLP): تعد Softmax المحرك الكامن وراء توليد النصوص في نماذج اللغات الكبيرة (LLMs). عندما يولد نموذج مثل Transformer جملة، فإنه يتنبأ بالكلمة (token) التالية من خلال حساب نتيجة لكل كلمة في مفرداته. تحول Softmax هذه النتائج إلى احتمالات، مما يسمح للنموذج باختيار الكلمة التالية الأكثر احتمالاً، مما يتيح الترجمة الآلية السلسة والذكاء الاصطناعي التفاعلي.
• التعلم التعزيزي: غالباً ما تستخدم الوكلاء في التعلم التعزيزي دالة Softmax لاختيار الإجراءات. بدلاً من اختيار الإجراء ذي القيمة الأعلى دائماً، قد يستخدم الوكيل الاحتمالات لاستكشاف استراتيجيات مختلفة، مما يوازن بين الاستكشاف والاستغلال في بيئات مثل التحكم الروبوتي أو لعب الألعاب.

Link to this sectionمثال كود Python#

يوضح المثال التالي كيفية تحميل نموذج تصنيف YOLO26 مدرب مسبقاً والوصول إلى درجات الاحتمالية التي يتم توليدها عبر Softmax.

from ultralytics import YOLO

# Load a pre-trained YOLO26 classification model
model = YOLO("yolo26n-cls.pt")

# Run inference on a sample image
results = model("https://ultralytics.com/images/bus.jpg")

# The model applies Softmax internally. Access the top prediction:
# The 'probs' attribute contains the probability distribution.
top_prob = results[0].probs.top1conf.item()
top_class = results[0].names[results[0].probs.top1]

print(f"Predicted Class: {top_class}")
print(f"Confidence (Softmax Output): {top_prob:.4f}")

Link to this sectionالتمييز بين Softmax والمفاهيم ذات الصلة#

While Softmax is dominant in multi-class scenarios, it is important to distinguish it from other mathematical functions used in model training and architecture design:

• Sigmoid: تقوم دالة Sigmoid أيضاً بقياس القيم بين 0 و 1، لكنها تعالج كل مخرج بشكل مستقل. هذا يجعل Sigmoid مثالية لـ التصنيف الثنائي (نعم/لا) أو التصنيف متعدد الملصقات حيث لا تكون الفئات متنافية (على سبيل المثال: يمكن أن تحتوي الصورة على "شخص" و "حقيبة ظهر"). تجبر Softmax الاحتمالات على أن يكون مجموعها واحداً، مما يجعل الفئات تتنافس مع بعضها البعض.
• ReLU (وحدة الخطية المصححة): تُستخدم ReLU في المقام الأول في الطبقات المخفية للشبكة لإدخال اللاخطية. على عكس Softmax، لا تقيد ReLU المخرجات بنطاق محدد (فهي ببساطة تخرج صفراً للمدخلات السالبة وتخرج المدخلات نفسها للمدخلات الموجبة) ولا تولد توزيعاً احتماليًا.
• Argmax: بينما توفر Softmax الاحتمالات لجميع الفئات، غالباً ما تُستخدم دالة Argmax بالتزامن لاختيار الفهرس الوحيد ذي الاحتمالية الأعلى. توفر Softmax الثقة "الناعمة"، بينما توفر Argmax القرار النهائي "الصلب".

Link to this sectionالتكامل المتقدم#

في خطوط أنابيب التعلم الآلي الحديثة، غالباً ما يتم حساب Softmax ضمنياً داخل دوال الخسارة. على سبيل المثال، تجمع دالة الخسارة Cross-Entropy بين Softmax واحتمالية السجل السالب في خطوة رياضية واحدة لتحسين الاستقرار العددي أثناء التدريب. تتعامل منصات مثل منصة Ultralytics مع هذه التعقيدات تلقائياً، مما يسمح للمستخدمين بتدريب نماذج قوية دون تنفيذ هذه العمليات الرياضية يدوياً.