دالة التنشيط

وظيفة التنشيط هي مكون أساسي في الشبكة العصبية (NN) التي تحدد ناتج الخلايا العصبية بناءً على مجموعة من المدخلات. غالبًا ما توصف بـ "حارس البوابة"، فهي تقرر ما إذا كانت الخلايا العصبية يجب أن تكون نشطة — بمعنى أنها تساهم في توقعات الشبكة — أو غير نشطة. بدون هذه العمليات الحسابية، فإن الشبكة العصبية ستتصرف كنموذج انحدار خطي بسيط ، غير قادر على فهم الأنماط المعقدة بغض النظر عن عمقها. من خلال إدخال عدم الخطية، تتيح وظائف التنشيط لنماذج التعلم العميق (DL) تعلم الهياكل المعقدة ، مثل المنحنيات في الأرقام المكتوبة بخط اليد أو الحالات الشاذة الدقيقة في تحليل الصور الطبية.

الوظائف الأساسية والأنواع الشائعة

تتمثل الوظيفة الأساسية لوظيفة التنشيط في تعيين إشارات الإدخال إلى نطاق الإخراج المطلوب وإدخال التعقيد في خرائط الميزات التي تم إنشاؤها بواسطة الشبكة. يختار المطورون وظائف محددة بناءً على موضع الطبقة وأهداف عملية تدريب النموذج.

• ReLU (وحدة خطية مصححة): حالياً، الوظيفة الأكثر استخداماً للطبقات المخفية. تخرج المدخلات مباشرةً إذا كانت موجبة، وصفر في الحالات الأخرى. هذه البساطة تسرع الحساب وتساعد في التخفيف من مشكلة التدرج المتلاشي، وهي تحدي متكرر عند تدريب البنى العميقة.
• السيجمويد: هذه الوظيفة "تضغط" قيم الإدخال في نطاق بين 0 و 1. وغالبًا ما تستخدم في الطبقة النهائية لمهام التصنيف الثنائي، مثل تحديد ما إذا كان البريد الإلكتروني بريدًا مزعجًا، حيث يمكن تفسير الناتج على أنه درجة احتمالية.
• Softmax: ضروري للمشاكل متعددة الفئات ، حيث يحول Softmax متجه الأرقام إلى توزيع احتمالي حيث مجموع جميع القيم يساوي واحدًا. هذا هو المعيار في تحديات تصنيف الصور مثل تلك الموجودة في ImageNet .
• SiLU (وحدة خطية سيغماويدية): وظيفة سلسة وغير متجانسة تُستخدم غالبًا في أحدث البنى مثل YOLO26. تتيح SiLU تدفقًا أفضل للتدرج مقارنةً بـ ReLU في النماذج العميقة جدًا، مما يساهم في تحقيق دقة أعلى.

تطبيقات العالم الحقيقي في الذكاء الاصطناعي

يؤثر اختيار وظيفة التنشيط بشكل مباشر على الأداء و زمن الاستدلال لأنظمة الذكاء الاصطناعي المستخدمة في العمليات اليومية .

1. كشف الأجسام في متاجر البيع بالتجزئة: في أنظمة الدفع الآلي، تحدد نماذج كشف الأجسام المنتجات الموجودة على حزام النقل. تستخدم الطبقات المخفية وظائف فعالة مثل ReLU أو SiLU لمعالجة الميزات البصرية بسرعة. تحدد طبقة الإخراج الفئة (على سبيل المثال، "تفاحة"، "حبوب") و إحداثيات المربع المحيط، مما يمكّن النظام من حساب الفاتورة تلقائيًا. هذا أمر بالغ الأهمية بالنسبة للذكاء الاصطناعي في مجال البيع بالتجزئة لضمان السرعة ورضا العملاء .
2. تحليل المشاعر: في معالجة اللغة الطبيعية (NLP)، تحلل النماذج تقييمات العملاء لقياس مدى رضاهم. قد تعالج الشبكة البيانات النصية وتستخدم دالة Sigmoid في الطبقة النهائية لإخراج درجة مشاعر تتراوح بين 0 (سلبية) و 1 (إيجابية)، مما يساعد الشركات على فهم ملاحظات العملاء على نطاق واسع باستخدام التعلم الآلي (ML).

مثال على التنفيذ

يمكنك تصور كيفية تحويل وظائف التنشيط المختلفة للبيانات باستخدام PyTorch . يوضح مقتطف الشفرة التالي الفرق بين ReLU (التي تعمل على إعادة تعيين القيم السالبة إلى صفر) و Sigmoid (التي تعمل على ضغط القيم).

import torch
import torch.nn as nn

# Input data: negative, zero, and positive values
data = torch.tensor([-2.0, 0.0, 2.0])

# Apply ReLU: Negatives become 0, positives stay unchanged
relu_output = nn.ReLU()(data)
print(f"ReLU:    {relu_output}")
# Output: tensor([0., 0., 2.])

# Apply Sigmoid: Squashes values between 0 and 1
sigmoid_output = nn.Sigmoid()(data)
print(f"Sigmoid: {sigmoid_output}")
# Output: tensor([0.1192, 0.5000, 0.8808])

التمييز بين المفاهيم ذات الصلة

من المهم التمييز بين وظائف التنشيط والمكونات الرياضية الأخرى في مسار التعلم.

• وظيفة التنشيط مقابل وظيفة الخسارة: تعمل وظيفة التنشيط أثناء التمرير الأمامي لتشكيل ناتج الخلية العصبية. وظيفة الخسارة، مثل الخطأ المربع المتوسط، تحسب الخطأ بين التنبؤ والهدف الفعلي في نهاية التمرير الأمامي.
• وظيفة التنشيط مقابل خوارزمية التحسين: بينما تحدد وظيفة التنشيط بنية المخرجات، فإن المحسّن (مثل Adam أو الانحدار العشوائي التدرجي) يقرر كيفية تحديث أوزان النموذج لتقليل الخطأ المحسوب بواسطة وظيفة الخسارة.
• وظيفة التنشيط مقابل التعلم النقلي: وظائف التنشيط هي عمليات حسابية ثابتة داخل طبقات الشبكة. التعلم النقلي هو تقنية يتم فيها تكييف نموذج مدرب مسبقًا لمهمة جديدة، مع الحفاظ في الغالب على وظائف التنشيط للبنية الأصلية مع ضبط الأوزان على مجموعة بيانات مخصصة عبر Ultralytics .

للتعمق أكثر في كيفية اندماج هذه الوظائف في أنظمة أكبر، استكشف PyTorch حول التنشيطات غير الخطية أو اقرأ عن كيفية اعتماد مهام الرؤية الحاسوبية عليها لاستخراج الميزات.