SiLU (Sigmoid Linear Unit)

وحدة التنشيط الخطية السينية، والتي يُشار إليها عادةً باسم SiLU، هي دالة تنشيط فعالة للغاية تُستخدم في بنى التعلم العميق الحديثة لإدخال اللاخطية إلى الشبكات العصبية. من خلال تحديد كيفية معالجة الخلايا العصبية للمعلومات وتمريرها عبر طبقات النموذج، تُمكّن SiLU الأنظمة من تعلم الأنماط المعقدة في البيانات، حيث تعمل كبديل أكثر سلاسة وتطوراً لدوال الخطوة التقليدية. ترتبط SiLU غالباً بمصطلح "Swish" من الأبحاث الأولية حول البحث الآلي عن التنشيط، وقد أصبحت معياراً في نماذج الرؤية الحاسوبية عالية الأداء، بما في ذلك بنية YOLO26 المتطورة.

Link to this sectionكيف تعمل SiLU#

في جوهرها، تعمل دالة SiLU عن طريق ضرب قيمة المدخلات في تحويل السيني الخاص بها. على عكس دوال العتبة البسيطة التي تحوّل الخلية العصبية بشكل مفاجئ بين "التشغيل" و"الإيقاف"، توفر SiLU منحنى سلساً يسمح بمعالجة إشارات أكثر دقة. يخلق هذا الهيكل الرياضي خصائص متميزة تفيد عملية تدريب النموذج:

• السلاسة: المنحنى متصل وقابل للاشتقاق في كل مكان. هذه الخاصية تساعد خوارزميات التحسين مثل الانحدار الاشتقاقي من خلال توفير مشهد ثابت لضبط أوزان النموذج، مما يؤدي غالباً إلى تقارب أسرع أثناء التدريب.
• عدم الرتابة: على عكس الوحدات الخطية القياسية، فإن SiLU غير رتيبة، مما يعني أن مخرجاتها يمكن أن تنخفض حتى مع زيادة المدخلات في نطاقات سالبة معينة. يسمح هذا للشبكة بالتقاط ميزات معقدة والاحتفاظ بالقيم السالبة التي قد يتم تجاهلها لولا ذلك، مما يساعد في منع مشكلة تلاشي الاشتقاق في الشبكات العميقة.
• التفعيل الذاتي: تعمل SiLU كبوابة خاصة بها، حيث تعدل مقدار المدخلات التي تمر عبرها بناءً على حجم المدخلات نفسها. يحاكي هذا آليات البوابات الموجودة في شبكات الذاكرة طويلة المدى (LSTM) ولكن في شكل فعال حاسوبياً ومناسب للشبكات العصبية التلافيفية (CNNs).

Link to this sectionتطبيقات العالم الحقيقي#

تعتبر SiLU جزءاً لا يتجزأ من العديد من حلول الذكاء الاصطناعي المتطورة حيث تكون الدقة والكفاءة أمراً بالغ الأهمية.

• إدراك المركبات ذاتية القيادة: في مجال المركبات ذاتية القيادة الحساس للسلامة، يجب أن تحدد أنظمة الإدراك المشاة وعلامات المرور والعوائق فوراً. يمكن للنماذج التي تستخدم SiLU في بنيتها الأساسية الحفاظ على سرعات استنتاج عالية مع إجراء اكتشاف الكائنات بدقة في ظروف إضاءة متفاوتة، مما يضمن تفاعل المركبة بأمان مع بيئتها.
• تشخيص التصوير الطبي: في تحليل الصور الطبية، تحتاج الشبكات العصبية إلى تمييز اختلافات القوام الدقيقة في فحوصات التصوير بالرنين المغناطيسي أو الأشعة المقطعية. تساعد طبيعة الحفاظ على الاشتقاق في SiLU هذه الشبكات على تعلم التفاصيل الدقيقة اللازمة للكشف المبكر عن الأورام، مما يحسن بشكل كبير من موثوقية أدوات التشخيص الآلية التي يستخدمها أخصائيو الأشعة.

Link to this sectionالمقارنة مع المفاهيم ذات الصلة#

لتقدير SiLU بشكل كامل، من المفيد تمييزها عن دوال التنشيط الأخرى الموجودة في قاموس مصطلحات Ultralytics.

• SiLU مقابل ReLU (الوحدة الخطية المصححة): تشتهر ReLU بسرعتها وبساطتها، حيث تخرج صفراً لجميع المدخلات السالبة. ومع ذلك، يمكن أن يؤدي هذا إلى "خلايا عصبية ميتة" تتوقف عن التعلم. تتجنب SiLU ذلك من خلال السماح للاشتقاق غير الخطي الصغير بالتدفق عبر القيم السالبة، مما يؤدي غالباً إلى دقة أفضل للبنى العميقة المدربة على منصة Ultralytics.
• SiLU مقابل GELU (الوحدة الخطية لخطأ غاوس): هاتان الدالتان متشابهتان بصرياً ووظيفياً. GELU هي المعيار لـ نماذج Transformer مثل BERT وGPT، بينما يُفضل استخدام SiLU بشكل متكرر لمهام الرؤية الحاسوبية (CV) وكاشفات الكائنات القائمة على CNN.
• SiLU مقابل Sigmoid: على الرغم من أن SiLU تستخدم دالة Sigmoid داخلياً، إلا أنها تؤدي أدواراً مختلفة. تُستخدم Sigmoid عادةً في طبقة المخرجات النهائية للتصنيف الثنائي لتمثيل الاحتمالات، بينما تُستخدم SiLU في الطبقات المخفية لتسهيل استخراج الميزات.

Link to this sectionمثال على التنفيذ#

يمكنك تصور كيفية تحويل دوال التنشيط المختلفة للبيانات باستخدام مكتبة PyTorch. يوضح مقتطف الكود التالي الفرق بين ReLU (التي تصفر القيم السالبة) وSiLU (التي تسمح بتدفق سلس للقيم السالبة).

import torch
import torch.nn as nn

# Input data: negative, zero, and positive values
data = torch.tensor([-2.0, 0.0, 2.0])

# Apply ReLU: Negatives become 0, positives stay unchanged
relu_out = nn.ReLU()(data)
print(f"ReLU: {relu_out}")
# Output: tensor([0., 0., 2.])

# Apply SiLU: Smooth curve, small negative value retained
silu_out = nn.SiLU()(data)
print(f"SiLU: {silu_out}")
# Output: tensor([-0.2384,  0.0000,  1.7616])

من خلال الاحتفاظ بالمعلومات في القيم السالبة وتوفير اشتقاق سلس، تلعب SiLU دوراً محورياً في نجاح الشبكات العصبية الحديثة. إن اعتمادها في بنى مثل YOLO26 يؤكد أهميتها في تحقيق أداء متطور عبر مهام الرؤية الحاسوبية المتنوعة.