سيني

الدالة السيجميّة هي دالة تنشيط شائعة تُستخدم في التعلّم الآلي (ML) والتعلّم العميق (DL). وهي دالة رياضية تُنتج منحنى مميز على شكل حرف "S" أو منحنى سيغمي. والغرض الأساسي منه هو أخذ أي رقم ذي قيمة حقيقية و"سحقه" في نطاق بين 0 و1. غالبًا ما يتم تفسير هذا الناتج على أنه احتمال، مما يجعل الدالة السيجويدية مفيدة بشكل خاص في النماذج التي يكون الهدف منها التنبؤ باحتمالية حدوث نتيجة ما. من خلال إدخال اللاخطية في الشبكة العصبونية (NN)، فإنه يمكّن النموذج من تعلم أنماط معقدة من البيانات التي قد يكون من المستحيل تعلمها باستخدام التحويلات الخطية البسيطة.

الدور والتطبيقات

إن قدرة الدالة الجيبية على تحويل المدخلات إلى مخرجات شبيهة بالاحتمالات تجعلها حجر الزاوية لأنواع معينة من المهام. وعلى الرغم من أنها أصبحت أقل شيوعًا في الطبقات المخفية للشبكات العصبية العميقة الحديثة، إلا أنها تظل خيارًا قياسيًا لطبقة الخرج في سيناريوهات محددة.

التطبيقات الرئيسية

• التصنيف الثنائي: في مشاكل التصنيف الثنائي، يكون الهدف هو تصنيف المدخلات إلى إحدى فئتين (على سبيل المثال، بريد مزعج أو غير مزعج، مرض موجود أو غير موجود). توفر الدالة السيجيمية في طبقة الخرج قيمة واحدة بين 0 و 1، تمثل احتمال انتماء المدخلات إلى الفئة الإيجابية. على سبيل المثال، قد يستخدم نموذج تحليل الصور الطبية دالة سيغمويد لإخراج احتمال 0.9، مما يشير إلى احتمال 90% أن يكون الورم خبيثاً.
• تصنيف متعدد التسميات: على عكس التصنيف متعدد الفئات حيث ينتمي المدخل إلى فئة واحدة فقط، تسمح المهام متعددة التسميات بربط المدخل بتسميات متعددة في وقت واحد. على سبيل المثال، قد يقوم نموذج اكتشاف الأجسام مثل Ultralytics YOLO بتحليل صورة وتحديد "سيارة" و"مشاة" و"إشارة مرور" في آنٍ واحد. في هذه الحالة، يتم تطبيق دالة سيغمويد على كل خلية عصبية مخرجة بشكل مستقل، مما يعطي احتمالاً لكل تسمية محتملة. يمكنك معرفة المزيد عن تطور اكتشاف الأجسام.
• آليات البوابات في شبكات الذاكرة العصبية المتكرّرة: تعد الدوال السيجيمية مكونًا أساسيًا في آليات البوابات في الشبكات العصبية المتكررة (RNNs)، مثل الذاكرة طويلة المدى القصيرة الأجل (LSTM) والوحدات المتكررة ذات البوابات (GRU). وتستخدم هذه البوابات نظام Sigmoid للتحكم في تدفق المعلومات، وتحديد البيانات التي يجب الاحتفاظ بها أو تجاهلها في كل خطوة. هذه الآلية ضرورية لتعلم التبعيات طويلة الأجل في البيانات المتسلسلة، كما هو موضح في هذه التدوينة المفصلة حول فهم وحدات الذاكرة طويلة الأجل القصيرة.

مقارنة مع وظائف التنشيط الأخرى

من المهم التمييز بين الدالة الجيبية ودوال التنشيط الأخرى لفهم متى يجب استخدامها.

• سوفت ماكس: تُستخدم دالة Softmax عادةً لمشاكل التصنيف متعدد الفئات، حيث ينتمي كل مدخل إلى فئة واحدة فقط من عدة فئات ممكنة. على عكس الدالة سيغمويد التي تحسب الاحتمالات المستقلة لكل مخرج، تحسب دالة سوفت ماكس توزيعًا احتماليًا عبر جميع الفئات التي مجموعها 1. على سبيل المثال، قد يستخدم نموذج يصنّف الأرقام المكتوبة بخط اليد من مجموعة بيانات MNIST نموذج Softmax لتعيين احتمال واحد لكل رقم من 0 إلى 9.
• ReLU (الوحدة الخطية المعدلة): أصبحت ReLU المعيار الفعلي للطبقات المخفية في الشبكات العميقة. إنها أكثر كفاءة من الناحية الحسابية وتساعد على التخفيف من مشكلة التدرج المتلاشي - وهي مشكلة كبيرة مع سيغمويد حيث تصبح التدرجات صغيرة للغاية أثناء الترحيل العكسي، مما يؤدي إلى إبطاء أو إيقاف عملية التعلم. يمكنك قراءة المزيد عن تحديات التدرجات في مقالة DeepLearning.AI هذه .
• SiLU (الوحدة الخطية الجيبية): تُعرف أيضًا باسم Swish، SiLU هي دالة تنشيط أكثر حداثة مشتقة من Sigmoid. وغالبًا ما يكون أداؤها أفضل من أداء ReLU في النماذج الأعمق، بما في ذلك بنى الرؤية الحاسوبية المتقدمة. غالبًا ما تستفيد نماذج التحليلات الفائقة من وظائف التنشيط المتقدمة لتحقيق توازن أفضل بين السرعة والدقة.

الاستخدام الحديث والتوافر

على الرغم من أنه أقل شيوعًا في الطبقات المخفية اليوم، إلا أنه يظل خيارًا قياسيًا لطبقات الخرج في مهام التصنيف الثنائية ومتعددة التسميات. كما أنه يشكل أيضًا مكونًا أساسيًا في آليات البوابات داخل البنى المعقدة التي تتعامل مع البيانات المتسلسلة.

يتوفر السينيغمويد بسهولة في جميع الأماكن الرئيسية أطر التعلم العميقبما في ذلك باي تورتش (مثل torch.sigmoid) و تينسورفلو (مثل tf.keras.activations.sigmoid). منصات مثل Ultralytics HUB دعم النماذج التي تستخدم دوال تنشيط مختلفة، مما يسمح للمستخدمين ب القطار و النشر حلول الرؤية الحاسوبية المتطورة.