Tanh (ظل الزائدية)

دالة Tanh (المماسية الزائدية) هي دالة تنشيط رياضية تستخدم على نطاق واسع في الطبقات الخفية للشبكات العصبية الاصطناعية. وهي تحول قيم المدخلات إلى نطاق مخرجات بين -1 و 1، مما ينتج عنه منحنى على شكل حرف S مشابه لدالة sigmoid ولكن مركزه عند الصفر. هذه الخاصية المتمركزة حول الصفر مهمة للغاية لأنها تسمح للنموذج بالتعلم بشكل أكثر كفاءة من خلال تطبيع خرج الخلايا العصبية، مما يضمن أن البيانات المتدفقة عبر الشبكة لها متوسط أقرب إلى الصفر. من خلال التعامل مع القيم السالبة بشكل صريح، تساعد Tanh الشبكات العصبية على التقاط أنماط وعلاقات أكثر تعقيدًا داخل البيانات.

آلية Tanh في التعلم العميق

في بنية نماذج التعلم العميق، تضفي وظائف التنشيط عدم خطية، مما يمكّن الشبكة من تعلم الحدود المعقدة بين فئات مختلفة من البيانات. بدون وظائف مثل Tanh، ستتصرف الشبكة العصبية مثل نموذج انحدار خطي بسيط، بغض النظر عن عدد الطبقات التي تحتويها. تعد وظيفة Tanh فعالة بشكل خاص في الشبكات العصبية المتكررة (RNN) و أنواع معينة من شبكات التغذية الأمامية حيث يساعد الحفاظ على توزيع تنشيط متوازن ومتمركز حول الصفر في منع مشكلة التدرج المتلاشي أثناء الانتشار العكسي.

عندما يتم تعيين المدخلات إلى النطاق من -1 إلى 1، تؤدي المدخلات السلبية القوية إلى مخرجات سلبية، وتؤدي المدخلات الإيجابية القوية إلى مخرجات إيجابية. وهذا يختلف عن دالة Sigmoid، التي تسحق القيم بين 0 و 1. نظرًا لأن مخرجات Tanh متماثلة حول الصفر، فإن عملية الانحدار التدرجي غالبًا ما تتقارب بشكل أسرع، حيث أن الأوزان في الطبقات اللاحقة لا تتحرك باستمرار في اتجاه واحد (وهي ظاهرة تُعرف باسم مسار "متعرج" في التحسين).

تطبيقات واقعية

تواصل Tanh لعب دور حيوي في هياكل وحالات استخدام محددة، لا سيما عندما تكون معالجة التسلسل وتقدير القيمة المستمر مطلوبين.

• معالجة اللغة الطبيعية (NLP): في بنى مثل شبكات الذاكرة القصيرة الطويلة المدى (LSTM) و وحدات التكرار البوابية (GRU)، يتم استخدام Tanh كنشاط أساسي لتنظيم تدفق المعلومات. على سبيل المثال، في مهام الترجمة الآلية حيث يقوم النموذج بترجمة النص من English الفرنسية، يساعد Tanh البوابات الداخلية لـ LSTM في تحديد مقدار السياق السابق (الذاكرة) الذي يجب الاحتفاظ به أو نسيانه. وهذا يسمح للنموذج بالتعامل مع التبعيات طويلة المدى في تراكيب الجمل.
• الشبكات التنافسية التوليدية (GANs): في مكون المولد في العديد من الشبكات التنافسية التوليدية، غالبًا ما يستخدم Tanh كوظيفة التنشيط النهائية لطبقة الإخراج. نظرًا لأن الصور غالبًا ما يتم تطبيعها إلى نطاق من -1 إلى 1 أثناء المعالجة المسبقة، فإن استخدام Tanh يضمن أن المولد ينتج قيم بكسل ضمن نفس النطاق الصالح. تساعد هذه التقنية في توليف صور واقعية لتطبيقات مثل توليد النص إلى صورة.

مقارنة: Tanh مقابل Sigmoid مقابل ReLU

من المفيد التمييز بين Tanh والوظائف الشائعة الأخرى لفهم متى يتم استخدامها.

• Tanh مقابل Sigmoid: كلاهما منحنيان على شكل حرف S. ومع ذلك، فإن Sigmoid ينتج قيمًا بين 0 و 1، مما قد يتسبب في اختفاء التدرجات بشكل أسرع من Tanh. عادةً ما يتم حجز Sigmoid للطبقة النهائية من مشاكل التصنيف الثنائي (توقع الاحتمالات)، بينما يُفضل استخدام Tanh للطبقات المخفية في شبكات RNN.
• Tanh مقابل ReLU (وحدة خطية مصححة): في الشبكات العصبية التلافيفية الحديثة (CNNs) مثل YOLO26، يُفضل استخدام ReLU ومتغيراتها (مثل SiLU) بشكل عام على Tanh للطبقات المخفية. وذلك لأن ReLU تتجنب مشكلة التدرج المتلاشي بشكل أكثر فعالية للشبكات العميقة جدًا وهي أرخص من الناحية الحسابية. تعتبر Tanh أكثر تكلفة من الناحية الحسابية بسبب الحسابات الأسية التي تنطوي عليها.

تنفيذ التنشيطات في PyTorch

بينما تتعامل النماذج عالية المستوى مثل YOLO26 مع تعريفات التنشيط داخليًا ضمن ملفات التكوين الخاصة بها، فإن فهم كيفية تطبيق Tanh باستخدام PyTorch مفيد لبناء نماذج مخصصة.

import torch
import torch.nn as nn

# Define a sample input tensor with positive and negative values
input_data = torch.tensor([-2.0, -0.5, 0.0, 0.5, 2.0])

# Initialize the Tanh activation function
tanh = nn.Tanh()

# Apply Tanh to the input data
output = tanh(input_data)

# Print results to see values squashed between -1 and 1
print(f"Input: {input_data}")
print(f"Output: {output}")

بالنسبة للمستخدمين المهتمين بتدريب البنى المخصصة أو إدارة مجموعات البيانات بفعالية، توفر Ultralytics بيئة مبسطة لتجربة معلمات نموذجية مختلفة، وتصور مقاييس التدريب، ونشر الحلول دون الحاجة إلى برمجة كل طبقة من الشبكة العصبية يدويًا.