Tanh (Hyperbolic Tangent)

تعتبر دالة Tanh (ظل اللفظ الزائدي) دالة تنشيط رياضية مستخدمة على نطاق واسع في الطبقات المخفية للشبكات العصبية الاصطناعية. تقوم بتحويل قيم الإدخال إلى نطاق إخراج يتراوح بين -1 و1، مما يخلق منحنى على شكل حرف S مشابهاً لدالة سيني (sigmoid) ولكنه يتمركز عند الصفر. تعد خاصية التمركز حول الصفر هذه أمرًا بالغ الأهمية لأنها تسمح للنموذج بالتعلم بشكل أكثر كفاءة عن طريق تطبيع مخرجات الخلايا العصبية، مما يضمن أن البيانات التي تدفق عبر الشبكة لها متوسط أقرب إلى الصفر. من خلال معالجة القيم السلبية صراحةً، تساعد دالة Tanh الشبكات العصبية على التقاط أنماط وعلاقات أكثر تعقيدًا داخل البيانات.

آلية عمل Tanh في التعلم العميق#

في هندسة نماذج التعلم العميق، تُدخل دوال التنشيط اللاخطية، مما تمكن الشبكة من تعلم حدود معقدة بين فئات مختلفة من البيانات. وبدون دوال مثل Tanh، ستتلوك الشبكة العصبية كنموذج انحدار خطي بسيط، بغض النظر عن عدد الطبقات التي تمتلكها. تعتبر دالة Tanh فعالة بشكل خاص في الشبكات العصبية المتكررة (RNN) وأنواع معينة من الشبكات الأمامية حيث يساعد الحفاظ على توزيع تنشيط متوازن وممركز حول الصفر في منع مشكلة تلاشي التدرج أثناء الانتشار العكسي.

عندما يتم تعيين المدخلات إلى نطاق من -1 إلى 1، تؤدي المدخلات السلبية بقوة إلى مخرجات سلبية، وتؤدي المدخلات الإيجابية بقوة إلى مخرجات إيجابية. يختلف هذا عن دالة السيني (Sigmoid)، التي تضغط القيم بين 0 و1. ونظرًا لأن مخرجات Tanh متماثلة حول الصفر، فإن عملية النزول المتدرج غالبًا ما تقارب بشكل أسرع، حيث إن الأوزان في الطبقات اللاحقة لا تتحرك باستمرار في اتجاه واحد (وهي ظاهرة تعرف بمسار "الخط المتعرج" في التحسين).

تطبيقات العالم الحقيقي#

تستمر Tanh في لعب دور حيوي في بنى وتطبيقات معينة، خاصة حيثما تتطلب معالجة التسلسل وتقدير القيم المستمرة.

• معالجة اللغات الطبيعية (NLP): في بنيات مثل شبكات الذاكرة طويلة المدى (LSTM) وحدات التكرار المسورة (GRU)، تُستخدم Tanh كدالة تنشيط أساسية لتنظيم تدفق المعلومات. على سبيل المثال، في مهام الترجمة الآلية حيث يترجم النموذج النص من الإنجليزية إلى الفرنسية، تساعد البوابات الداخلية لـ LSTM في تحديد مقدار السياق السابق (الذاكرة) المراد الاحتفاظ به أو نسيانه. هذا يسمح للنموذج بالتعامل مع التبعيات طويلة الأجل في تراكيب الجمل.
• الشبكات التنافسية التوليدية (GANs): في المكون المولِّد للعديد من الشبكات التنافسية التوليدية، تُستخدم Tanh بشكل متكرر كدالة تنشيط نهائية لطبقة الإخراج. بما أنه غالباً ما يتم تطبيع الصور إلى نطاق من -1 إلى 1 أثناء المعالجة المسبقة، فإن استخدام Tanh يضمن أن المولِّد ينتج قيم بكسل ضمن نفس النطاق الصحيح. تساعد هذه التقنية في تركيب صور واقعية لتطبيقات مثل التوليد من النص إلى الصورة.

المقارنة: Tanh مقابل Sigmoid مقابل ReLU#

من المفيد تمييز Tanh عن الدوال الشائعة الأخرى لفهم متى يجب استخدامها.

• مقارنة Tanh مع Sigmoid: كلاهما منحنيان على شكل حرف S. ومع ذلك، تقوم دالة Sigmoid بإخراج قيم تتراوح بين 0 و1، مما قد يتسبب في تلاشي التدرجات بسرعة أكبر مقارنة بـ Tanh. عادةً ما يتم الاحتفاظ بدالة Sigmoid لطبقة الإخراج النهائية لمشاكل التصنيف الثنائي (التنبؤ بالاحتمالية)، بينما يُفضل استخدام Tanh للطبقات المخفية في شبكات RNN.
• مقارنة Tanh مع ReLU (وحدة الخط المستقيم المعدل): في الشبكات العصبية التلافيفية (CNNs) الحديثة مثل YOLO26، يُفضل عمومًا استخدام ReLU ومشتقاتها (مثل SiLU) على Tanh للطبقات المخفية. ويرجع ذلك إلى أن ReLU يتجنب مشكلة تلاشي التدرج بشكل أكثر فعالية للشبكات العميقة جدًا وهو أقل تكلفة من الناحية الحسابية في الحساب. وتعتبر Tanh أكثر تكلفة من الناحية الحسابية بسبب العمليات الحسابية الأسية المتضمنة.

تنفيذ دوال التنشيط في PyTorch#

بينما تتعامل النماذج عالية المستوى مثل Ultralytics YOLO26 مع تعريفات التنشيط داخلياً ضمن ملفات التكوين الخاصة بها، فإن فهم كيفية تطبيق Tanh باستخدام PyTorch يُعد مفيداً لبناء نماذج مخصصة.

import torch
import torch.nn as nn

# Define a sample input tensor with positive and negative values
input_data = torch.tensor([-2.0, -0.5, 0.0, 0.5, 2.0])

# Initialize the Tanh activation function
tanh = nn.Tanh()

# Apply Tanh to the input data
output = tanh(input_data)

# Print results to see values squashed between -1 and 1
print(f"Input: {input_data}")
print(f"Output: {output}")

للمستخدمين المهتمين بتدريب البنيات المخصصة أو إدارة مجموعات البيانات بفعالية، توفر منصة Ultralytics بيئة مبسطة للتجربة مع معلمات النموذج الفائقة المختلفة، وتصور مقاييس التدريب، ونشر الحلول دون الحاجة إلى برمجة كل طبقة من الشبكة العصبية يدويًا.