ترخيص YOLO
العودة إلى مسرد Ultralytics

Identity Mapping

يمرر ربط الهوية مُدخل الكتلة دون تغيير عبر مسار مختصر، ثم يضيفه إلى المخرجات، ما يتيح للتدرجات الوصول إلى الطبقات المبكرة في الشبكات العميقة.

في التعلّم العميق، ربط الهوية هو وصلة تنقل مُدخل كتلة دون تغيير وتضيفه إلى خرج الكتلة، بحيث تحسب الكتلة y = x + F(x) بدلًا من y = F(x). وتأتي التسمية من دالة الهوية، f(x) = x. وبنى Kaiming He وXiangyu Zhang وShaoqing Ren وJian Sun الشبكات المتبقية (ResNet) على هذه الوصلات المختصرة القائمة على الهوية عام 2015، وفازوا في العام نفسه بتحدي تصنيف ImageNet باستخدام شبكة من 152 طبقة. وتمتد هذه الوصلات المختصرة الآن عبر كل بنية عميقة تقريبًا، من الشبكات العصبية الالتفافية (CNNs) إلى المسار المتبقي لكل محوّل.

لماذا تجعل روابط الهوية التدريب مع العمق ممكنًا#

قبل ResNet، كانت إضافة الطبقات تؤدي غالبًا إلى تدهور الشبكات. ووجد He وزملاؤه أن شبكة عادية من 56 طبقة سجلت خطأ تدريب أعلى على CIFAR-10 من شبكة من 20 طبقة، لذا أضر العمق الإضافي بعملية التحسين نفسها، وهي مشكلة أطلقوا عليها اسم التدهور. ويمكن لشبكة أعمق أن تطابق أداء شبكة أقل عمقًا دائمًا عبر جعل طبقاتها الإضافية تحقق الهوية، لكن تكديس الطبقات غير الخطية يصعّب تعلم الهوية. ولا تحتاج الكتلة المتبقية إلا إلى تعلم الفرق F(x) = H(x) - x عن مُدخلها، ويؤدي دفع F نحو الصفر إلى استعادة الهوية.

يغيّر المسار المختصر أيضًا الانتشار العكسي. فبما أن y = x + F(x)، يساوي مشتق y بالنسبة إلى x العدد 1 مضافًا إليه مشتق F، وينقل العدد الثابت 1 التدرج مباشرةً إلى الخلف عبر كل كتلة. أما في تكديس عادي، فيكون التدرج حاصل ضرب عوامل كثيرة خاصة بالطبقات، وعندما تكون هذه العوامل أقل من 1، تتناقص النتيجة أسيًا، وهي مشكلة تلاشي التدرج. ويُظهر تشغيل الطبقات الخمسين نفسها مع الوصلات المختصرة ودونها في PyTorch الفرق:

import torch
from torch import nn

torch.manual_seed(0)
# 50 identical-shape layers, reused for a plain and a residual stack
layers = [nn.Sequential(nn.Linear(64, 64), nn.Tanh()) for _ in range(50)]
x = torch.randn(32, 64, requires_grad=True)

for residual in (False, True):
    h = x
    for layer in layers:
        h = h + layer(h) if residual else layer(h)  # identity shortcut adds the input back
    loss = h.square().mean()
    (grad,) = torch.autograd.grad(loss, x)
    print(f"residual={residual}: gradient norm at the input {grad.norm():.1e}")

يطبع معيارًا لمقدار التدرج عند المُدخل يساوي 1.1e-15 للتكديس العادي، و2.8e+00 للتكديس المتبقي المبني على الأوزان نفسها. ومن دون المسارات المختصرة، لن تتلقى الطبقات الأولى في هذه الشبكة إلا إشارة تدريب تكاد لا تُذكر.

الحفاظ على نقاء المسار المختصر#

في دراستهم اللاحقة عام 2016، روابط الهوية في الشبكات المتبقية العميقة، اختبر المؤلفون أنفسهم وصلات مختصرة تُغيّر x بالحجم أو البوابة أو الالتفاف أو الإسقاط، وكان أداء التدريب أسوأ في كل نسخة مقارنةً بالهوية الخالصة. كما نقلوا تطبيع الدفعات ودالة التنشيط إلى داخل الفرع المتبقي، قبل الأوزان، بحيث لا يؤثر شيء في الإشارة بين الكتل. ودرّب تصميم التنشيط المسبق ResNet من 1,001 طبقة على CIFAR-10 بخطأ بلغ 4.62%، وResNet من 200 طبقة على ImageNet. وتتبع المحوّلات الحديثة القاعدة نفسها باستخدام كتل التطبيع المسبق، التي تطبق التطبيع داخل كل فرع انتباه وتغذية أمامية، وتترك المسار المتبقي نفسه دون تغيير.

يتطلب المسار المختصر القائم على الهوية تطابق شكل المُدخل والخرج. وعندما تغيّر الكتلة عدد القنوات أو تقلل الأبعاد، تستبدل ResNet المسار المختصر الإسقاطي، الذي يكون عادةً التفافًا بحجم 1 × 1 وخطوة مطابقة:

تستخدم Ultralytics YOLO26 وصلات الهوية المختصرة في جميع أجزاء العمود الفقري والعنق: إذ تُبنى كل كتلة C3k2 من وحدات اختناق تعيد x مضافًا إليه خرج التفافين بحجم 3 × 3 كلما تطابقت قنوات المُدخل والخرج، كما تضيف كتلة SPPF مُدخلها إلى خرجها المجمّع بالطريقة نفسها.

تهيئة الهوية#

يمكن أن تبدأ الكتلة أيضًا بوصفها هوية. يؤدي ضبط مقياس طبقة تطبيع الدفعة الأخيرة في كل فرع متبقٍ على الصفر إلى جعل F(x) = 0 عند التهيئة، وبذلك تبدأ الشبكة العميقة التدريب كما لو كانت ضحلة؛ وقد استخدمت بريا غويال وزملاؤها هذه الطريقة لتدريب ResNet-50 على ImageNet في ساعة واحدة باستخدام دفعات كبيرة، وتتيحها torchvision باسم zero_init_residual=True. يضرب أسلوب ReZero، المقترح في عام 2020، كل فرع متبقٍ في قيمة عددية قابلة للتعلم تبدأ من الصفر.

وحدة nn.Identity في PyTorch هي دالة هوية حرفية بلا معاملات. واستبدال رأس المصنف بها، كما في model.fc = nn.Identity()، يحوّل شبكة تصنيف الصور إلى نموذج استخراج الميزات يعيد التضمينات الخاصة بطبقتها قبل الأخيرة.

الاتصال المتجاوز هو المصطلح الأعم لأي مسار يتجاوز طبقات. أما الاتصال المتبقي فهو النوع الجمعي، وتعيين الهوية هو اتصال متبقٍ لا يطبق مساره أي تحويل. يستخدم U-Net وDenseNet اتصالات متجاوزة تدمج خرائط الميزات السابقة بدلًا من جمعها. أما الحفاظ على الهوية فهو مصطلح غير مرتبط بذلك، يُستخدم في الذكاء الاصطناعي التوليدي والتتبع، ويعني احتفاظ شخص مولّد أو متتبّع بالمظهر المألوف نفسه عبر الصور أو إطارات الفيديو.

استكشف الحلول

الرؤية الحاسوبية في الرياضة

الرؤية الحاسوبية في الرياضة

اكتشف كيف يعزّز Ultralytics YOLO الرؤية الحاسوبية الرياضية عبر تتبّع اللاعبين والكرة، وتحليلات الأداء، ورؤى التدريب، وإعادة تأهيل الرياضيين.
معرفة المزيد
الرؤية الحاسوبية للصور الجوية

الرؤية الحاسوبية للصور الجوية

حوّل صور الطائرات المسيّرة والصور الجوية إلى رؤى آنية للزراعة وتربية الأحياء المائية والحفاظ على البيئة والتحليل الجغرافي المكاني باستخدام Ultralytics YOLO.
معرفة المزيد
الرؤية الحاسوبية في قطاع الطيران والفضاء

الرؤية الحاسوبية في قطاع الطيران والفضاء

طبّق الرؤية الحاسوبية في مجال الطيران والفضاء باستخدام Ultralytics YOLO لفحص الطائرات، واكتشاف الأجسام الغريبة على المدارج (FOD)، والعمليات الأرضية في المطارات، واكتشاف عيوب المواد المركّبة.
معرفة المزيد
الرؤية الحاسوبية في مجال الأمن

الرؤية الحاسوبية في مجال الأمن

احمِ كل موقع باستخدام نماذج Ultralytics YOLO. يدعم الذكاء الاصطناعي البصري مراقبة المحيط، واكتشاف التهديدات، والتعرف على لوحات المركبات، والسلامة في مكان العمل.
معرفة المزيد
الرؤية الحاسوبية في الروبوتات

الرؤية الحاسوبية في الروبوتات

عزّز أداء الآلات الذكية باستخدام نماذج Ultralytics YOLO. يدعم الذكاء الاصطناعي البصري في الروبوتات الملاحة الذاتية والإدراك وتعقب الأجسام والتحكم الآني.
معرفة المزيد
الرؤية الحاسوبية في الخدمات اللوجستية

الرؤية الحاسوبية في الخدمات اللوجستية

بسّط العمليات اللوجستية باستخدام نماذج Ultralytics YOLO. يتيح الذكاء الاصطناعي البصري فحص الطرود وفرزها وتتبع المركبات ومراقبة سلامة المستودعات في الوقت الفعلي.
معرفة المزيد
الرؤية الحاسوبية في تجارة التجزئة

الرؤية الحاسوبية في تجارة التجزئة

أعِد تصور تجارة التجزئة باستخدام نماذج Ultralytics YOLO. يتيح الذكاء الاصطناعي البصري تتبع المخزون ومراقبة الرفوف وإدارة الطوابير واستخلاص رؤى أذكى عن العملاء.
معرفة المزيد
الرؤية الحاسوبية في الرعاية الصحية

الرؤية الحاسوبية في الرعاية الصحية

أنشئ حلولًا للرعاية الصحية باستخدام نماذج Ultralytics YOLO. يعزز الذكاء الاصطناعي البصري في الرعاية الصحية سرعة التصوير الطبي، وكفاءة التشخيص، ومراقبة المرضى.
معرفة المزيد
الرؤية الحاسوبية في التصنيع

الرؤية الحاسوبية في التصنيع

حسّن التصنيع باستخدام نماذج Ultralytics YOLO. يعزز الذكاء الاصطناعي للرؤية مراقبة الجودة واكتشاف العيوب والالتزام بمعدات الوقاية الشخصية وأتمتة خطوط التجميع.
معرفة المزيد
الرؤية الحاسوبية في قطاع السيارات

الرؤية الحاسوبية في قطاع السيارات

طبّق الرؤية الحاسوبية في قطاع السيارات باستخدام نماذج Ultralytics YOLO. يعزز الذكاء الاصطناعي للرؤية سلامة الطرق ومساعدة السائق وأتمتة المركبات لإنشاء طرق أكثر ذكاءً.
معرفة المزيد
الرؤية الحاسوبية في الزراعة

الرؤية الحاسوبية في الزراعة

أدخل الذكاء الاصطناعي البصري إلى الزراعة الذكية باستخدام نماذج Ultralytics YOLO. عزّز مراقبة المحاصيل وتتبع الماشية والزراعة الدقيقة لزيادة الإنتاجية وتحسينها.
معرفة المزيد

لنبنِ مستقبل الذكاء الاصطناعي معًا!

ابدأ رحلتك نحو مستقبل تعلّم الآلة