Transfer Learning

التعلّم بالنقل تقنية من تعلّم الآلة تعيد استخدام نموذج دُرّب على مهمة ما بوصفه نقطة انطلاق لمهمة ذات صلة. يتطلب تدريب شبكة عصبية بأوزان عشوائية مجموعات بيانات كبيرة موسومة وقدرة حوسبة كبيرة، في حين أن نموذجًا دُرّب مسبقًا على ملايين الصور قد تعلّم بالفعل سمات بصرية تحتاج إليها معظم المهام الجديدة. وانطلاقًا من أوزان النموذج المتعلَّمة، يحقق نموذج جديد دقة عالية باستخدام عدد أقل بكثير من الصور الموسومة وفي جزء من وقت التدريب، ولهذا يُعدّ التعلّم بالنقل الأسلوب الافتراضي لبناء نماذج الرؤية الحاسوبية للمهام المخصصة.

آلية عمل التعلّم بالنقل#

ينجح التعلّم بالنقل لأن الشبكات العميقة تتعلم السمات ضمن تسلسل هرمي. تستجيب الطبقات الأولى من العمود الفقري للحواف والألوان والأنسجة الموجودة في أي صورة تقريبًا، بينما تجمع الطبقات الأعمق هذه العناصر لتكوين أجزاء الأجسام ومفاهيم خاصة بالمهمة. وقاست دراسة Yosinski وآخرين هذا التدرج في الشبكات الالتفافية، ووجدت أن سمات الطبقة الأولى عامة، وأن قابلية النقل تنخفض في الطبقات الأعلى مع تخصّص السمات للمهمة الأصلية، وأن السمات المنقولة تحسّن التعميم حتى بعد الضبط الدقيق على مجموعة البيانات الجديدة.

تتكون العملية من مرحلتين:

1. التدريب المسبق: يتعلم النموذج تمثيلات عامة على مجموعة بيانات معيارية كبيرة مثل ImageNet أو COCO أو Objects365، وينتج عن ذلك مجموعة من الأوزان المدرّبة مسبقًا.
2. التكييف: تُستبدل طبقات الإخراج، مثل المصنّف أو رأس الكشف، أو يُعاد تحجيمها لتناسب الفئات الجديدة، ثم تُدرّب على مجموعة البيانات المستهدفة. في استخلاص السمات، تبقى الطبقات المدرّبة مسبقًا مجمّدة، ولا تتعلم سوى الطبقات الجديدة. أما في الضبط الدقيق، فتُحدَّث أيضًا بعض الطبقات المدرّبة مسبقًا أو كلها، وعادةً بمعدل تعلّم أقل.

يعتمد مقدار ما ينبغي إعادة تدريبه من الشبكة على سؤالين: مقدار البيانات الموسومة المتاحة للمهمة الجديدة، ومدى تشابهها مع بيانات التدريب المسبق. وتعرض ملاحظات مقرر CS231n في جامعة ستانفورد الحالات الأربع الناتجة:

التعلّم بالنقل لكشف الأجسام#

تُدرّب نماذج الكشف دائمًا تقريبًا باستخدام النقل: فقد دُرّبت نقاط التحقق الرسمية لـYOLO26 مسبقًا على Objects365 لمدة 150 حقبة قبل ضبطها بدقة على COCO، كما توثق وصفة تدريب YOLO26. ويؤدي استدعاء train() على نقطة تحقق محمّلة مع مجموعة بيانات جديدة إلى نقل كل وزن متوافق، وإعادة ضبط صفوف المخرجات الخاصة بالفئات عند تغير عدد الفئات مع الإبقاء على الصفوف المطابقة لأسماء الفئات، كما يقبل وسيطة freeze التي تثبت الطبقات المبكرة، وهو ما يفيد غالبًا مع مجموعات البيانات الصغيرة.

from ultralytics import YOLO

# ⁨تحميل أوزان YOLO26n المدرّبة مسبقًا على فئات COCO الثمانين⁩
model = YOLO("yolo26n.pt")

# ⁨تكييف النموذج مع مجموعة بيانات جديدة أحادية الفئة؛ إذ يثبّت freeze=10 الطبقات العشر الأولى⁩
results = model.train(data="medical-pills.yaml", epochs=20, freeze=10)

يرصد العمود الفقري المدرّب مسبقًا الأشكال والحواف والأنسجة بالفعل، لذا لا يتطلب التدريب سوى تعلّم شكل الحبة من صور التدريب الـ92 الموسومة في مجموعة بيانات الحبوب الطبية.

التعلّم بالنقل والمصطلحات ذات الصلة#

• الضبط الدقيق: إحدى طرق تنفيذ التعلّم بالنقل، وتواصل فيها الأوزان المدرّبة مسبقًا التحديث اعتمادًا على البيانات الجديدة. أما استخلاص السمات مع عمود فقري مجمّد فهو الطريقة الرئيسية الأخرى.
• تكييف المجال: شكل من أشكال التعلّم بالنقل تبقى فيه المهمة نفسها، لكن يتغير توزيع البيانات، مثل الانتقال من الصور النهارية إلى الصور الليلية، وغالبًا ما يكون ذلك مع عدد قليل من التسميات المستهدفة أو من دونها.
• التعلّم دون أمثلة والتعلّم بأمثلة قليلة: يتعاملان مع فئات جديدة من دون أمثلة موسومة أو باستخدام عدد قليل منها فقط، اعتمادًا على المعرفة العامة للنموذج المدرّب مسبقًا بدلًا من مرحلة تكييف كاملة.
• الضبط الدقيق الكفؤ من حيث المعلمات (PEFT): يكيّف النماذج الكبيرة جدًا المدرّبة مسبقًا عبر تدريب مجموعة صغيرة من المعلمات المضافة أو المحددة، مثل مصفوفات LoRA، مع إبقاء الأوزان الأصلية مجمّدة.
• النسيان الكارثي: فقدان مهارات المهمة الأصلية عند ضبط النموذج بدقة على بيانات جديدة. ويمكن الحد منه بإدراج بعض صور الفئات الأصلية ضمن مجموعة التدريب الجديدة أو بتجميد مزيد من الطبقات.