ترخيص YOLO
العودة إلى مسرد Ultralytics

Continual Learning

يدرّب التعلم المستمر، أو التعلم مدى الحياة، نموذجًا على تدفق من المهام أو البيانات الجديدة دون أن ينسى المهام السابقة. يتناول هذا الموضوع إعادة التشغيل وEWC والبرمجة.

يدرّب التعلم المستمر، الذي يُسمى أيضًا التعلم مدى الحياة أو التعلم التزايدي، نموذجًا على سلسلة من المهام أو تدفق متغير من البيانات، مع الحفاظ على ما تعلمه سابقًا. وتستبدل الضبط الدقيق القياسي على بيانات جديدة أوزان النموذج التي أدت المهام السابقة، فتنهار دقته في تلك المهام، وهو إخفاق يُعرف باسم النسيان الكارثي. وتوازن أساليب التعلم المستمر بين المرونة، أي القدرة على تعلم أشياء جديدة، والاستقرار، أي القدرة على الاحتفاظ بالمعارف السابقة؛ وتُسمى هذه المفاضلة معضلة الاستقرار والمرونة في كل من الشبكات العصبية والأدمغة البيولوجية.

أهمية التعلم المستمر#

تواجه النماذج المنشورة بيانات متغيرة باستمرار: فئات جديدة للأجسام، أو معدات كاميرا جديدة، أو إضاءة موسمية، أو انجراف تدريجي للبيانات. وأبسط حل هو إعادة التدريب من الصفر على مجموعة البيانات التراكمية كاملةً، لكن تكلفته تزداد مع كل تحديث، وقد لا تتوفر البيانات الأقدم بسبب قيود التخزين أو الترخيص أو قواعد خصوصية البيانات. ويحدّث التعلم المستمر النموذج تدريجيًا بدلًا من ذلك، ما يجعله مناسبًا لأجهزة الذكاء الاصطناعي الطرفي ومسارات عمل عمليات التعلم الآلي التي تعيد تدريب النماذج المنشورة وفق جدول زمني.

أنواع التعلم المستمر#

يميّز فان دي فين وتويتلارس وتولياس ثلاثة سيناريوهات. في التعلم التزايدي للمهام، يُبلّغ النموذج بالمهمة التي ينتمي إليها كل إدخال، ويمكنه استخدام رأس إخراج منفصل لكل مهمة. وفي التعلم التزايدي للمجالات، تظل الفئات نفسها بينما يتغير توزيع المدخلات، كأن ينتقل كاشف من لقطات النهار إلى لقطات الليل. أما في التعلم التزايدي للفئات، فتصل فئات جديدة باستمرار، ويجب على النموذج التمييز بين جميع الفئات التي رآها حتى ذلك الحين من دون معرفة المهمة التي جاء منها الإدخال، ما يجعله أصعب السيناريوهات الثلاثة.

استراتيجيات منع النسيان#

  • إعادة العرض: يحتفظ النموذج بمخزن مؤقت صغير من الأمثلة السابقة، أو يولّد أمثلة اصطناعية بنموذج توليدي، ثم يخلطها بكل جولة تدريب جديدة.
  • توحيد الأوزان المرن: تضيف أساليب التنظيم مثل EWC عقوبةً إلى الخسارة عند تغيير الأوزان المهمة للمهام السابقة، وتقدّر أهمية تلك الأوزان استنادًا إلى معلومات فيشر.
  • عزل المعلمات: تُخصّص معلمات لكل مهمة، عبر شبكات أساسية مجمّدة أو رؤوس خاصة بالمهام أو محوّلات مثل LoRA، بحيث لا تتمكن تحديثات المهمة الجديدة من استبدال المعلمات القديمة.
  • تقطير المعرفة: تُستخدم مخرجات النموذج السابق على البيانات الجديدة أهدافًا لينة أثناء تعلّم النموذج للمهمة الجديدة، وهو نهج يُعرف بالتعلم من دون نسيان.

يشغّل المقتطف أدناه تجربةً للتعلم التزايدي للفئات باستخدام PyTorch: تتعلم شبكة صغيرة الأرقام المكتوبة بخط اليد من 0 إلى 4، ثم من 5 إلى 9، مع مخزن مؤقت لإعادة العرض يضم 100 صورة مخزنة من المهمة الأولى ومن دونه.

import torch
from sklearn.datasets import load_digits
from torch import nn

X, y = load_digits(return_X_y=True)
X, y = torch.tensor(X / 16, dtype=torch.float32), torch.tensor(y)
task_a, task_b = torch.where(y < 5)[0], torch.where(y >= 5)[0]  # digits 0-4, then digits 5-9

for replay in [0, 100]:
    torch.manual_seed(0)
    model = nn.Sequential(nn.Linear(64, 64), nn.ReLU(), nn.Linear(64, 10))
    optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
    # Train on task A, then on task B plus a replay buffer of stored task A images
    for task in [task_a, torch.cat([task_b, task_a[:replay]])]:
        for _ in range(200):
            optimizer.zero_grad()
            nn.functional.cross_entropy(model(X[task]), y[task]).backward()
            optimizer.step()
    accuracy = (model(X[task_a]).argmax(1) == y[task_a]).float().mean()
    print(f"Replay buffer of {replay} images: digits 0-4 accuracy after learning 5-9 = {accuracy:.0%}")

من دون إعادة عرض البيانات، تنسى الشبكة الأرقام من 0 إلى 4 تمامًا، وتسجّل دقة قدرها 0% عليها بعد تعلّم الأرقام من 5 إلى 9. وتحافظ إعادة عرض 100 صورة مخزّنة، أي نحو 11% من صور المهمة الأولى البالغ عددها 901 صورة، على مستوى الدقة عند 70%. يدعم Ultralytics YOLO26 جانب عزل المعلمات في مجموعة الأدوات هذه عبر وسيطة التدريب freeze وسيطة التدريب، التي تُجمّد أول N من الطبقات أو الوحدات المسماة، بينما يضبط النموذج أوزانه بدقة على بيانات جديدة.

تحديات مفتوحة#

يتطلب تقييم نظام تعلّم مستمر أكثر من نتيجة واحدة: يجب تتبع مقاييس الأداء لكل مهمة سابقة بعد كل تحديث، وقياس الانتقال العكسي (تأثير التعلم الجديد في المهام القديمة) والانتقال الأمامي (مدى تسريع المعرفة القديمة للتعلم الجديد). ويواجه التدريب المستمر طويل الأمد مشكلة أقل وضوحًا من النسيان. فقد أظهر Dohare وآخرون أن أساليب التعلم العميق القياسية تفقد المرونة تدريجيًا، أي القدرة على تعلم أي شيء جديد، عبر سلاسل طويلة من المهام المعتمدة على ImageNet ومسائل التعلم المعزز، وأن الانتشار العكسي المستمر، الذي يعيد تهيئة نسبة صغيرة من الوحدات قليلة الاستخدام عشوائيًا، يحافظ على هذه المرونة إلى أجل غير مسمى.

تطبيقات عملية#

  • الروبوتات: يمكن لروبوت على خط تصنيع تعلم التعامل مع طراز جديد من المنتجات من دون إعادة تدريب كاملة، مع الحفاظ على مهارته في التعامل مع الأجزاء التي اعتاد عليها.
  • تحليل الصور الطبية: تغيّر المستشفيات أجهزة التصوير وبروتوكولاته، وتظهر اكتشافات جديدة بمرور الوقت. وتتيح التحديثات التزايدية للمجال تكييف نموذج تشخيصي مع الصور الجديدة مع الحفاظ على دقته في الحالات المعروفة.
  • النماذج اللغوية الكبيرة: يحدّث التدريب المسبق المستمر على نصوص أحدث معارف النموذج، وتضيف المحوّلات الموفرة للمعلمات مهارات جديدة من دون إعادة تدريب النموذج كاملًا.
  • التعلم بالنقل: يعيد التعلم بالنقل استخدام نموذج مدرّب مسبقًا نقطةَ انطلاق لمهمة جديدة، ويقيّم النجاح في تلك المهمة وحدها. أما التعلم المستمر فيُقيّم في المهمة الجديدة وكل المهام السابقة.
  • التعلم عبر الإنترنت: يحدّث التعلم عبر الإنترنت النموذج مع كل مثال أو دفعة مصغّرة عند ورود البيانات، ويُستخدم عادةً لمهمة واحدة ولا يلزم أن يعالج مشكلة النسيان.
  • التعلم وفق منهج متدرّج: يرتّب التعلم وفق منهج متدرّج أمثلة مهمة ثابتة واحدة من الأسهل إلى الأصعب، بينما يواجه التعلم المستمر سلسلة من المهام أو التوزيعات المختلفة.
  • إزالة التعلم الآلي: تعمل إزالة التعلم في الاتجاه المعاكس، إذ تزيل عمدًا أثر بيانات تدريب محددة من النموذج، مثلًا للامتثال لطلبات المحو بموجب حق النسيان المنصوص عليه في اللائحة العامة لحماية البيانات (GDPR).

استكشف الحلول

الرؤية الحاسوبية في الرياضة

الرؤية الحاسوبية في الرياضة

اكتشف كيف يعزّز Ultralytics YOLO الرؤية الحاسوبية الرياضية عبر تتبّع اللاعبين والكرة، وتحليلات الأداء، ورؤى التدريب، وإعادة تأهيل الرياضيين.
معرفة المزيد
الرؤية الحاسوبية للصور الجوية

الرؤية الحاسوبية للصور الجوية

حوّل صور الطائرات المسيّرة والصور الجوية إلى رؤى آنية للزراعة وتربية الأحياء المائية والحفاظ على البيئة والتحليل الجغرافي المكاني باستخدام Ultralytics YOLO.
معرفة المزيد
الرؤية الحاسوبية في قطاع الطيران والفضاء

الرؤية الحاسوبية في قطاع الطيران والفضاء

طبّق الرؤية الحاسوبية في مجال الطيران والفضاء باستخدام Ultralytics YOLO لفحص الطائرات، واكتشاف الأجسام الغريبة على المدارج (FOD)، والعمليات الأرضية في المطارات، واكتشاف عيوب المواد المركّبة.
معرفة المزيد
الرؤية الحاسوبية في مجال الأمن

الرؤية الحاسوبية في مجال الأمن

احمِ كل موقع باستخدام نماذج Ultralytics YOLO. يدعم الذكاء الاصطناعي البصري مراقبة المحيط، واكتشاف التهديدات، والتعرف على لوحات المركبات، والسلامة في مكان العمل.
معرفة المزيد
الرؤية الحاسوبية في الروبوتات

الرؤية الحاسوبية في الروبوتات

عزّز أداء الآلات الذكية باستخدام نماذج Ultralytics YOLO. يدعم الذكاء الاصطناعي البصري في الروبوتات الملاحة الذاتية والإدراك وتعقب الأجسام والتحكم الآني.
معرفة المزيد
الرؤية الحاسوبية في الخدمات اللوجستية

الرؤية الحاسوبية في الخدمات اللوجستية

بسّط العمليات اللوجستية باستخدام نماذج Ultralytics YOLO. يتيح الذكاء الاصطناعي البصري فحص الطرود وفرزها وتتبع المركبات ومراقبة سلامة المستودعات في الوقت الفعلي.
معرفة المزيد
الرؤية الحاسوبية في تجارة التجزئة

الرؤية الحاسوبية في تجارة التجزئة

أعِد تصور تجارة التجزئة باستخدام نماذج Ultralytics YOLO. يتيح الذكاء الاصطناعي البصري تتبع المخزون ومراقبة الرفوف وإدارة الطوابير واستخلاص رؤى أذكى عن العملاء.
معرفة المزيد
الرؤية الحاسوبية في الرعاية الصحية

الرؤية الحاسوبية في الرعاية الصحية

أنشئ حلولًا للرعاية الصحية باستخدام نماذج Ultralytics YOLO. يعزز الذكاء الاصطناعي البصري في الرعاية الصحية سرعة التصوير الطبي، وكفاءة التشخيص، ومراقبة المرضى.
معرفة المزيد
الرؤية الحاسوبية في التصنيع

الرؤية الحاسوبية في التصنيع

حسّن التصنيع باستخدام نماذج Ultralytics YOLO. يعزز الذكاء الاصطناعي للرؤية مراقبة الجودة واكتشاف العيوب والالتزام بمعدات الوقاية الشخصية وأتمتة خطوط التجميع.
معرفة المزيد
الرؤية الحاسوبية في قطاع السيارات

الرؤية الحاسوبية في قطاع السيارات

طبّق الرؤية الحاسوبية في قطاع السيارات باستخدام نماذج Ultralytics YOLO. يعزز الذكاء الاصطناعي للرؤية سلامة الطرق ومساعدة السائق وأتمتة المركبات لإنشاء طرق أكثر ذكاءً.
معرفة المزيد
الرؤية الحاسوبية في الزراعة

الرؤية الحاسوبية في الزراعة

أدخل الذكاء الاصطناعي البصري إلى الزراعة الذكية باستخدام نماذج Ultralytics YOLO. عزّز مراقبة المحاصيل وتتبع الماشية والزراعة الدقيقة لزيادة الإنتاجية وتحسينها.
معرفة المزيد

لنبنِ مستقبل الذكاء الاصطناعي معًا!

ابدأ رحلتك نحو مستقبل تعلّم الآلة