Semi-Supervised Learning

يدرّب التعلّم شبه الخاضع للإشراف نموذجًا على مجموعة صغيرة من الأمثلة المصنفة مع مجموعة أكبر بكثير من الأمثلة غير المصنفة، مستخدمًا البيانات غير المصنفة لبلوغ دقة أعلى مما تتيحه التسميات وحدها. ويقع بين التعلّم الخاضع للإشراف، حيث لكل عينة تدريب تسمية، والتعلّم غير الخاضع للإشراف، حيث لا توجد تسميات. ويناسب هذا الأسلوب الرؤية الحاسوبية لأن الكاميرات تجمع الصور بتكلفة منخفضة، في حين يتطلب تصنيف البيانات، مثل رسم المربعات أو الأقنعة أو تسجيل تشخيص، وقتًا بشريًا وغالبًا معرفة متخصصة. وحقق FixMatch دقة قدرها 88.61% في معيار صور CIFAR-10 باستخدام 4 صور مصنفة فقط لكل فئة، فيما رفع Noisy Student دقة ImageNet من نوع top-1 إلى 88.4% بإضافة تسميات زائفة لـ300 مليون صورة غير مصنفة.

آلية عمل التعلّم شبه الخاضع للإشراف#

تفيد البيانات غير المصنفة لأنها تكشف شكل توزيع البيانات. وتفترض الأساليب أن الأمثلة المتقاربة في منطقة كثيفة تشترك في تسمية، لذا ينبغي أن تمر حدود القرار بين الفئات عبر مناطق متناثرة قليلة الأمثلة. وتطبّق ثلاث عائلات من الأساليب هذه الفكرة.

يدرّب وضع التسميات الزائفة، المسمى أيضًا التدريب الذاتي، نموذجًا على البيانات المصنفة، ثم يشغّله على البيانات غير المصنفة، ويحتفظ بالتنبؤات التي تتجاوز عتبة الثقة بوصفها بيانات تدريب إضافية. وفي أساليب المعلم والطالب، يصبح النموذج المدرَّب معلمًا يصنّف مجموعة البيانات، ويتدرب طالب، غالبًا بحجم المعلم أو أكبر منه، على التسميات الحقيقية والزائفة ليصبح المعلم التالي:

يُلزم تنظيم الاتساق النموذجَ بإعطاء التنبؤ نفسه عند تطبيق اضطرابات مختلفة على الصورة غير المصنفة ذاتها، مثل زيادات البيانات المختلفة. ويجمع FixMatch بين الفكرتين: إذ يضع تسميات زائفة لمنظور زيدت بياناته زيادة طفيفة، لكن فقط عندما يكون النموذج واثقًا، ثم يدرّب النموذج على توقع تلك التسمية في منظور الصورة نفسها بعد زيادة قوية للبيانات. وتربط الأساليب القائمة على الرسوم البيانية الأمثلة المتشابهة في رسم بياني، وتنشر التسميات المعروفة على حوافه. ويكمن الخطر الرئيسي في كل ذلك في التحيز التأكيدي، حيث يُدرَّب النموذج على التسميات الزائفة الخاطئة ثم يتنبأ بها بثقة أكبر، ولهذا تستخدم الأساليب عتبات مرتفعة أو زيادة قوية للبيانات أو معلمًا تكون أوزانه متوسطًا متحركًا بطيئًا لأوزان الطالب.

يحتفظ هذا المثال باستخدام scikit-learn بتسميات صورتين فقط لكل رقم، ويقارن بين مصنّف خاضع للإشراف دُرّب على تلك الصور العشرين وبين نشر التسميات، وهو أسلوب قائم على الرسوم البيانية يستخدم أيضًا صور التدريب غير المصنفة البالغ عددها 1,237:

import numpy as np
from sklearn.datasets import load_digits
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from sklearn.semi_supervised import LabelSpreading

X, y = load_digits(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X / 16, y, test_size=0.3, random_state=0, stratify=y)

# Keep the labels of only 2 training images per digit; -1 marks every other image as unlabeled
labeled = np.concatenate([np.flatnonzero(y_train == digit)[:2] for digit in range(10)])
y_partial = np.full_like(y_train, -1)
y_partial[labeled] = y_train[labeled]

# Supervised baseline trains on the 20 labeled images; label spreading also uses the unlabeled ones
supervised = LogisticRegression(max_iter=5000).fit(X_train[labeled], y_train[labeled])
semi_supervised = LabelSpreading(kernel="knn", n_neighbors=10).fit(X_train, y_partial)
print(f"Supervised, 20 labeled images: {supervised.score(X_test, y_test):.3f}")
print(f"Semi-supervised, 20 labeled + {(y_partial == -1).sum()} unlabeled: {semi_supervised.score(X_test, y_test):.3f}")

على 540 رقمًا محجوبًا للاختبار، يسجل المصنّف الخاضع للإشراف 0.800، بينما يسجل نشر التسميات 0.919 باستخدام التسميات العشرين نفسها، لأن الصور غير المصنفة تربط كل مثال مصنف بالصور الكثيرة المشابهة للرقم نفسه.

التعلّم شبه الخاضع للإشراف في الرؤية الحاسوبية#

يمتد وضع التسميات الزائفة بأسلوب المعلّم والطالب إلى المهام التي تكون تسمياتها الأعلى تكلفة في الرسم، مثل أقنعة تجزئة المثيلات وخرائط العمق. وتحتفظ أساليب كشف الكائنات شبه الخاضع للإشراف، مثل Unbiased Teacher، بالصناديق الزائفة الواثقة الصادرة عن المعلّم، كما درّب Depth Anything نموذجًا لـتقدير العمق أحادي العين على نحو 62 مليون صورة غير موسومة، ووسمها نموذج معلّم تلقائيًا. ودُرّبت نماذج العمق Ultralytics YOLO26 مسبقًا بالطريقة نفسها: إذ تلقت 1,281,167 صورة تدريب من ImageNet، التي لا تتوفر لها حقيقة مرجعية للعمق، خرائط عمق زائفة من نماذج المعلّم Depth Anything 3، وشكّلت نحو 58% من مزيج يضم 2.19 مليون صورة ويشمل أيضًا مجموعات بيانات ذات حقيقة مرجعية فعلية للعمق. ويمكن لنماذج الرؤية واللغة أن تعمل معلّمًا أيضًا، فتسمي الأجسام اعتمادًا على أسماء الفئات وحدها، وتقارن لوحة صدارة VLM دقتها في وسم مجموعات بيانات الكشف الواقعية. وفي الكشف، يمكن لنموذج YOLO26 كبير أن يؤدي دور المعلّم ويكتب تنبؤاته الواثقة في ملفات تسميات بتنسيق YOLO، وهو شكل بسيط من الوسم الآلي:

from ultralytics import YOLO
from ultralytics.utils import ASSETS

# ⁨يعمل نموذج YOLO26 كبير ومدرَّب مسبقًا بوصفه المعلم⁩
teacher = YOLO("yolo26x.pt")

# ⁨صنّف مجلدًا من الصور غير المصنفة؛ لا تتحول إلى تسميات زائفة إلا الاكتشافات التي تتجاوز ثقتها 0.5⁩
# ⁨تكتب save_txt=True ملف تسمية واحدًا بامتداد .txt وبتنسيق YOLO لكل صورة، ليكون جاهزًا لتدريب نموذج طالب⁩
results = teacher.predict(source=ASSETS, conf=0.5, save_txt=True)

التعلّم شبه الخاضع للإشراف مقارنةً بالمصطلحات ذات الصلة#

• التعلّم النشط: يختار الصور غير المصنفة الأكثر إفادة ويرسلها إلى مصنّف بشري. أما التعلّم شبه الخاضع للإشراف فيصنّف مجموعة البيانات تلقائيًا، وتجمع مسارات التصنيف الكثيرة بين الأسلوبين.
• التعلّم الذاتي الإشراف: يدرّب النموذج مسبقًا على البيانات غير المصنفة وحدها، باستخدام أهداف مستمدة من البيانات، ولا يستخدم التسميات إلا لاحقًا للضبط الدقيق. أما التعلّم شبه الخاضع للإشراف فيستخدم البيانات المصنفة وغير المصنفة في عملية التدريب نفسها.
• التعلّم بالنقل: يبدأ بنموذج مدرَّب مسبقًا على مجموعة بيانات أخرى. ويمكن دمجه مع التعلّم شبه الخاضع للإشراف، إذ يجعل النموذج المدرَّب مسبقًا المعلم الأول أفضل.
• تقطير المعرفة: يدرّب نموذجًا طالبًا على مطابقة مخرجات نموذج معلم، عادةً لضغط النموذج. ويستخدم وضع التسميات الزائفة إعداد المعلم والطالب نفسه لإضافة بيانات التدريب، كما درّب Noisy Student طلابًا بحجم المعلمين أو أكبر منهم، مع إضافة ضوضاء أثناء التدريب، وتفوّق بنسبة 2.0% على أفضل نموذج سابق لـImageNet، الذي دُرّب مسبقًا على 3.5 مليار صورة من Instagram ذات تسميات ضعيفة.