Task Vectors

تمثل متجهات المهام التغييرات المحددة التي تطرأ على أوزان الشبكة العصبية أثناء الضبط الدقيق لاكتساب قدرة جديدة. ومن خلال طرح معلمات النموذج الأساسي التأسيسي من معلمات نموذج خضع للضبط الدقيق، يستطيع الباحثون عزل متجه اتجاهي في فضاء الأوزان يجسّد السلوك المتعلّم للمهمة المحددة. ويتيح هذا النهج للمطورين تطبيق عمليات حسابية بسيطة على معلمات النموذج لتوجيه سلوك النماذج أو تعديله أو دمجه من دون الحاجة إلى موارد حوسبة لتدريب إضافي.

كيف تختلف متجهات المهام عن التعلّم بالنقل#

في حين يتضمن مفهوم التعلّم بالنقل تدريب النموذج تسلسليًا على مجموعة بيانات جديدة لتكييف معرفته الحالية، تعمل متجهات المهام مباشرةً على الأوزان البنيوية للنموذج بعد التدريب. وبدلًا من إعادة تدريب التدرجات لتعلّم مجال جديد، يتيح الاستيفاء في فضاء الأوزان باستخدام متجهات المهام للممارسين الجمع خطيًا بين فروق الأوزان في نماذج متعددة دُرّبت كل منها على نحو مستقل. ويتيح ذلك دمج النماذج دون تدريب، بحيث يرث نموذج واحد قدرات متعددة في الوقت نفسه دون الأعباء الحاسوبية أثناء التدريب المعتادة.

تطبيقات عملية#

أفضت القدرة على معالجة نماذج التعلم العميق جبريًا إلى تطبيقات مؤثرة متعددة ضمن مسارات عمل الذكاء الاصطناعي الحديثة:

• دمج النماذج متعددة المهام: يستطيع المهندسون دمج متجهات المهام المستخرجة من نماذج ضُبطت انطلاقًا من النموذج الأساسي نفسه، مثل نموذجي كشف الأجسام المدرّبين على مجموعتي بيانات مختلفتين؛ إذ لا تُدمج متجهات المهام إلا عبر بنيات متطابقة، لذا لا يمكن دمج نموذج مضبوط للكشف مع نموذج تقسيم الصور. وعند تطبيق ذلك على نموذج أساسي من Ultralytics YOLO26، ينتج نموذج واحد يرث نقاط القوة من كل نموذج خضع للضبط الدقيق.
• محو تعلّم الآلة وسلامة الذكاء الاصطناعي: إذا أظهر نموذج مخرجات متحيزة أو خطرة، يستطيع الباحثون حساب متجه مهمة يمثّل ذلك السلوك غير المرغوب فيه تحديدًا. وبطرح هذا المتجه من أوزان النموذج، يمكنهم «محو» السلوك فعليًا، ما يسهم بدرجة كبيرة في تحسين سلامة الذكاء الاصطناعي ومعايير أخلاقيات الذكاء الاصطناعي المتينة.
• تكييف المجال في الرؤية الحاسوبية: عند تكييف النماذج لبيئات محددة، مثل الانتقال من الاستدلال في الوقت الفعلي نهارًا إلى الليل، تتيح متجهات المهام للمستخدمين ضبط مقدار التكييف. وقد يؤدي تطبيق جزء من المتجه (مثل معامل تحجيم يبلغ 0.5) إلى نموذج متوازن يحقق أداءً جيدًا في كلا المجالين.

العمل بمتجهات المهام في PyTorch#

يتطلب إنشاء متجه مهمة وتطبيقه الوصول إلى قاموس حالات PyTorch ومعالجته. ويوضح المثال التالي كيفية استخراج متجه مهمة من نموذج Ultralytics YOLO26 مضبوط دقيقًا وتطبيقه مجددًا على النموذج الأساسي بمعامل تحجيم محدد.

from ultralytics import YOLO

# ⁨تحميل قواميس الحالات للنموذج الأساسي والنموذج المضبوط دقيقًا⁩
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# ⁨احسب متجه المهمة (الأوزان المضبوطة مطروحًا منها الأوزان الأساسية)، مع تخطي المخازن المؤقتة ذات الأعداد الصحيحة⁩
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights if base_weights[k].is_floating_point()}

# ⁨تطبيق متجه المهمة على النموذج الأساسي باستخدام معامل تحجيم 0.5⁩
for k, delta in task_vector.items():
    base_weights[k] += 0.5 * delta

مستقبل معالجة الأوزان#

مع ازدياد عدد المعلمات في معماريات مثل نماذج اللغة الكبيرة ومحولات الرؤية الضخمة، يصبح إعادة تدريبها لكل تعديل طفيف غير مجدٍ اقتصاديًا. وتوفر متجهات المهام بديلًا أنيقًا رياضيًا لـتحسين النماذج بعد التدريب. ومن خلال مشاركة متجهات مهام خفيفة بدلًا من نماذج كاملة يبلغ حجمها عدة غيغابايتات، يستطيع مجتمع الذكاء الاصطناعي تسريع التعاون مفتوح المصدر في الذكاء الاصطناعي. وبعد تنقيح متجهات المهام المخصصة، تسهّل منصة Ultralytics عمليات نشر النماذج ومراقبتها لاحقًا، بما يضمن نقل الأوزان المحسّنة مباشرةً إلى نقاط نهاية جاهزة للإنتاج.