Task Arithmetic

حساب المهام هو تقنية متقدمة في التعلم الآلي تتضمن تعديل سلوك الشبكات العصبية المدربة مسبقاً عن طريق إضافة أو طرح تحديثات أوزان محددة. بدلاً من إعادة تدريب النموذج بالكامل من الصفر، يمكن للممارسين عزل الفروق المتعلمة بين النموذج الأساسي والنموذج الدقيق الضبط. هذه الفروق هي في الأساس تحديثات اتجاهية تغلف قدرة أو سلوكاً معيناً. من خلال تطبيق عمليات رياضية أساسية مثل الجمع والطرح على هذه التحديثات، يمكن للمطورين تعديل أنظمة التعلم العميق ديناميكياً. لقد اكتسب هذا النموذج زخماً كبيراً في أبحاث arXiv الحديثة حول حساب المهام، حيث يقدم طريقة خفيفة الوزن وفعالة من حيث الحوسبة لتكييف النماذج واسعة النطاق مع المتطلبات الجديدة.

كيف يعمل المفهوم#

تعتمد أساسيات هذه التقنية على حساب الفرق في أوزان النموذج بين نموذج أساسي مدرب مسبقاً ونسخة خضعت لعملية الضبط الدقيق على مجموعة بيانات محددة. يصبح هذا الفرق المعزول تمثيلاً موضعياً للمهارة الجديدة. من خلال معالجة قواميس حالة PyTorch بشكل مباشر أو استخدام منهجيات تدريب TensorFlow، يمكن للمهندسين تغيير حجم ودمج فروق الأوزان هذه. على سبيل المثال، يمكن أن يؤدي طرح تحديث وزن معين إلى إجبار النموذج على "نسيان" سلوك متعلم، وهو مفهوم يتم استكشافه بشدة في أبحاث Anthropic حول سلامة النماذج.

تطبيقات العالم الحقيقي#

يفتح حساب المهام الآفاق للعديد من سير العمل عالية الكفاءة في خطوط أنابيب رؤية الكمبيوتر ومعالجة اللغات الطبيعية الحديثة:

• دمج قدرات المهام المتعددة: يمكن للمهندسين تدريب نموذج أساسي من نوع Ultralytics YOLO26 على مجموعتي بيانات منفصلتين بشكل مستقل - إحداهما لاكتشاف الكائنات المتخصصة والأخرى لتصنيف الصور. من خلال حساب فروق الأوزان لكلا المهمتين وإضافتهما مرة أخرى إلى النموذج الأساسي، يمكن للشبكة الناتجة أداء كلا المهمتين في وقت واحد دون المعاناة من النسيان الكارثي.
• إلغاء التعلم الموجه لسلامة الذكاء الاصطناعي: إذا تعلم نموذج الرؤية عن غير قصد ميزات متحيزة من بيانات التدريب الخاصة به، فيمكن للباحثين ضبط نسخة بدقة على البيانات المتحيزة، واستخراج فروق الأوزان المحددة، و طرحها من النموذج الأصلي. وكما لوحظ في العديد من اكتشافات Google DeepMind، فإن هذا يلغي بشكل فعال السلوك غير المرغوب فيه مع الحفاظ على قدرات الذكاء الاصطناعي العامة للنموذج.

التمييز بين المفاهيم ذات الصلة#

أثناء تصفح أرشيفات IEEE Xplore أو مكتبة ACM الرقمية، من السهل الخلط بين حساب المهام والمنهجيات ذات الصلة:

• متجهات المهام: هذه هي الموترات الرياضية الفعلية (فروق الأوزان المحسوبة) المستخدمة أثناء العملية الحسابية. حساب المهام هو الإطار الشامل لجمع أو طرح هذه المتجهات.
• دمج النماذج: هذا مصطلح أوسع لدمج نماذج متعددة. في حين أن العمليات الحسابية هي إحدى الطرق لدمج النماذج، يمكن أن يتضمن الدمج أيضاً شبكات توجيه معقدة أو تجميعاً.
• التعلم القائم على النقل: وفقاً لمفاهيم التعلم بالنقل في ويكيبيديا، يتضمن ذلك استخدام المعرفة من مهمة واحدة ك نقطة بداية لمهمة أخرى، والتي تتطلب عادةً دورات تدريبية إضافية. يعمل حساب المهام على تعديل السلوكيات بحتة من خلال حسابات الأوزان المباشرة دون دورات تدريبية إضافية.

تنفيذ العمليات الحسابية#

تتطلب تطبيق استراتيجيات تحسين النموذج هذه في الممارسة العملية إدارة دقيقة للحالة الداخلية للنموذج. فيما يلي مثال على حساب وتطبيق تحديث باستخدام PyTorch، وهي تقنية تتم مناقشتها بشكل متكرر في الأبحاث الحديثة لرؤية الكمبيوتر.

import torch

# Load the state dictionaries of the pre-trained base and fine-tuned models
base_weights = torch.load("yolo26_base.pt")
tuned_weights = torch.load("yolo26_tuned.pt")

# Calculate the task vector and add it back to the base model with a scaling factor
scaling_factor = 0.5
for key in base_weights.keys():
    task_vector = tuned_weights[key] - base_weights[key]
    base_weights[key] += scaling_factor * task_vector

بالنسبة للفرق التي تدير خطوط أنابيب تسميات البيانات المعقدة وإصدارات النماذج المتعددة ذات الضبط الدقيق، توفر منصة Ultralytics بيئة مبسطة للإشراف على التدريب السحابي والنشر السلس، مما يجعل إدارة تحسينات النموذج التكرارية أكثر كفاءة بكثير.