Parameter-Efficient Fine-Tuning (PEFT)
استكشف الضبط الدقيق الفعال للمعلمات (PEFT) لتحسين النماذج الكبيرة مثل Ultralytics YOLO26. تعلم تقليل تكاليف الحوسبة وتحقيق نتائج SOTA على وحدات معالجة الرسومات (GPUs).
الضبط الدقيق فعال المعلمات (PEFT) هو استراتيجية تحسين متطورة في تعلم الآلة (ML) تتيح تخصيص النماذج الكبيرة المُدربة مسبقاً لمهام محددة مع تقليل التكاليف الحسابية. ومع نمو النماذج الأساسية الحديثة لتشمل مليارات المعلمات، أصبحت أساليب التدريب التقليدية التي تُحدث كل وزن في الشبكة مكلفة بشكل باهظ من حيث الأجهزة والطاقة. يعالج PEFT هذا التحدي عن طريق تجميد الغالبية العظمى من أوزان النموذج المدربة مسبقاً وتحديث مجموعة فرعية صغيرة فقط من المعلمات أو إضافة طبقات مهايئ (adapter layers) خفيفة الوزن. هذا النهج يقلل من حاجز الدخول، مما يسمح للمطورين بتحقيق نتائج متطورة على وحدات معالجة الرسومات المخصصة للمستهلكين دون الحاجة إلى مراكز بيانات على نطاق صناعي.
Link to this sectionآليات الكفاءة#
يعتمد المبدأ الأساسي لـ PEFT على التعلم بنقل المعرفة، حيث يستفيد النموذج من تمثيلات الميزات التي تعلمها من مجموعات بيانات عامة ضخمة مثل ImageNet لحل مشكلات جديدة. في سير العمل القياسي، قد يتضمن تكييف النموذج "ضبطاً دقيقاً كاملاً"، حيث يقوم الانتشار العكسي بتعديل كل معلمة في الشبكة العصبية.
تتبع تقنيات PEFT، مثل LoRA (التكيف منخفض الرتبة)، مساراً مختلفاً. فهي تبقي "العمود الفقري" الثقيل للنموذج ثابتاً—مما يحافظ على معرفته العامة—وتحقن مصفوفات صغيرة قابلة للتدريب في طبقات محددة. يمنع هذا النسيان الكارثي، وهي ظاهرة يفقد فيها النموذج قدراته الأصلية أثناء تعلم معلومات جديدة. من خلال تقليل عدد المعلمات القابلة للتدريب بنسبة تصل إلى 99%، يقلل PEFT بشكل كبير من متطلبات التخزين ويسمح بتبديل مهايئات خاصة بمهام متعددة داخل وخارج نموذج أساسي واحد أثناء الاستنتاج في الوقت الفعلي.
Link to this sectionتطبيقات العالم الحقيقي#
تعتبر تقنية PEFT ذات قيمة خاصة في الصناعات التي يكون فيها الحوسبة الطرفية وخصوصية البيانات أمراً بالغ الأهمية.
- الذكاء الاصطناعي في الزراعة: غالباً ما تنشر الشركات الناشئة في مجال التكنولوجيا الزراعية نماذج على طائرات بدون طيار ذات عمر بطارية وقوة معالجة محدودين. باستخدام PEFT، يمكن للمهندسين أخذ نموذج عالي الكفاءة مثل YOLO26 وضبطه بدقة للكشف عن آفات إقليمية محددة، مثل دودة جيش الخريف، باستخدام مجموعة بيانات مخصصة. من خلال تجميد العمود الفقري، يمكن إجراء التدريب بسرعة على حاسوب محمول، ويظل النموذج الناتج خفيف الوزن بما يكفي للمعالجة على متن الجهاز.
- الذكاء الاصطناعي في الرعاية الصحية: في تحليل الصور الطبية، غالباً ما تكون البيانات المشروحة نادرة ومكلفة الحصول عليها. تستخدم المستشفيات PEFT لتكييف نماذج الرؤية ذات الأغراض العامة لتحديد الشذوذ في صور الرنين المغناطيسي. ولأن المعلمات الأساسية مجمدة، يكون النموذج أقل عرضة لـ الإفراط في التخصيص على مجموعة البيانات الصغيرة، مما يضمن أداءً تشخيصياً قوياً مع الحفاظ على خصوصية بيانات المريض.
Link to this sectionتنفيذ الطبقات المجمدة باستخدام Ultralytics#
في نظام Ultralytics البيئي، غالباً ما تتحقق كفاءة المعلمات عن طريق "تجميد" الطبقات الأولية للشبكة. يضمن هذا بقاء مستخرجات الميزات القوية دون تغيير بينما تتكيف فقط الرأس أو الطبقات اللاحقة مع فئات جديدة. هذا تطبيق عملي لمبادئ PEFT في اكتشاف الكائنات.
يوضح المثال التالي كيفية تدريب نموذج YOLO26 مع تجميد أول 10 طبقات من العمود الفقري لتوفير الموارد الحسابية:
from ultralytics import YOLO
# Load the YOLO26 model (latest stable version)
model = YOLO("yolo26n.pt")
# Train on a custom dataset with the 'freeze' argument
# freeze=10 keeps the first 10 layers static, updating only deeper layers
results = model.train(data="coco8.yaml", epochs=5, freeze=10)بالنسبة للفرق التي تتطلع إلى توسيع هذه العملية، توفر منصة Ultralytics واجهة موحدة لإدارة مجموعات البيانات، وأتمتة التعليق التوضيحي، ومراقبة عمليات التدريب الفعالة هذه من السحابة.
Link to this sectionالتمييز بين PEFT والمفاهيم ذات الصلة#
لاختيار استراتيجية تكييف النموذج الصحيحة، من المفيد التمييز بين PEFT والمصطلحات المماثلة:
- الضبط الدقيق: يُشار إليه غالباً بـ "الضبط الدقيق الكامل"، وتقوم هذه العملية بتحديث جميع المعلمات في النموذج. على الرغم من أنها توفر أقصى قدر من المرونة، إلا أنها مكلفة حسابياً وتتطلب حفظ نسخة كاملة من النموذج لكل مهمة. PEFT هو فئة فرعية من الضبط الدقيق تركز على الكفاءة.
- هندسة الأوامر: يتضمن هذا صياغة مدخلات نصية لتوجيه مخرجات النموذج دون تغيير أي أوزان داخلية. في المقابل، يقوم PEFT رياضياً بتغيير مجموعة فرعية من الأوزان أو المهايئات لتغيير كيفية معالجة النموذج للبيانات بشكل دائم.
- تقطير المعرفة: تدرب هذه التقنية نموذجاً صغيراً (طالباً) لمحاكاة نموذج كبير (معلماً). على الرغم من أن ذلك يؤدي إلى نموذج فعال، إلا أنها طريقة ضغط، في حين أن PEFT هي طريقة تكيف تُستخدم لتعليم نموذج موجود مهارات جديدة.
من خلال إضفاء الطابع الديمقراطي على الوصول إلى الذكاء الاصطناعي عالي الأداء، يسمح PEFT للمطورين ببناء أدوات متخصصة لـ المركبات ذاتية القيادة و التصنيع الذكي دون الحاجة إلى بنية تحتية فائقة الحوسبة.
