الضبط الفعال للبارامترات (PEFT)

الضبط الدقيق الفعال للمعلمات (PEFT) هو استراتيجية تحسين متطورة في التعلم الآلي (ML) تتيح تخصيص نماذج كبيرة ومدربة مسبقًا لمهام محددة مع تقليل تكاليف الحوسبة إلى الحد الأدنى. مع نمو النماذج الأساسية الحديثة لتشمل مليارات المعلمات، أصبحت طرق التدريب التقليدية التي تقوم بتحديث كل وزن في الشبكة باهظة التكلفة من حيث الأجهزة والطاقة. يعالج PEFT هذا التحدي عن طريق تجميد الغالبية العظمى من أوزان النماذج المدربة مسبقًا وتحديث مجموعة صغيرة فقط من المعلمات أو إضافة طبقات محول خفيفة الوزن. يقلل هذا النهج من حاجز الدخول، مما يسمح للمطورين بتحقيق نتائج متطورة على وحدات معالجة الرسومات (GPU) الاستهلاكية دون الحاجة إلى مراكز بيانات على نطاق صناعي.

آليات الكفاءة

يعتمد المبدأ الأساسي لـ PEFT على التعلم النقلي، حيث يستفيد النموذج من تمثيلات الميزات المكتسبة من مجموعات البيانات العامة الضخمة مثل ImageNet لحل مشاكل جديدة. في سير العمل القياسي، قد يتضمن تكييف النموذج "ضبطًا دقيقًا كاملًا"، حيث يقوم التراجع الخلفي بضبط كل معلمة في الشبكة العصبية.

تتخذ تقنيات PEFT، مثل LoRA (التكيف منخفض الرتبة)، مسارًا مختلفًا. فهي تحافظ على "العمود الفقري" الثقيل للنموذج ثابتًا — مع الحفاظ على معرفته العامة — وتضخ مصفوفات صغيرة قابلة للتدريب في طبقات محددة. وهذا يمنع النسيان الكارثي، وهي ظاهرة يفقد فيها النموذج قدراته الأصلية أثناء تعلم معلومات جديدة. من خلال تقليل عدد المعلمات القابلة للتدريب بنسبة تصل إلى 99٪، تقلل PEFT بشكل كبير من متطلبات التخزين وتسمح بتبديل محولات متعددة خاصة بالمهام داخل وخارج نموذج أساسي واحد أثناء الاستدلال في الوقت الفعلي.

تطبيقات واقعية

تعد تقنية PEFT ذات قيمة خاصة في الصناعات التي تعتبر فيها الحوسبة الطرفية وخصوصية البيانات أمرًا بالغ الأهمية.

• الذكاء الاصطناعي في الزراعة: غالبًا ما تنشر شركات Agritech الناشئة نماذج على طائرات بدون طيار ذات عمر بطارية محدود وقدرة معالجة محدودة. باستخدام PEFT، يمكن للمهندسين أخذ نموذج عالي الكفاءة مثل YOLO26 وضبطه detect آفات إقليمية detect مثل دودة الحشد الخريفية، باستخدام مجموعة بيانات صغيرة مخصصة. من خلال تجميد العمود الفقري، يمكن إجراء التدريب بسرعة على جهاز كمبيوتر محمول، ويظل النموذج الناتج خفيفًا بما يكفي للمعالجة على متن الطائرة.
• الذكاء الاصطناعي في الرعاية الصحية: في تحليل الصور الطبية، غالبًا ما تكون البيانات المُعلّقة نادرة ومكلفة للحصول عليها. تستخدم المستشفيات PEFT لتكييف نماذج الرؤية العامة الغرض لتحديد الشذوذ في فحوصات التصوير بالرنين المغناطيسي. نظرًا لأن المعلمات الأساسية مجمدة، فإن النموذج أقل عرضة للتكيف المفرط على مجموعة البيانات الصغيرة، مما يضمن أداءً تشخيصيًا قويًا مع الحفاظ على خصوصية بيانات المريض.

تنفيذ الطبقات المجمدة باستخدام Ultralytics

في Ultralytics غالبًا ما يتم تحقيق كفاءة المعلمات عن طريق "تجميد" الطبقات الأولية للشبكة . وهذا يضمن بقاء مستخرجات الميزات القوية دون تغيير، بينما تتكيف الطبقات العليا أو اللاحقة فقط مع الفئات الجديدة . وهذا هو تطبيق عملي لمبادئ PEFT في الكشف عن الكائنات.

يوضح المثال التالي كيفية تدريب نموذج YOLO26 مع تجميد الطبقات العشر الأولى من الهيكل الأساسي لتوفير موارد الحوسبة:

from ultralytics import YOLO

# Load the YOLO26 model (latest stable version)
model = YOLO("yolo26n.pt")

# Train on a custom dataset with the 'freeze' argument
# freeze=10 keeps the first 10 layers static, updating only deeper layers
results = model.train(data="coco8.yaml", epochs=5, freeze=10)

بالنسبة للفرق التي تسعى إلى توسيع نطاق هذه العملية، توفر Ultralytics واجهة موحدة لإدارة مجموعات البيانات وأتمتة التعليقات التوضيحية ومراقبة عمليات التدريب الفعالة هذه من السحابة.

التمييز بين PEFT والمفاهيم ذات الصلة

لاختيار استراتيجية تكييف النموذج المناسبة، من المفيد التمييز بين PEFT والمصطلحات المماثلة:

• الضبط الدقيق: غالبًا ما يشار إلى هذه العملية باسم "الضبط الدقيق الكامل"، وهي تعمل على تحديث جميع المعلمات في النموذج. على الرغم من أنها توفر أقصى قدر من المرونة، إلا أنها مكلفة من الناحية الحسابية وتتطلب حفظ نسخة كاملة من النموذج لكل مهمة. PEFT هي فئة فرعية من الضبط الدقيق تركز على الكفاءة.
• الهندسة السريعة: يتضمن ذلك صياغة مدخلات نصية لتوجيه مخرجات النموذج دون تغيير أي أوزان داخلية. على العكس من ذلك، يقوم PEFT بتغيير مجموعة فرعية من الأوزان أو المحولات رياضيًا لتغيير طريقة معالجة النموذج للبيانات بشكل دائم.
• تقطير المعرفة: تقوم هذه التقنية بتدريب نموذج صغير للطالب على محاكاة نموذج كبير للمعلم. على الرغم من أنها تؤدي إلى نموذج فعال، إلا أنها طريقة ضغط، في حين أن PEFT هي طريقة تكيف تستخدم لتعليم نموذج موجود مهارات جديدة.

من خلال إتاحة الوصول إلى الذكاء الاصطناعي عالي الأداء للجميع، تتيح PEFT للمطورين إنشاء أدوات متخصصة للمركبات ذاتية القيادة والتصنيع الذكي دون الحاجة إلى بنية تحتية للحاسوب الفائق.