Prompt Tuning

ضبط المطالبات هو تقنية موفرة للموارد تُستخدم لتكييف النماذج الأساسية المُدرَّبة مسبقًا مع مهام محددة لاحقة، من دون التكلفة الحاسوبية لإعادة تدريب الشبكة بأكملها. وعلى خلاف الضبط الدقيق التقليدي، الذي يحدّث جميع معلمات النموذج أو معظمها، يجمّد ضبط المطالبات أوزان النموذج المُدرَّب مسبقًا، ولا يُحسّن سوى مجموعة صغيرة من المتجهات القابلة للتعلّم — التي تُسمى «المطالبات اللينة» — وتُضاف إلى بداية بيانات الإدخال. يتيح هذا النهج لعمود فقري واحد وضخم خدمة تطبيقات متخصصة متعددة في الوقت نفسه، مع تقليل متطلبات التخزين وتكاليف التبديل المرتبطة بـزمن استدلال النموذج بدرجة كبيرة.

آلية ضبط المطالبات#

في سير عمل التعلم الآلي (ML) القياسي، تُحوَّل المدخلات، مثل النصوص أو الصور، إلى تمثيلات رقمية تُعرف باسم التضمينات. يُدرج ضبط المطالبات متجهات تضمين إضافية قابلة للتدريب ضمن تسلسل الإدخال هذا. وأثناء مرحلة التدريب، يستخدم النظام الانتشار العكسي لحساب التدرجات، لكن خوارزمية التحسين لا تحدّث سوى قيم المطالبات اللينة، وتترك بنية النموذج الضخمة دون تغيير.

تُعد هذه الطريقة شكلاً من أشكال الضبط الدقيق الفعّال من حيث المعلمات (PEFT). ومن خلال تعلّم هذه المتجهات المستمرة، يُوجَّه النموذج نحو المخرجات المطلوبة. وعلى الرغم من أن هذا المفهوم نشأ في معالجة اللغة الطبيعية (NLP)، فقد جرى تكييفه بنجاح مع مهام الرؤية الحاسوبية (CV)، ويُشار إليه غالبًا باسم ضبط المطالبات المرئية (VPT).

التمييز بين المفاهيم ذات الصلة#

لفهم فائدة ضبط المطالبات، من الضروري تمييزه عن المصطلحات المشابهة في مجال الذكاء الاصطناعي:

• هندسة المطالبات: تتضمن هذه العملية صياغة تعليمات نصية مقروءة للبشر يدويًا (مطالبات صلبة) لتوجيه نموذج الذكاء الاصطناعي التوليدي. ولا تتطلب أي برمجة أو تدريب. أما ضبط المطالبات، فعلى العكس، فيستخدم التعلم الخاضع للإشراف آليًا للعثور على تضمينات رقمية مثلى قد لا تتوافق مع كلمات اللغة الطبيعية.
• الضبط الدقيق الكامل: تحدّث الأساليب التقليدية الشبكة العصبية بأكملها، ما يؤدي غالبًا إلى «النسيان الكارثي» للتدريب الأصلي. ويحافظ ضبط المطالبات على القدرات الأصلية للنموذج، مما يسهّل الاستفادة من التعلم بالنقل عبر مهام منفصلة.
• التعلم من أمثلة قليلة: يشير هذا عادةً إلى تقديم بضعة أمثلة ضمن نافذة سياق نموذج لغوي كبير (LLM). ويختلف ضبط المطالبات لأنه يتعلم معلمات بصورة دائمة تُحفظ ويُعاد استخدامها، بدلًا من تقديم سياق مؤقت فحسب.

التطبيقات الواقعية#

يتيح ضبط المطالبات نشر الذكاء الاصطناعي على نطاق قابل للتوسع في البيئات محدودة الموارد، وهي فلسفة أساسية تشترك فيها منصة Ultralytics لإدارة النماذج.

1. دعم العملاء متعدد اللغات: يمكن لمؤسسة عالمية استخدام نموذج لغوي مركزي واحد ومجمّد. ومن خلال تدريب مطالبات لينة خفيفة الوزن للغة الإسبانية واليابانية والألمانية، يستطيع النظام تبديل اللغات فورًا. ويؤدي ذلك إلى تجنّب التكلفة الهائلة لاستضافة ثلاثة نماذج منفصلة بحجم غيغابايت، إذ يعتمد بدلًا من ذلك على ملفات مطالبات بحجم كيلوبايت.

2. الذكاء الاصطناعي في الرعاية الصحية: غالبًا ما تعاني الصور الطبية من ندرة البيانات. ويمكن للباحثين استخدام عمود فقري عام للرؤية (مثل Transformer للرؤية) وتطبيق ضبط المطالبات لتكييفه مع اكتشاف حالات شاذة محددة، مثل أمراض الشبكية أو الأورام. ويحافظ ذلك على خصوصية بيانات المرضى، ويسمح بالتكيّف السريع مع المعدات الطبية الجديدة من دون إعادة تدريب النموذج بالكامل.

مثال على التنفيذ#

يوضح المثال التالي باستخدام PyTorch المفهوم الميكانيكي الأساسي: تجميد الطبقات الرئيسية للنموذج وإنشاء معلمة منفصلة قابلة للتدريب (وهي «المطالبة اللينة») تُحسَّن للتأثير في المخرجات.

import torch
import torch.nn as nn

# 1. Define a dummy backbone (e.g., a pre-trained layer)
backbone = nn.Linear(10, 5)

# 2. Freeze the backbone weights (crucial for prompt tuning)
for param in backbone.parameters():
    param.requires_grad = False

# 3. Create a 'soft prompt' vector that IS trainable
# This represents the learnable embeddings prepended to inputs
soft_prompt = nn.Parameter(torch.randn(1, 10), requires_grad=True)

# 4. Initialize an optimizer that targets ONLY the soft prompt
optimizer = torch.optim.SGD([soft_prompt], lr=0.1)

# Verify that only the prompt is being trained
trainable_params = sum(p.numel() for p in [soft_prompt] if p.requires_grad)
print(f"Optimizing {trainable_params} parameters (Soft Prompt only)")

أهميته للذكاء الاصطناعي الحديث على الحافة#

مع ازدياد حجم النماذج، تصبح القدرة على تكييفها بتكلفة منخفضة أمرًا بالغ الأهمية. وعلى الرغم من أن بنيات مثل YOLO26 محسّنة بالفعل بدرجة كبيرة لتحقيق الكفاءة، فإن مبادئ تجميد الأعمدة الفقرية والتكييف الفعّال تُعد أساسية لمستقبل الذكاء الاصطناعي على الحافة. وتتيح تقنيات مشابهة لضبط المطالبات للأجهزة ذات الذاكرة المحدودة تنفيذ مهام متنوعة — من اكتشاف الأجسام إلى التجزئة — بمجرد تبديل ملفات إعداد صغيرة بدلًا من إعادة تحميل شبكات عصبية ضخمة.

وبالنسبة إلى المطورين الراغبين في التدريب والنشر بكفاءة، يضمن استخدام أدوات مثل منصة Ultralytics تحسين النماذج لتلائم أهدافها المحددة من الأجهزة، مع الاستفادة من أفضل ممارسات عمليات التعلم الآلي (MLOps) الحديثة.