Representation Engineering (RepE)

هندسة التمثيل (RepE) هي منهجية متقدمة في التعلم الآلي تتضمن تحليل ومعالجة الحالات المعرفية الداخلية -أو التمثيلات- للشبكات العصبية بشكل مباشر لمراقبة سلوكها والتحكم فيه. تم تقديمها كنهج من أعلى إلى أسفل للذكاء الاصطناعي الآمن والمحاذاة، حيث تحول RepE التركيز بعيداً عن مجرد تعديل مدخلات أو مخرجات النموذج. وبدلاً من ذلك، تقوم بقراءة وتغيير الحالات المخفية الداخلية للنماذج اللغوية الكبيرة وأنظمة الرؤية أثناء الاستدلال في الوقت الفعلي، مما يتيح للمطورين توجيه النموذج نحو مفاهيم مرغوبة مثل الأمانة أو عدم الإضرار أو ميزات بصرية محددة دون إعادة تدريب الشبكة.

كيف تعمل هندسة التمثيل#

المفهوم الأساسي لـ RepE، المفصل بشكل مكثف في ورقة هندسة التمثيل الأساسية الصادرة عن مركز أمان الذكاء الاصطناعي، ينقسم إلى مرحلتين رئيسيتين: القراءة والتحكم.

خلال مرحلة "القراءة"، يقوم الباحثون بتحليل كيفية ترميز الطبقات المخفية للنموذج لمفاهيم محددة. ومن خلال مراقبة مخرجات دالة التنشيط عبر مطالبات أو صور مختلفة، يمكن للمهندسين عزل "الاتجاه" المحدد في الفضاء الكامن الذي يتوافق مع مفهوم معين، مثل الصدق أو فئة كائن معين. يعتمد هذا بشكل كبير على أبحاث القابلية للتفسير الميكانيكي لشركة Anthropic، والتي تسعى إلى الهندسة العكسية للشبكات العصبية.

في مرحلة "التحكم"، يتم تضخيم هذه التمثيلات المعزولة أو قمعها بشكل مصطنع أثناء المرور الأمامي. يؤدي هذا التدخل إلى تغيير سلوك النموذج بشكل فورى، وهي تقنية تتوافق بشكل وثيق مع إرشادات المحاذاة والأمان لشركة OpenAI لإنشاء أنظمة ذكاء اصطناعي قابلة للتوجيه ويمكن التنبؤ بها.

التمييز بين RepE والمفاهيم ذات الصلة#

لفهم RepE بشكل كامل، من المهم التمييز بينها وبين التقنيات الشائعة الأخرى المستخدمة في رؤية الكمبيوتر ومعالجة اللغات الطبيعية:

• هندسة المطالبات: يتضمن هذا صياغة مدخلات نصية أو بصرية محددة لتوجيه مخرجات النموذج. لا تغير RepE المدخلات؛ بل تغير كيفية معالجة النموذج للمدخلات داخلياً.
• الضبط الدقيق: يقوم الضبط الدقيق بتحديث أوزان النموذج بشكل دائم باستخدام مجموعة بيانات مخصصة، وغالباً ما يتم إدارة ذلك من خلال أدوات مثل منصة Ultralytics. تترك RepE الأوزان الأصلية دون تغيير، وتطبق بدلاً من ذلك تحويلات ديناميكية على التنشيطات وقت التشغيل.
• هندسة الميزات: خطوة تقليدية لإعداد البيانات حيث يقوم الخبراء البشريون يدوياً بتحديد مدخلات البيانات. وكما لوحظ في مقالة ويكيبيديا حول تعلم الميزات، تعمل RepE على الميزات التي تعلمها النموذج بالفعل بشكل ذاتي.

تطبيقات العالم الحقيقي#

تقود RepE تطورات كبيرة في إنشاء ذكاء اصطناعي قوي وقابل للتحكم عبر مجالات متعددة، مدعومة بأبحاث من مؤسسات مثل أبحاث MIT CSAIL حول قابلية تفسير الشبكات العصبية:

• التخفيف من هلوسات الذكاء الاصطناعي: من خلال تحديد التمثيل الداخلي لـ "الصدق"، يمكن للمهندسين تعزيز هذه الإشارة بشكل مصطنع أثناء الاستدلال. يتم استخدام هذا بنشاط تقليل الهلوسة في النماذج اللغوية الكبيرة، مما يضمن توفير برامج الدردشة الآلية لمعلومات واقعية بدلاً من اختلاق الإجابات.
• توجيه أنظمة الرؤية متعددة الوسائط: في النماذج متعددة الوسائط، يمكن استخدام RepE للتحكم في التركيز البصري لوكيل الذكاء الاصطناعي. على سبيل المثال، في القيادة الذاتية، يمكن أن يؤدي تضخيم التمثيل الداخلي لـ "مخاطر المشاة" إلى إجبار النموذج على إعطاء الأولوية للاكتشافات الحرجة للسلامة في البيئات المعقدة، وهو مجتركيز مسلط الضوء عليه في منشورات معهد مهندسي الكهرباء والإلكترونيات (IEEE) حول شفافية الذكاء الاصطناعي.

تنفيذ استخراج المفاهيم في نماذج الرؤية#

بينما يتطلب التعديل المباشر للتنشيطات تدخلات رياضية متقدمة، يمكن إجراء الخطوة الأولى من RepE—وهي قراءة التمثيلات—باستخدام أطر التعلم العميق الحديثة. ومن خلال الاستفادة من وثائق خطافات التوجيه الأمامي لـ PyTorch، يمكن للمطورين استخراج الحالات الداخلية لنماذج مثل Ultralytics YOLO26 لتحليل كيفية ترميز المفاهيم البصرية.

from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for state-of-the-art vision tasks
model = YOLO("yolo26n.pt")

# Access the underlying PyTorch model to register a forward hook
pytorch_model = model.model
internal_representations = []


# Define a hook function to capture the output of a specific hidden layer
def hook_fn(module, input, output):
    internal_representations.append(output)


# Attach the hook to a middle layer (e.g., layer index 5) to read representations
handle = pytorch_model.model[5].register_forward_hook(hook_fn)

# Run inference on an image to capture the cognitive state of the model
results = model("https://ultralytics.com/images/bus.jpg")

# The captured representations can now be analyzed for RepE steering
print(f"Captured latent representation shape: {internal_representations[0].shape}")

# Remove the hook to clean up memory
handle.remove()

مع ازدياد تعقيد النماذج، تؤكد التقنيات الموصوفة في دليل TensorFlow حول تعلم التمثيل وأبحاث الأمان الخاصة بـ Google DeepMind على أن فهم هذه الحالات الداخلية وهندستها سيكونان بالغين الأهمية للجيل القادم من بنيات الذكاء الاصطناعي الآمنة والموثوقة.