Causal Representation Learning

يمثّل تعلّم التمثيلات السببية (CRL) مسألة تعلّم مجموعة صغيرة من المتغيرات الكامنة، انطلاقًا من ملاحظات عالية الأبعاد مثل وحدات البكسل، بحيث تقابل هذه المتغيرات الأسباب الحقيقية التي أنتجت البيانات، إلى جانب العلاقات السببية فيما بينها. يستطيع النموذج الذي يستخدم مثل هذا التمثيل التنبؤ بما يحدث عند تغيير عامل واحد، مثل تحريك مصباح أو دفع جسم، ويواصل العمل عند تغيّر الارتباطات في بيانات التدريب، وهو شكل من انحراف البيانات. وضع برنهارد شيلكوبف وفرانشيسكو لوكاتيلو ويوشوا بنجيو وزملاؤهم البرنامج البحثي في نحو تعلّم التمثيلات السببية عام 2021، جامعًا بين تعلّم التمثيلات في التعلّم العميق ونماذج السببية البنيوية في الاستدلال السببي، التي تفترض أن المتغيرات السببية معروفة مسبقًا.

لماذا تقصر التمثيلات التقليدية#

تحوّل شبكة مدرّبة على تصنيف الصور كل صورة إلى فضاء كامن تتنبأ ميزاته بالتسمية بأفضل صورة ممكنة وفق توزيع التدريب، ولا يوجد ما يمنع هذه الميزات من مزج الجسم بمحيطه. في عام 2018، أظهر سارا بيري وغرانت فان هورن وبيترو بيرونا أن المصنّفات التي تتعرّف على الأبقار في المراعي العشبية قد تفشل في التعرّف على بقرة تقف على الشاطئ، لأن الخلفية أصبحت جزءًا من معنى «بقرة». وينجم هذا الإخفاق، المسمى التعلّم عبر الاختصارات، عن تحيز مجموعة البيانات، ولا تزيله زيادة البيانات من التوزيع نفسه.

ينطلق تعلّم التمثيلات السببية (CRL) من فكرة أن العالم يتكوّن من آليات سببية مستقلة: فالتغيير في العالم الحقيقي، مثل استخدام كاميرا جديدة أو إضاءة جديدة أو تنفيذ الروبوت فعلًا، لا يغيّر سوى بضع آليات ويُبقي البقية كما هي. وفي تمثيل تتوافق متغيراته مع تلك الآليات، لا يمسّ مثل هذا التغيير سوى عدد قليل من المتغيرات. وتُظهر مجموعة بيانات البندول الاصطناعية، المستخدمة لتقييم CausalVAE، وهو مشفّر تلقائي تبايني سببي من عام 2021، البنية المستهدفة: إذ يتسبب كل من زاوية البندول وزاوية الضوء معًا في موضع الظل وطوله، وتُعرض المتغيرات الأربعة كلها في صورة واحدة.

قابلية التحديد: متى يمكن استعادة المتغيرات السببية#

يمكن لمجموعات عديدة ومختلفة من المتغيرات الكامنة تفسير الصور نفسها، لذلك يسأل تعلّم التمثيلات السببية (CRL) أولًا متى تكون المتغيرات الحقيقية قابلة للتحديد. في عام 2019، أثبت لوكاتيلو وزملاؤه استحالة تعلّم العوامل المفككة باستخدام التعلّم غير الخاضع للإشراف من دون افتراضات عن النموذج والبيانات معًا، وأكدت دراسة لأكثر من 12,000 نموذج مدرّب على سبع مجموعات بيانات أن الأساليب غير الخاضعة للإشراف لا تستطيع العثور على العوامل الحقيقية على نحو موثوق. ويوضح تحليل المكونات المستقلة (ICA)، وهو الحالة الأساسية الخطية، فائدة مثل هذا الافتراض. فإذا مُزجت العوامل المستقلة خطيًا، أمكن لتحليل المكونات المستقلة استعادتها ما دام عامل واحد على الأكثر غاوسيًا، لأن أي تدوير لمتغيرات غاوسية مستقلة ينتج عنه مجددًا مجموعة من المتغيرات الغاوسية المستقلة:

import numpy as np
from sklearn.decomposition import FastICA

rng = np.random.default_rng(0)
mixing = np.array([[2.0, 1.0], [1.0, 1.0]])  # unknown map from two latent factors to two sensor readings

for name, latents in [
    ("Non-Gaussian factors", np.column_stack([rng.uniform(-1, 1, 5000), rng.laplace(size=5000)])),
    ("Gaussian factors", rng.normal(size=(5000, 2))),
]:
    observations = latents @ mixing.T
    recovered = FastICA(n_components=2, random_state=0).fit_transform(observations)
    # Correlation of each true factor with its best-matching recovered component (1.0 = recovered exactly)
    match = np.abs(np.corrcoef(latents.T, recovered.T)[:2, 2:]).max(axis=1)
    print(f"{name}: {match.round(2)}")

يستعيد FastICA العاملين غير الغاوسيين بارتباط قدره 1.0. أما بالنسبة إلى العوامل الغاوسية، فينتج تدويرًا اعتباطيًا لا تتطابق مكوناته مع كل عامل حقيقي إلا بارتباط قدره 0.85.

تضيف العوامل السببية صعوبة ثانية، لأن الأسباب وتأثيراتها تعتمد إحصائيًا بعضها على بعض؛ لذا تستبدل أساليب تعلّم التمثيلات السببية (CRL) افتراض الاستقلال بمعلومات إضافية عن كيفية توليد البيانات. وتكشف البيانات المسجلة في ظل تدخلات أو ضمن بيئات متعددة، مثل روبوت يحرّك جسمًا واحدًا في كل مرة أو صور طبية من مستشفيات متعددة، المتغيرات التي يؤثر فيها كل تغيير. ويفيد الفيديو عندما تتطور المتغيرات بسلاسة وتتدخل الأفعال في بعضها، كما في أسلوب CITRIS الذي قدّمه فيليب ليب وزملاؤه عام 2022. كما تفيد المشاهد المقترنة: فقد أثبت يوليوس فون كوغِلن وزملاؤه في NeurIPS 2021 أن التعلّم التبايني على أزواج الصور المعززة يستعيد المحتوى الذي تتركه عمليات التعزيز دون تغيير، حتى تحويل قابل للعكس، ويفصله عن النمط الذي تغيّره تلك العمليات، حتى عندما يعتمد المحتوى والنمط سببيًا أحدهما على الآخر. ويستخدم التدريب الخاضع للإشراف التقسيم نفسه بين المحتوى والنمط. افتراضيًا، يطبّق تدريب نموذج تصنيف Ultralytics YOLO26 قصاصات عشوائية تحتفظ بنسبة تتراوح بين 50% و100% من مساحة الصورة، وقلبًا أفقيًا، وRandAugment، ومحوًا عشوائيًا باحتمال 0.4؛ وهي وصفة تعزيز البيانات التي تغيّر النمط بينما تبقى تسمية الفئة، أي المحتوى، ثابتة.

تعلّم التمثيلات السببية (CRL) والمصطلحات ذات الصلة#

• اكتشاف السببية: يتعلّم الرسم البياني السببي بين المتغيرات المقاسة مسبقًا، مثل أعمدة درجة الحرارة والضغط في جدول. أما تعلّم التمثيلات السببية (CRL)، فيتعين عليه تعلّم المتغيرات والرسم البياني معًا، انطلاقًا من وحدات البكسل.
• تعلّم التمثيلات المفككة: يسعى إلى أبعاد كامنة يلتقط كل منها عاملًا مستقلًا واحدًا. ويسمح تعلّم التمثيلات السببية (CRL) للعوامل بالتسبب بعضها في بعض، ويصوغ الروابط بينها.
• التعلّم الذاتي الإشراف: يوفّر إشارات التدريب، مثل المشاهد المعززة والترتيب الزمني، التي تعتمد عليها نتائج كثيرة بشأن قابلية تحديد تعلّم التمثيلات السببية (CRL).
• الذكاء الاصطناعي القابل للتفسير (XAI): يفسّر المدخلات التي أسهمت في تنبؤ نموذج مدرّب، من دون اشتراط أن تقابل المتغيرات الداخلية للنموذج أسبابًا في العالم الحقيقي.