Geometric Deep Learning (GDL)

التعلّم العميق الهندسي (GDL) هو فرع التعلّم العميق الذي يصمم الشبكات العصبية وفق بنية البيانات وتناظراتها، سواء أكانت البيانات على شبكة بكسلات أم رسم بياني أم مجموعة نقاط أم كرة أم سطح منحنٍ. وتتمثل فكرته الأساسية في أن يستجيب النموذج بطريقة متوقعة عندما يتغير المُدخل بطريقة لا تغيّر معناه، مثل إزاحة صورة أو إعادة تسمية ذرات جزيء أو تدوير مسح ثلاثي الأبعاد. وقد أشاع مايكل برونشتاين وجوان برونا ويان لوكون وآرثر سلام وبيير فانديرغينست الاسم في مراجعتهم لعام 2017 التعلّم العميق الهندسي: تجاوز البيانات الإقليدية، ونظّم الكتاب التمهيدي لعام 2021 لبرونشتاين وبرونا وتاكو كوهين وبيتار فيليكوفِتش المجال حول خمسة مجالات: الشبكات والمجموعات والرسوم البيانية والجيوديسيات والأطر المعيارية.

الثبات والتكافؤ ومخطط GDL#

تؤدي خاصيتان معظم العمل. تكون الدالة ثابتة بالنسبة إلى تحويل ما عندما يظل خرجها كما هو؛ مثلما ينبغي أن تظل تسمية تصنيف الصور «قطة» عند تحرك القطة. وتكون متكافئة عندما يتحول خرجها بالتزامن مع المُدخل؛ مثلما ينبغي لقناع التجزئة الدلالية أن يتحرك مع الجسم. ويرصّ مخطط GDL طبقات متكافئة تمزج المعلومات بين الجيران، وخطوات تجميع تخفض دقة المجال، وقراءة نهائية ثابتة عندما تتطلب المهمة إجابة واحدة. ويؤدي اختيار مجموعة التناظر للمجال إلى استعادة معماريات مألوفة:

تتشارك الالتفافات نواة واحدة عبر جميع مواضع البكسل، لذا فإن الشبكة العصبية الالتفافية (CNN) هي الحالة المتكافئة مع الإزاحة على شبكة. وتطبّق الشبكة العصبية البيانية (GNN) الدالة نفسها على كل ضلع، ولذلك لا تؤدي إعادة تسمية العُقد إلا إلى إعادة ترتيب مخرجاتها. ويعامل المحوّل رموزه كرسم بياني كامل الاتصال، ولأن الانتباه الذاتي متكافئ مع تبديل الترتيب، فإنه يحتاج إلى ترميزات موضعية لمعرفة ترتيب الرموز. وتُعد GNNs أشهر نماذج GDL، فيما يمثل GDL الإطار الأوسع الذي يفسر النماذج الثلاثة. وتوسّع الشبكات الالتفافية المتكافئة مع المجموعات، التي قدّمها تاكو كوهين وماكس ويلينغ عام 2016، مشاركة الأوزان لتشمل الدوران والانعكاس، وتعرّف شبكات الشبكات السطحية والمتشعبات الالتفاف في إطارات إحداثية محلية على الأسطح المنحنية.

تمثل Ultralytics YOLO26 حالة الشبكة: تشترك التفافاتها في الأوزان عبر مواضع البكسل، وتُعلَّم التناظرات التي لا تتضمنها المعمارية من خلال زيادة البيانات. افتراضيًا، يعكس التدريب كل صورة أفقيًا باحتمال fliplr=0.5، بينما تكون الانعكاسات الرأسية (flipud) والدورانات العشوائية (degrees) معطلة.

تمرير الرسائل على الرسوم البيانية#

تُبنى نماذج الرسوم البيانية في GDL على تمرير الرسائل. تجمع كل عقدة الرسائل من جيرانها، وتدمجها باستخدام دالة مستقلة عن الترتيب مثل المجموع أو المتوسط أو القيمة العظمى، ثم تحدّث تضمينها. وأوضح جاستن غيلمَر وزملاؤه في Google عام 2017 أن كثيرًا من معماريات الرسوم البيانية تتوافق مع مخطط تمرير الرسائل هذا، واستخدموه للتنبؤ بخصائص الجزيئات الكيميائية الكمية. ويمكن التحقق مباشرةً من خاصيتي التناظر كلتيهما بإعادة تسمية عُقد رسم بياني صغير:

import torch

torch.manual_seed(0)
nodes = torch.randn(5, 3)  # ⁨5 ذرات أو مستخدمين، و3 سمات لكل منهم⁩
adjacency = torch.zeros(5, 5)
edges = torch.tensor([[0, 1], [1, 2], [0, 2], [2, 3], [3, 4]])
adjacency[edges[:, 0], edges[:, 1]] = adjacency[edges[:, 1], edges[:, 0]] = 1
w_self, w_neighbors, w_dense = torch.randn(3, 4), torch.randn(3, 4), torch.randn(15, 4)

# ⁨أعِد تسمية العُقد بترتيب عشوائي: الرسم البياني نفسه مع اختلاف طريقة العرض⁩
order = torch.randperm(5)
nodes_p, adjacency_p = nodes[order], adjacency[order][:, order]

# ⁨تمرير الرسائل: تدمج كل عقدة سماتها الخاصة مع مجموع سمات جيرانها⁩
out = torch.relu(nodes @ w_self + adjacency @ nodes @ w_neighbors)
out_p = torch.relu(nodes_p @ w_self + adjacency_p @ nodes_p @ w_neighbors)
print(torch.allclose(out_p, out[order]))  # ⁨التكافؤ: تُعاد مخرجات العقد بترتيبها الجديد⁩
print(torch.allclose(out_p.sum(dim=0), out.sum(dim=0)))  # ⁨الثبات: لا تتغير قراءة مستوى الرسم البياني⁩

# ⁨تتعامل طبقة كثيفة على قائمة العُقد المسطحة مع الرسم البياني المعاد تسميته كأنه بيانات جديدة⁩
print(torch.allclose(nodes_p.flatten() @ w_dense, nodes.flatten() @ w_dense))

يطبع True وTrue وFalse. ويُعاد ترتيب خرج طبقة تمرير الرسائل تمامًا مع العُقد، ولا تتغير قراءة مستوى الرسم البياني المجمّعة، بينما تعطي طبقة كثيفة عادية إجابة مختلفة للرسم البياني نفسه عند عرضه بترتيب مختلف. وتجمع PyTorch Geometric عشرات الطبقات من هذا النوع مع تجميع الرسوم البيانية ذات الأحجام المختلفة.

التطبيقات#

الجزيئات رسوم بيانية من الذرات والروابط، لذا تتنبأ شبكات تمرير الرسائل بخصائص مثل الذوبانية والارتباط من أجل اكتشاف الأدوية. وتضيف البروتينات هندسة ثلاثية الأبعاد: إذ ينقّح AlphaFold 2 البنى المتنبأ بها باستخدام الانتباه النقطي الثابت، الذي يعطي النتيجة نفسها عند تدوير البروتين كله أو نقله في الفضاء.

تنتج عمليات مسح LiDAR ومستشعرات العمق سحبًا نقطية، وهي مجموعات غير مرتبة من نقاط ثلاثية الأبعاد. ويطبّق PointNet، الذي وضعه تشارلز تشي وزملاؤه في جامعة ستانفورد عام 2017، شبكةً مشتركة واحدة على كل نقطة ويجمع النتائج بأخذ القيمة العظمى، فلا يعتمد خرجه على ترتيب النقاط؛ ويشكّل هذا التصميم أساس العديد من أنظمة اكتشاف الأجسام ثلاثية الأبعاد المستخدمة في المركبات ذاتية القيادة والروبوتات. وتغذي الرسوم البيانية الاجتماعية والتجارية للمستخدمين والعناصر أنظمة التوصية القائمة على GNN مثل PinSage في Pinterest، كما تطبّق الرسوم البيانية المعرفية تمرير الرسائل نفسه على الكيانات وعلاقاتها.

تعمل نماذج الطقس على الكرة. وينقل GraphCast، الذي نشرته Google DeepMind في مجلة Science عام 2023، الرسائل عبر شبكة متعددة المقاييس تُبنى بتحسين عشرونيّ الأوجه حول الكرة الأرضية، ويتنبأ بمئات المتغيرات قبل 10 أيام بدقة 0.25° في أقل من دقيقة، متفوقًا على التنبؤ التشغيلي الحتمي الرائد، HRES التابع للمركز الأوروبي للتنبؤات الجوية متوسطة المدى، في 90% من أهداف التحقق البالغ عددها 1,380.