Masked Autoencoders (MAE)

تمثّل المشفّرات التلقائية المقنّعة (MAE) نهجًا عالي الكفاءة وقابلًا للتوسع في التعلّم الذاتي الإشراف ضمن المجال الأوسع لـالرؤية الحاسوبية. وقد قُدّمت بوصفها طريقة لتدريب الشبكات العصبية ذات العدد الكبير من المعلمات دون الحاجة إلى مجموعات بيانات موسومة على نطاق واسع، إذ تعمل MAE على حجب جزء كبير وعشوائي من صورة الإدخال عمدًا، ثم تدريب النموذج على إعادة بناء وحدات البكسل المفقودة. ومن خلال التنبؤ بنجاح بالمعلومات المرئية المخفية، تتعلم الشبكة بطبيعتها فهمًا عميقًا ودلاليًا للأشكال والأنسجة والعلاقات المكانية.

تستلهم هذه التقنية بدرجة كبيرة نجاح نمذجة اللغة المقنّعة في الأنظمة القائمة على النصوص، لكنها مكيّفة مع الطبيعة عالية الأبعاد لبيانات الصور. وتعتمد البنية على إطار عمل Transformer واسع الانتشار، مستخدمةً هيكلًا غير متماثل للمشفّر وفاكّ التشفير.

كيفية عمل المشفّرات التلقائية المقنّعة#

يكمن الابتكار الأساسي في MAE في كفاءة المعالجة التي توفرها. أثناء التدريب، تُقسَّم صورة الإدخال إلى شبكة من الرقع. ويُحجب عشوائيًا جزء كبير من هذه الرقع، غالبًا ما يصل إلى 75%، ثم يُستبعد. ولا يعالج المشفّر، الذي يكون عادةً محوّل الرؤية (ViT)، سوى الرقع المرئية غير المحجوبة. ونظرًا إلى أن المشفّر يتجاوز الأجزاء المحجوبة بالكامل، فإنه يحتاج إلى قدر أقل بكثير من موارد الحوسبة والذاكرة، مما يجعل عملية التدريب سريعة بصورة ملحوظة.

بعد أن يولّد المشفّر تمثيلات كامنة للرقع المرئية، يتولى فاكّ تشفير خفيف الوزن المهمة. ويتلقى فاكّ التشفير الرقع المرئية المشفّرة إلى جانب «رموز الحجب» (عناصر نائبة للبيانات المفقودة)، ويحاول إعادة بناء الصورة الأصلية. وبما أن فاكّ التشفير يُستخدم فقط خلال مرحلة التدريب المسبق، يمكن إبقاؤه صغيرًا جدًا، مما يقلل النفقات الحسابية الإضافية أكثر. وبعد اكتمال التدريب المسبق، يُستبعد فاكّ التشفير، ويُحتفظ بالمشفّر القوي للتطبيقات اللاحقة.

التمييز بين المصطلحات ذات الصلة#

لفهم MAE فهمًا كاملًا، من المفيد استيعاب أوجه اختلافها عن مفاهيم التعلّم العميق الأقدم أو الأوسع نطاقًا:

• المشفّر التلقائي: يضغط المشفّر التلقائي التقليدي الإدخال بأكمله إلى حيّز كامن أصغر، ثم يعيد بناءه لتعلّم ترميزات فعّالة للبيانات. أما MAE، فتجبر الشبكة على التنبؤ بالبيانات المفقودة بدلًا من ضغط الإدخال بأكمله وفك ضغطه فحسب.
• التعلّم الذاتي الإشراف: هذا هو الإطار التدريبي الشامل الذي يتعلم فيه النموذج من البيانات نفسها دون تسميات ي annotatedها البشر. وتُعد MAE تطبيقًا معماريًا محددًا لهذا المفهوم.
• النموذج الأساسي: تُستخدم MAE غالبًا للتدريب المسبق للنماذج الأساسية المرئية، التي تُضبط بعد ذلك لمهام متخصصة.

التطبيقات الواقعية#

نظرًا إلى أن MAE تتعلم تمثيلات قوية للغاية للبيانات المرئية، فإنها تمثل نقاط انطلاق مثالية لأنظمة الذكاء الاصطناعي المعقدة والواقعية.

• التدريب المسبق لاكتشاف الكائنات المتقدم: يمكن لقدرات استخراج السمات الغنية التي جرى تعلمها من خلال التدريب المسبق باستخدام MAE أن تعزز أداء أنظمة اكتشاف الكائنات اللاحقة بدرجة كبيرة. فعلى سبيل المثال، يمكن استخدام السمات التي تعلمتها MAE عند تدريب نماذج مثل Ultralytics YOLO26 على مجموعات بيانات مخصصة ومتخصصة تندر فيها البيانات الموسومة.
• تحليل الصور الطبية: في مجالات مثل علم الأشعة، يُعد جمع مجموعات بيانات ضخمة من فحوصات MRI أو CT المشروحة مكلفًا ومقيّدًا بقوانين الخصوصية. ويستخدم الباحثون MAE للتدريب المسبق للنماذج على مجموعات كبيرة من الصور الطبية غير الموسومة، المنشورة في الأبحاث الأكاديمية الحديثة على arXiv، قبل ضبطها بدقة لاكتشاف الأورام أو الحالات الشاذة باستخدام عدد قليل جدًا من الأمثلة الموسومة.

إدارة البيانات والنشر#

بعد تدريب العمود الفقري مسبقًا باستخدام نهج MAE، تتضمن الخطوة التالية ضبط النموذج بدقة ونشره لمهام محددة مثل تصنيف الصور أو تقسيم الصور. وتسهّل منظومات السحابة الحديثة هذا الانتقال بسلاسة. فعلى سبيل المثال، يمكن للفرق الاستفادة من Ultralytics Platform لوَسْم مجموعات البيانات الخاصة بالمهام بسهولة، وتنسيق التدريب السحابي، ونشر النماذج الناتجة الجاهزة للإنتاج على الأجهزة الطرفية أو الخوادم. ويُلغي ذلك جزءًا كبيرًا من أعمال البنية التحتية الأساسية التي ترتبط عادةً بـعمليات تعلّم الآلة (MLOps).

مثال برمجي: محاكاة حجب الرقع#

على الرغم من أن تدريب MAE كاملة يتطلب بنية Transformer متكاملة، يمكن تصور المفهوم الأساسي لحجب الرقع بسهولة باستخدام عمليات موتر PyTorch. يوضح هذا المقتطف البسيط كيف يمكن اختيار الرقع المرئية عشوائيًا من موتر إدخال.

import torch


def create_random_mask(batch_size, num_patches, mask_ratio=0.75):
    """Generates a random mask to simulate MAE patch dropping."""
    # Calculate how many patches to keep visible
    num_keep = int(num_patches * (1 - mask_ratio))

    # Generate random noise to determine patch shuffling
    noise = torch.rand(batch_size, num_patches)

    # Sort noise to get random indices
    ids_shuffle = torch.argsort(noise, dim=1)

    # Select the indices of the patches that remain visible
    ids_keep = ids_shuffle[:, :num_keep]

    return ids_keep


# Simulate a batch of 4 images, each divided into 196 patches
visible_patches = create_random_mask(batch_size=4, num_patches=196)
print(f"Visible patch indices shape: {visible_patches.shape}")

بالنسبة إلى المطورين الذين يرغبون في دمج قدرات مرئية قوية ومدرّبة مسبقًا في سير عملهم دون كتابة البنى من الصفر، يوفر استكشاف وثائق Ultralytics نقاط بداية ممتازة لتطبيق نماذج الرؤية المتقدمة على أحدث طراز على تحدياتكم الفريدة. وعلاوة على ذلك، توفر أطر العمل الرئيسية مثل TensorFlow أيضًا منظومات قوية لتطبيق أبحاث تعلّم الآلة المتطورة في بيئات إنتاج قابلة للتوسع.