MixUp
يمزج MixUp أمثلة التدريب والأهداف المقابلة لها للحد من فرط التكيّف. وينشئ تسميات فئات لينة للتصنيف، ويُبقي الصناديق كما هي للكشف.
MixUp تقنية لزيادة البيانات تمزج مثالين من أمثلة التدريب في مثال واحد، وتجمع بين أهدافهما. في تصنيف الصور، تتحكم النسبة نفسها في كلا المزجين: فإذا أسهمت إحدى الصورتين بنسبة 70% من مزج وحدات البكسل، حصلت فئتها على 70% من وزن الهدف. ويشجع التدريب على هذه الأمثلة الوسيطة تنبؤات النموذج على التغيّر تدريجيًا بين العينات.
آلية عمل MixUp#
يسحب MixUp القياسي وزنًا بين صفر وواحد من توزيع بيتا متماثل تحدده قيمة alpha. عندما تكون القيمة أقل من 1، تميل السحوبات إلى الطرفين، لذا تهيمن عادةً إحدى الصورتين. وعند 1، تتساوى احتمالات الفواصل ذات العرض المتساوي. أما عندما تكون القيمة أكبر من 1، فتتركز السحوبات بالقرب من 0.5، ما ينتج مزجًا أكثر توازنًا. تحدد نسبة المزج مقدار مساهمة كل عينة؛ أما احتمالية التطبيق المنفصلة، عند توفرها، فتحدد عدد مرات تنفيذ التحويل.
قدّم Hongyi Zhang وMoustapha Cissé وYann N. Dauphin وDavid Lopez-Paz هذه التقنية في mixup: ما وراء تقليل المخاطر التجريبية، ونُشرت لأول مرة عام 2017 وعُرضت في ICLR 2018. في تجربتهم على CIFAR-10 التي امتدت 200 حقبة باستخدام ResNet-18 ذي التفعيل المسبق واضمحلال الأوزان بقيمة 0.0001، خفّض MixUp مع alpha=1 وسيط خطأ الاختبار خلال آخر 10 حقب من 5.53% إلى 4.24%.
MixUp لتصنيف الصور#
غالبًا ما تُخزَّن تسمية تصنيف الصور على هيئة معرّف فئة صحيح. يجمع MixUp متجهات الفئات بدلًا من ذلك: عندما تنتمي الصورتان إلى فئتين مختلفتين، تكون النتيجة هدفًا لينًا يتضمن وزنين مجموعهما واحد. وعندما تنتمي الصورتان إلى الفئة نفسها، تحتفظ تلك الفئة بوزنها الكامل. وعند استخدام خسارة الانتروبيا المتقاطعة، يعادل استخدام الهدف اللين حساب الخسارة لكل تسمية أصلية على حدة استنادًا إلى تنبؤ الصورة الممزوجة نفسه، ثم أخذ مجموع موزون للخسارتين.
يطبّق تحويل MixUp الدفعي في Torchvision وزن مزج مشتركًا على دفعة كاملة. ويستخدم المثال صورتي القطة والقهوة من مجموعة العينات في scikit-image.
import torch
from skimage import data
from torchvision.transforms import v2
resize = v2.Resize((128, 128))
to_image = v2.ToImage()
cat = resize(to_image(data.chelsea()))
coffee = resize(to_image(data.coffee()))
images = torch.stack((cat, coffee)).float() / 255
labels = torch.tensor([0, 1])
mixup = v2.MixUp(alpha=1.0, num_classes=2)
mixed_images, mixed_targets = mixup(images, labels)
print(mixed_targets)يعرض كل صف مطبوع وزني القطة والقهوة لإحدى الصور الممزوجة. وتتبادل الأوزان مواضعها بين الصفوف لأن التحويل يعكس دوري الصورتين في هذه الدفعة.
كيفية تعامل كشف الكائنات مع التسميات الممزوجة#
يحتوي هدف كشف الكائنات على صندوق إحاطة وفئة لكل كائن. وقد يؤدي حساب متوسط صندوقين إلى وضع الصندوق الناتج بين الكائنين. يمزج تحويل MixUp في Ultralytics YOLO الصور مع الإبقاء على مجموعتي الصناديق ومعرّفات الفئات كأهداف منفصلة. يتحكم الإعداد mixup في عدد مرات تنفيذ التحويل، وتكون قيمته الافتراضية 0.0؛ وتُسحب نسبة وحدات البكسل بصورة منفصلة من Beta(32, 32)، ما ينتج مزجًا شبه متوازن، كما يوقف حد التدريب close_mosaic تشغيل MixUp عند تفعيله.
مقارنة MixUp بتحويلات زيادة البيانات الأخرى#
يعمل MixUp بوصفه تنظيمًا، إذ يدرّب النموذج على مجموعات من الأمثلة التي قد يحفظها لولا ذلك. وقد ينشئ مزج الصورة كاملةً أنماطًا تشبه فئة ثالثة. ففي إحدى تجارب MNIST، بدا مزيج الرقمين المكتوبين بخط اليد 1 و5 شبيهًا بالرقم 8، مع أن الهدف أسند 53% إلى الرقم 1 و47% إلى الرقم 5. وهكذا قدّمت الصورة دليلًا بصريًا على فئة لم يُسند إليها أي وزن في الهدف.
- يستبدل CutMix منطقة مستطيلة برقعة مأخوذة من صورة أخرى. وفي التصنيف، تتناسب أوزان الهدف مع المساحة التي تسهم بها كل صورة.
- يرتّب Mosaic صورًا متعددة على لوحة واحدة، ويعيد مواءمة تعليقاتها التوضيحية مع التخطيط الجديد.
- يعيد تنعيم التسميات توزيع جزء من وزن الهدف على الفئات، مع إبقاء المُدخل دون تغيير.
ينقل Manifold Mixup الاستيفاء من المُدخلات الخام إلى طبقة مخفية في الشبكة. ويستخدم مع ذلك وزن المزج نفسه للتفعيلات المخفية وأهداف الفئات.














