البحث عن التصميم العصبي (NAS)

البحث في البنية العصبية (NAS) هي تقنية متطورة في مجال التعلم الآلي الآلي (AutoML) التي تعمل على أتمتة تصميم الشبكات العصبية الاصطناعية. تقليدياً كان تصميم البنى عالية الأداء يتطلب خبرة عميقة في المجال وتجربة يدوية واسعة النطاق وخطأ يدويًا. أما NAS ثورة في هذه العملية من خلال استخدام خوارزميات لاستكشاف عدد كبير من الشبكات الممكنة بشكل منهجي الممكنة، والبحث عن البنية المثلى التي تزيد من مقاييس الأداء مثل الدقة أو الكفاءة. لا تعمل هذه الأتمتة على تسرّع تطوير نماذج التعلُّم العميق فحسب، بل أيضًا إضفاء الطابع الديمقراطي على الوصول إلى أحدث تقنيات الذكاء الاصطناعي من خلال تقليل الاعتماد على الحدس البشري في تصميم الشبكات.

المكونات الأساسية لـ NAS

تتألف عملية NAS بشكل عام من ثلاث لبنات أساسية تعمل معًا لاكتشاف أفضل بنية النموذج الأفضل:

1. مساحة البحث: يحدد ذلك مجموعة جميع البنى الممكنة التي يمكن للخوارزمية استكشافها. وهي يحدد لبنات البناء الأساسية، مثل أنواع الطبقات (مثل الالتفاف، والتجميع)، ووظائف التنشيط، وكيف يمكن يمكن ربطها. تعتبر مساحة البحث المصممة جيدًا أمرًا بالغ الأهمية لأنها تحد من التعقيد وتضمن جدوى النماذج الناتجة.
2. استراتيجية البحث: هذه هي الطريقة المستخدمة للتنقل في مساحة البحث. بدلاً من القوة الغاشمة الغاشمة، تستخدم NAS استراتيجيات ذكية مثل التعلم المعزز أو الخوارزميات التطورية أو أو الأساليب القائمة على التدرج (مثل DARTS). توجه هذه الاستراتيجيات البحث نحو البنى الواعدة بناءً على التغذية الراجعة من التكرارات السابقة.
3. استراتيجية تقدير الأداء: إن تقييم كل بنية مرشحة من خلال تدريبها من الصفر من الصفر مكلف حسابيًا. لتسريع هذا الأمر، تستخدم NAS استراتيجيات تقدير مثل مشاركة الوزن أو التدريب أو التدريب على مجموعة فرعية من البيانات، أو التدريب لعدد أقل من الحقب الزمنية. يسمح هذا يسمح للخوارزمية بترتيب المرشحين بسرعة وتركيز الموارد على أكثر التصاميم الواعدة.

تطبيقات واقعية

لعبت NAS دورًا أساسيًا في إنشاء بعض النماذج الأكثر كفاءة وقوة في مجال الذكاء الاصطناعي الحديث.

• الرؤية الحاسوبية: في مهام مثل اكتشاف الأجسام و وتصنيف الصور، أنتجت NAS معماريات تتفوق على نظيراتها المصممة من قبل الإنسان. إن عائلة EfficientNet هي مثال رئيسي، حيث تم استخدام NAS لإيجاد شبكة أساسية تم توسيع نطاقها بعد ذلك لتحقيق دقة فائقة مع عدد أقل بكثير من المعلمات. وبالمثل، تستخدم نماذج مثل YOLO تستخدم هذه المبادئ لتحسين كل من السرعة والدقة.
• حافة الذكاء الاصطناعي والنشر المتنقل: تُستخدم NAS على نطاق واسع لتصميم نماذج خفيفة الوزن مصممة خصيصًا لـ حوسبة الحافة. من خلال دمج قيود الأجهزة (مثل وقت الاستجابة واستهلاك الطاقة واستهلاك الطاقة) مباشرةً في هدف البحث، يمكن ل NAS اكتشاف البنى التي تعمل بكفاءة على دون التضحية بالكثير من الأداء. هذا أمر بالغ الأهمية للتطبيقات في المركبات ذاتية القيادة وإنترنت الأشياء.

ضبط NAS مقابل ضبط Hyperparameter

من المهم التمييز بين البحث في البنية العصبية عن ضبط البارامتر الفائق، فكلاهما ينطوي على التحسين ولكنهما يستهدفان جوانب مختلفة من النموذج.

• يركز البحث في البنية العصبية (NAS) على إيجاد البنية المثلى للشبكة العصبية الشبكة العصبية نفسها - تحديد عدد الطبقات ونوع العمليات والوصلات بين الخلايا العصبية.
• يركز الضبط الفائق على تحسين إعدادات التكوين لـ ثابتة، مثل معدّل التعلّم أو حجم الدُفعات أو نوع المُحسِّن.

بينما يبني NAS بنية "الدماغ"، فإن الضبط الفائق يعلم هذا الدماغ كيف يتعلم بشكل أكثر بأكبر قدر من الفعالية. غالبًا ما يُستخدم كلاهما جنبًا إلى جنب داخل خط أنابيب AutoML لتحقيق أفضل النتائج الممكنة.

استخدام النماذج المشتقة من NAS

على الرغم من أن تشغيل عملية NAS كاملة يمكن أن يكون كثيف الموارد، يمكن للمطورين الاستفادة بسهولة من النماذج المدربة مسبقًا التي تم اكتشافها باستخدام NAS. تدعم مكتبة Ultralytics تحميل وتشغيل هذه البنى المحسّنة، مثل YOLO مما يمكّن المستخدمين من الاستفادة من أبحاث NAS دون الحاجة إلى الموارد الحاسوبية لإجراء البحث بأنفسهم.

يوضح المثال التالي كيفية تحميل نموذج مشتق من NAS باستخدام Python:

from ultralytics import NAS

# Load a pre-trained YOLO-NAS model discovered via architecture search
model = NAS("yolo_nas_s.pt")

# Display the model's architecture information
model.info()

# Validate the model's performance on the COCO8 dataset
metrics = model.val(data="coco8.yaml")