Sinirsel Mimari Arama (NAS)

Sinirsel Mimari Arama (NAS), sinirbilim alanında gelişmiş bir tekniktir. Otomatik Makine Öğrenimi (AutoML) tasarımını otomatikleştiren yapay sinir ağları. Geleneksel olarak, Yüksek performanslı mimariler tasarlamak, derin alan uzmanlığı ve kapsamlı manuel deneme yanılma gerektiriyordu. NAS çok sayıda olası ağı sistematik olarak keşfetmek için algoritmalar kullanarak bu süreçte devrim yaratır. gibi performans ölçütlerini en üst düzeye çıkaran en uygun yapıyı arayarak topolojiler doğruluk veya verimlilik. Bu otomasyon sadece gelişimini hızlandırır. derin öğrenme modellerinin yanı sıra erişimi de demokratikleştiriyor Ağ tasarımı için insan sezgisine olan bağımlılığı azaltarak son teknoloji yapay zekaya.

NAS'ın Temel Bileşenleri

NAS süreci genellikle en iyiyi keşfetmek için birlikte çalışan üç temel yapı taşından oluşur model mimarisi:

1. Arama Alanı: Bu, algoritmanın keşfedebileceği tüm olası mimarilerin kümesini tanımlar. Bu katman türleri gibi temel yapı taşlarını belirtir (örn, konvolüsyon, havuzlama), aktivasyon fonksiyonları ve nasıl bağlanabilirler. İyi tasarlanmış bir arama uzayı, karmaşıklığı sınırlandırdığı ve aşağıdaki sonuçların elde edilmesini sağladığı için çok önemlidir ortaya çıkan modellerin fizibilitesi.
2. Arama Stratejisi: Bu, arama uzayında gezinmek için kullanılan yöntemdir. Kaba kuvvet yerine yaklaşımı, NAS aşağıdaki gibi akıllı stratejiler kullanır pekiştirmeli öğrenme, evrimsel algoritmalar veya gradyan tabanlı yöntemler ( DARTS gibi). Bu stratejiler Önceki iterasyonlardan gelen geri bildirimlere dayanarak daha umut verici mimarilere doğru arama.
3. Performans Tahmin Stratejisi: Her aday mimarinin eğitimden geçirilerek değerlendirilmesi çizik hesaplama açısından pahalıdır. Bunu hızlandırmak için NAS, ağırlık paylaşımı, eğitim ve hesaplama gibi tahmin stratejileri kullanır. Verilerin bir alt kümesi üzerinde veya daha az epok için eğitim. Bu algoritmanın adayları hızlı bir şekilde sıralamasına ve kaynakları en umut verici tasarımlara odaklamasına olanak tanır.

Gerçek Dünya Uygulamaları

NAS, modern yapay zekadaki en verimli ve güçlü modellerden bazılarının oluşturulmasında etkili olmuştur.

• Bilgisayarla Görme: Gibi görevlerde nesne algılama ve görüntü sınıflandırma, NAS üretti insan tasarımı muadillerinden daha iyi performans gösteren mimariler. Bu EfficientNet ailesi NAS'ın temel bir ağ bulmak için kullanıldığı ve daha sonra bunu başarmak için ölçeklendirildiği en iyi örnektir önemli ölçüde daha az parametre ile son teknoloji ürünü doğruluk. Benzer şekilde, aşağıdaki gibi modeller YOLO bu prensipleri kullanarak her ikisini de optimize eder hız ve hassasiyet.
• Uç Yapay Zeka ve Mobil Dağıtım: NAS, aşağıdakiler için uyarlanmış hafif modeller tasarlamak için yaygın olarak kullanılmaktadır uç bilişim. Donanımı dahil ederek kısıtlamalar ( gecikme süresi ve güç gibi tüketimi) doğrudan arama hedefine dahil eden NAS, mobil cihazlarda verimli bir şekilde çalışan mimarileri keşfedebilir çok fazla performanstan ödün vermeden cihazlar. Bu, aşağıdaki uygulamalar için kritik öneme sahiptir otonom araçlar ve IoT.

NAS ve Hiperparametre Ayarlama

Nöral Mimari Aramasını aşağıdakilerden ayırt etmek önemlidir hiperparametre ayarı, her ikisi de optimizasyonudur ancak bir modelin farklı yönlerini hedefler.

• Nöral Mimari Arama (NAS) en uygun yapıyı bulmaya odaklanır Sinir ağının kendisi - katman sayısını, işlem türünü ve nöronlar arasındaki bağlantıları belirler.
• Hiperparametre Ayarlama, sabit bir parametre için yapılandırma ayarlarını optimize etmeye odaklanır öğrenme oranı gibi mimari faktörler, parti boyutu veya iyileştirici türü.

NAS "beyin" yapısını oluştururken, hiperparametre ayarı bu beyne en çok nasıl öğreneceğini öğretir etkili bir şekilde kullanılır. Her ikisi de mümkün olan en iyi sonuçları elde etmek için genellikle bir AutoML ardışık düzeninde birlikte kullanılır.

NAS Tarafından Türetilen Modelleri Kullanma

Tam bir NAS süreci çalıştırmak yoğun kaynak gerektirebilirken, geliştiriciler önceden eğitilmiş modellerden kolayca yararlanabilir NAS kullanılarak keşfedilmiştir. Ultralytics kütüphanesi, aşağıdaki gibi bu optimize edilmiş mimarileri yüklemeyi ve çalıştırmayı destekler YOLO, kullanıcıların NAS araştırmalarını gerçekleştirmek için hesaplama kaynaklarına ihtiyaç duymadan bu araştırmalardan faydalanmalarını sağlar. kendilerini ararlar.

Aşağıdaki örnekte Python kullanılarak NAS'tan türetilmiş bir modelin nasıl yükleneceği gösterilmektedir:

from ultralytics import NAS

# Load a pre-trained YOLO-NAS model discovered via architecture search
model = NAS("yolo_nas_s.pt")

# Display the model's architecture information
model.info()

# Validate the model's performance on the COCO8 dataset
metrics = model.val(data="coco8.yaml")