Neural Architecture Search (NAS)

Sinir Ağı Mimarisi Araması (NAS), yapay sinir ağlarının tasarımını otomatikleştiren Otomatik Makine Öğrenimi (AutoML) alanındaki gelişmiş bir tekniktir. Geleneksel olarak yüksek performanslı derin öğrenme (DL) mimarileri geliştirmek; kapsamlı insan uzmanlığı, sezgi ve zaman alan deneme-yanılma süreçleri gerektiriyordu. NAS, bu manuel süreci algoritmik stratejilerle değiştirerek belirli bir görev için en uygun yapıyı keşfetmek amacıyla çok çeşitli ağ topolojilerini sistematik olarak araştırır. NAS, çeşitli katman ve işlem kombinasyonlarını test ederek doğruluk, hesaplama verimliliği veya çıkarım hızı açısından insan tasarımı modellerden önemli ölçüde daha iyi performans gösteren mimarileri belirleyebilir.

NAS'ın Temel Mekanizmaları#

Üstün bir mimariyi keşfetme süreci genellikle en iyi sinir ağını (NN) bulmak için etkileşime giren üç temel boyutu içerir:

1. Arama Alanı: Bu, algoritmanın keşfedebileceği tüm olası mimariler kümesini tanımlar. Konvolüsyon filtreleri, havuzlama katmanları ve çeşitli aktivasyon fonksiyonları gibi yapı taşlarından oluşan bir kütüphane görevi görür. İyi tanımlanmış bir arama alanı, aramanın hesaplama açısından uygulanabilir kalmasını sağlamak için karmaşıklığı sınırlar ve aynı zamanda yenilik için yeterli esnekliği korur.

2. Arama Stratejisi: NAS, her olasılığı tek tek test etmek (kaba kuvvet) yerine arama alanında verimli bir şekilde gezinmek için akıllı algoritmalar kullanır. Yaygın yaklaşımlar arasında bir aracının zaman içinde daha iyi mimariler üretmeyi öğrendiği pekiştirmeli öğrenme ve en iyi performans gösteren modelleri mutasyona uğratıp birleştirerek daha üstün adaylar üreten evrimsel algoritmalar bulunur.

3. Performans Tahmin Stratejisi: Her aday ağı sıfırdan eğitmek aşırı derecede yavaştır. NAS, süreci hızlandırmak için daha az epoch ile eğitim yapma, daha düşük çözünürlüklü vekil veri kümeleri kullanma veya ağırlık paylaşımı uygulama gibi tahmin tekniklerinden yararlanarak aday bir mimarinin potansiyelini hızlıca sıralar.

Gerçek Dünya Uygulamaları#

NAS, donanım kısıtlarının veya performans gereksinimlerinin katı olduğu sektörlerde kritik hâle gelmiş ve bilgisayarlı görü (CV) ile diğer yapay zeka alanlarının sınırlarını ileri taşımıştır.

• Verimli Uç Bilişim: Yapay zekayı mobil cihazlarda kullanıma sunmak, hem hafif hem de hızlı modeller gerektirir. NAS, yüksek hassasiyeti korurken çıkarım gecikmesini en aza indiren MobileNetV3 ve EfficientNet gibi mimarileri keşfetmek için yaygın olarak kullanılır. Bu, akıllı kameralarda gerçek zamanlı video analizi veya otonom dronlar gibi uç yapay zeka uygulamaları için hayati önem taşır.
• Tıbbi Görüntüleme: Tıbbi görüntü analizinde doğruluk son derece önemlidir. NAS, ağları X ışınları veya MRI taramalarındaki ince anormallikleri tespit edecek şekilde özelleştirebilir ve çoğu zaman insan mühendislerin gözden kaçırabileceği yeni özellik çıkarma yolları bulur. Bu da beyin tümörleri veya kırıklar gibi durumları daha yüksek duyarlılıkla belirlemeye yönelik daha güvenilir araçların geliştirilmesini sağlar.

NAS ve İlgili Kavramlar#

NAS'ın kendine özgü rolünü anlamak için onu benzer optimizasyon tekniklerinden ayırmak yararlı olacaktır:

• NAS ve Hiperparametre Ayarlama: Her ikisi de optimizasyon içerse de hiperparametre ayarlama, sabit bir mimarinin yapılandırma ayarlarını (öğrenme oranı veya yığın boyutu gibi) değiştirmeye odaklanır. Buna karşılık NAS, katman sayısı veya nöronların birbirine bağlanma şekli gibi modelin temel yapısını değiştirir.
• NAS ve Aktarım Öğrenimi: Aktarım öğrenimi, mevcut ve önceden eğitilmiş bir modelin ağırlıklarını alarak bunları yeni bir göreve uyarlar. NAS, eğitim başlamadan önce model mimarisini sıfırdan oluşturur (veya daha iyi bir omurga arar).

NAS Tabanlı Modellerden Yararlanma#

Tam kapsamlı bir NAS araması yürütmek önemli GPU hesaplama kaynakları gerektirse de geliştiriciler NAS aracılığıyla oluşturulmuş modelleri kolayca kullanabilir. Örneğin YOLO-NAS mimarisi, nesne algılama görevleri için optimizasyon yapmak üzere bu arama ilkeleri kullanılarak keşfedilmiştir.

Aşağıdaki Python örneği, önceden aranmış bir NAS modelinin ultralytics paketi kullanılarak nasıl yükleneceğini ve kullanılacağını gösterir:

from ultralytics import NAS

# Load a pre-trained YOLO-NAS model (architecture found via NAS)
# 'yolo_nas_s.pt' refers to the small version of the model
model = NAS("yolo_nas_s.pt")

# Run inference on an image to detect objects
# This utilizes the optimized architecture for fast detection
results = model("https://ultralytics.com/images/bus.jpg")

# Print the top detected class
print(f"Detected: {results[0].names[int(results[0].boxes.cls[0])]}")

NAS'ın karmaşıklığıyla uğraşmadan son teknoloji modelleri eğitmek isteyenler için Ultralytics YOLO26, en yeni araştırma gelişmelerini bünyesinde barındıran, kullanıma hazır, yüksek düzeyde optimize edilmiş bir mimari sunar. Bu modeller için veri kümelerini, eğitimi ve dağıtımı Ultralytics Platformu ile kolayca yönetebilir; platform tüm MLOps yaşam döngüsünü basitleştirir.