Düzenlileştirme

Düzenli hale getirme, aşağıdakilerde çok önemli bir strateji setidir geliştirmek için tasarlanmış makine öğrenimi (ML) modelin yeni, görülmemiş verilere genelleme yeteneği. Öncelikli hedefi aşağıdakileri önlemektir aşırı uyum, bir modelin öğrendiği yaygın bir fenomen gürültü ve spesifik detaylar üzerindeki performansına zarar verecek şekilde eğitim verileri geçerli girdiler. Ek bilgi veya kısıtlamalar getirerek -genellikle ceza terimi şeklinde kayıp fonksiyonu-düzenlememodelin cesaretini kırar aşırı karmaşık hale gelmesini önler. Bu, yüksek kaliteyi koruyan daha sağlam bir sistemle sonuçlanır. hem eğitimde hem de doğrulama verileri.

Yaygın Düzenlileştirme Teknikleri

Düzenli hale getirmeyi uygulamak için, her biri model karmaşıklığının farklı yönlerini hedefleyen birkaç yerleşik yöntem vardır ve eğitim dinamikleri:

• L1 ve L2 Düzenlemesi: Bunlar en geleneksel biçimlerdir. L1 düzenlemesi (Lasso), mutlak değerine eşit bir ceza ekler. katsayıları, bazı ağırlıkları sıfıra çekerek özellik seçimini etkili bir şekilde gerçekleştirebilir. L2 düzenlemesi (Ridge), derin öğrenmede (DL) yaygın olarak kullanılan katsayıların büyüklüğünün karesine eşit bir ceza, daha küçük, daha dağınık katsayıları teşvik eder model ağırlıkları.
• Bırakma Katmanı: Özellikle aşağıdakiler için tasarlanmıştır sinir ağları (NN), rastgele bırakma her eğitim adımı sırasında nöronların bir kısmını devre dışı bırakır. Bu, ağı gereksiz şeyleri öğrenmeye zorlar temsilleri ve belirli nöron yollarına bağımlılığı önler. orijinal okul terki araştırma makalesi.
• Veri Büyütme: Bu teknik, model mimarisini değiştirmek yerine, değiştirilmiş modeller oluşturarak eğitim setini genişletir. Mevcut görüntülerin veya veri noktalarının sürümleri. Döndürme, ölçekleme ve çevirme gibi dönüşümler modele yardımcı olur bu değişikliklere karşı değişmez hale gelir. Keşfedebilirsiniz YOLO veri artırma tekniklerini görmek için bunun pratikte nasıl uygulandığı.
• Erken Durdurma: Bu pratik yaklaşım, eğitim sırasında modelin performansının bir doğrulama kümesi üzerinde izlenmesini içerir. Eğer doğrulama kaybı iyileşmeyi durdurur veya artmaya başlarsa eğitim süreci derhal durdurulur. Bu, aşağıdakileri önler modelin eğitimin ilerleyen aşamalarında gürültüyü öğrenmeye devam etmesini engeller.
• Etiket Düzgünleştirme: Bu teknik, eğitim sırasında hedef etiketleri ayarlar, böylece model %100 tahmin yapmaya zorlanmaz güven (örneğin, 1,0 olasılık). Hedefleri yumuşatarak (örneğin, 0,9'a), etiket yumuşatma ağın çalışmasını engeller gibi görevler için yararlı olan aşırı özgüvenli olmaktan görüntü sınıflandırması.

Python'da Düzenlemenin Uygulanması

Ultralytics gibi modern kütüphaneler, bu teknikleri eğitim argümanları aracılığıyla uygulamayı kolaylaştırır. Bu Aşağıdaki örnekte bir YOLO11 model L2 düzenlemesi ile (tarafından kontrol edilir weight_decay) ve sağlam bir model sağlamak için bırakma.

from ultralytics import YOLO

# Load a pre-trained YOLO11 model
model = YOLO("yolo11n.pt")

# Train the model with specific regularization parameters
# 'weight_decay' applies L2 regularization
# 'dropout' applies a dropout layer with a 10% probability
results = model.train(data="coco8.yaml", epochs=50, weight_decay=0.0005, dropout=0.1)

Gerçek Dünya Uygulamaları

Düzenli hale getirme, çeşitli sektörlerde güvenilir yapay zeka sistemlerinin kullanılmasında vazgeçilmezdir.

1. Otonom Sürüş: İçinde Otomotiv çözümleri için yapay zeka, bilgisayarla görme modeller farklı hava koşullarında yayaları ve trafik işaretlerini detect etmelidir. Düzenli hale getirme olmadan, bir model eğitim setindeki belirli aydınlatma koşullarını ezberleyebilir ve gerçek dünyada başarısız olabilir. Gibi teknikler ağırlık azalması, tespit sisteminin aşağıdaki durumlara iyi genelleme yapmasını sağlar yağmur, sis veya parlama.
2. Tıbbi Görüntüleme: Gerçekleştirirken tıbbi görüntü analizi, veri kümeleri genellikle sınırlı boyuttadır. Aşırı uyum burada önemli bir risktir. Düzenli hale getirme yöntemleri, özellikle veri artırımı ve erken durdurma, yardım X-ışınları veya MRI'lardaki anormallikleri detect etmek için eğitilen modeller, yeni hasta verilerinde doğruluğunu koruyarak daha iyi Teşhis sonuçları.

Düzenlileştirme ve İlgili Kavramlar

Düzenli hale getirmeyi diğer optimizasyon ve ön işleme terimlerinden ayırmak faydalı olacaktır:

• Düzenli hale getirme ve Normalleştirme: Normalleştirme, yakınsamayı hızlandırmak için giriş verilerinin standart bir aralığa ölçeklendirilmesini içerir. gibi teknikler olsa da Toplu Normalleştirme hafif bir Düzenleyici etki, birincil amaçları öğrenme dinamiklerini stabilize etmektir, oysa düzenli hale getirme açıkça karmaşıklığı cezalandırır.
• Düzenlileştirme vs. Hiperparametre Ayarlama: Düzenli hale getirme parametrelerinin (bırakma oranı veya L2 cezası gibi) kendileri hiperparametrelerdir. Hiperparametre ayarlama, genellikle aşağıdaki gibi araçlar kullanılarak bu ayarlar için en uygun değerleri aramaya yönelik daha geniş bir süreçtir Ultralytics Tuner.
• Düzenlileştirme ve Topluluk Öğrenmesi: Ensemble yöntemleri, varyansı azaltmak ve genellemeyi iyileştirmek için birden fazla modelden gelen tahminleri birleştirir. Bir yandan Bu, düzenli hale getirmeye benzer bir hedefe ulaşır, ancak bunu kısıtlamak yerine farklı modelleri bir araya getirerek yapar tek bir modelin öğrenilmesi.