Model optimizasyonu nedir? Hızlı bir kılavuz

Model optimizasyonu, makine öğrenimi modellerinin verimliliğini ve performansını iyileştirmeyi amaçlayan bir süreçtir. Bir modelin yapısını ve işlevini geliştirerek optimizasyon, modellerin daha az hesaplama kaynağı ile daha iyi sonuçlar sunmasını ve eğitim ile değerlendirme sürelerini azaltmasını sağlar.

Bu süreç, [modellerin](https://ultralytics-translation-1.invalid karmaşık görüntüleri analiz etmek için genellikle önemli kaynaklara ihtiyaç duyduğu bilgisayarlı görü gibi alanlarda özellikle önemlidir. Mobil cihazlar veya uç sistemler gibi kaynakları sınırlı ortamlarda optimize edilmiş modeller, doğruluğunu korurken sınırlı kaynaklarla iyi çalışabilir.

Model optimizasyonu için yaygın olarak kullanılan çeşitli teknikler arasında hiperparametre ayarlama, model budama, model niceleme ve karma hassasiyet bulunur. Bu makalede bu teknikleri ve bilgisayarlı görü uygulamalarına sağladıkları faydaları inceleyeceğiz. Hadi başlayalım!

Model optimizasyonunu anlama#

Bilgisayarlı görü modelleri genellikle görüntülerdeki karmaşık örüntüleri tanımak için harika olan derin katmanlara ve karmaşık yapılara sahiptir, ancak işlem gücü açısından oldukça talepkâr olabilirler. Bu modeller cep telefonları veya uç cihazlar gibi donanımı sınırlı cihazlara dağıtıldığında belirli zorluklarla veya sınırlamalarla karşılaşabilir.

Bu cihazlardaki sınırlı işlem gücü, bellek ve enerji, modellerin gereken hıza yetişmekte zorlanması nedeniyle performansta fark edilir düşüşlere yol açabilir. Model optimizasyonu teknikleri, bu sorunların üstesinden gelmede kritik bir rol oynar. Modeli yalınlaştırmaya, hesaplama gereksinimlerini azaltmaya ve sınırlı kaynaklarla bile etkili şekilde çalışmaya devam etmesini sağlamaya yardımcı olurlar. Model optimizasyonu, model mimarisini basitleştirerek, hesaplamaların hassasiyetini azaltarak veya modeli daha hafif ve hızlı hâle getirmek için gereksiz bileşenleri kaldırarak gerçekleştirilebilir.

Şekil 1. Modellerini optimize etme nedenleri. Görsel, makalenin yazarı tarafından hazırlanmıştır.

Aşağıda, sonraki bölümlerde daha ayrıntılı olarak inceleyeceğimiz en yaygın model optimizasyonu tekniklerinden bazıları yer alıyor:

• Hiperparametre ayarlama: Model performansını iyileştirmek için öğrenme oranı ve toplu iş boyutu gibi hiperparametrelerin sistematik olarak ayarlanmasını içerir.
• Model budama: Bu teknik, sinir ağındaki gereksiz ağırlıkları ve bağlantıları kaldırarak karmaşıklığını ve hesaplama maliyetini azaltır.
• Model niceleme: Niceleme, modelin ağırlıklarının ve aktivasyonlarının hassasiyetini, genellikle 32 bitten 16 bite veya 8 bite düşürmeyi içerir; böylece bellek kullanımı ve hesaplama gereksinimleri önemli ölçüde azalır.
• Hassasiyet ayarlamaları: Karma hassasiyetli eğitim olarak da bilinir; modelin farklı bölümleri için farklı hassasiyet biçimlerinin kullanılmasını ve doğruluktan ödün vermeden kaynak kullanımının optimize edilmesini içerir.

Makine öğrenimi modellerinde hiperparametreler açıklanıyor#

Modelin verilerden nasıl öğrendiğini şekillendiren ayarlar olan hiperparametrelerini ayarlayarak modelin daha iyi öğrenmesine ve performans göstermesine yardımcı olabilirsin. Hiperparametre ayarlama, bu ayarları optimize ederek modelin verimliliğini ve doğruluğunu iyileştiren bir tekniktir. Modelin eğitim sırasında öğrendiği parametrelerin aksine hiperparametreler, eğitim sürecini yönlendiren önceden belirlenmiş değerlerdir.

Ayarlanabilecek bazı hiperparametre örneklerine göz atalım:

• Öğrenme oranı: Bu parametre, modelin dahili ağırlıklarını ayarlarken attığı adımın boyutunu kontrol eder. Daha yüksek bir öğrenme oranı öğrenmeyi hızlandırabilir, ancak en uygun çözümü kaçırma riski taşır; daha düşük bir oran ise daha doğru olabilir, ancak daha yavaştır.
• Toplu iş boyutu: Her eğitim adımında kaç veri örneğinin işleneceğini belirler. Daha büyük toplu iş boyutları daha istikrarlı öğrenme sağlar, ancak daha fazla bellek gerektirir. Daha küçük toplu işler daha hızlı eğitilir, ancak daha az istikrarlı olabilir.
• Epoch sayısı: Bu parametreyi kullanarak modelin veri kümesinin tamamını kaç kez göreceğini belirleyebilirsin. Daha fazla epoch doğruluğu artırabilir, ancak aşırı öğrenme riski taşır.
• Çekirdek boyutu: Evrişimli Sinir Ağlarında (CNN'ler) filtrenin boyutunu tanımlar. Daha büyük çekirdekler daha geniş örüntüleri yakalar, ancak daha fazla işlem gerektirir; daha küçük çekirdekler ise daha ince ayrıntılara odaklanır.

Hiperparametre ayarlama nasıl çalışır?#

Hiperparametre ayarlama genellikle her hiperparametre için olası değer aralığının tanımlanmasıyla başlar. Ardından bir arama algoritması, en iyi performansı sağlayan ayarları belirlemek için bu aralıklar içindeki farklı kombinasyonları inceler.

Yaygın ayarlama yöntemleri arasında ızgara araması, rastgele arama ve Bayesçi optimizasyon bulunur. Izgara araması, belirtilen aralıklardaki tüm olası değer kombinasyonlarını test eder. Rastgele arama kombinasyonları rastgele seçer ve çoğu zaman etkili ayarları daha hızlı bulur. Bayesçi optimizasyon, önceki sonuçlara dayanarak umut vadeden hiperparametre değerlerini tahmin etmek için olasılıksal bir model kullanır. Bu yaklaşım genellikle gereken deneme sayısını azaltır.

Sonuç olarak modelin performansı, her hiperparametre kombinasyonu için değerlendirilir. İstenen sonuçlara ulaşılana kadar süreç tekrarlanır.

Hiperparametreler ve model parametreleri karşılaştırması#

Hiperparametre ayarlama üzerinde çalışırken hiperparametreler ile model parametreleri arasındaki farkın ne olduğunu merak edebilirsin.

Hiperparametreler, eğitimden önce belirlenen ve modelin nasıl öğreneceğini kontrol eden öğrenme oranı veya toplu iş boyutu gibi değerlerdir. Bu ayarlar eğitim sırasında sabittir ve öğrenme sürecini doğrudan etkiler. Öte yandan model parametreleri, eğitim sırasında modelin kendisi tarafından öğrenilir. Bunlar, model eğitilirken ayarlanan ve nihayetinde tahminlerini yönlendiren ağırlıkları ve bias'ları içerir. Özetle hiperparametreler öğrenme sürecini şekillendirirken model parametreleri bu öğrenme sürecinin sonuçlarıdır.

Şekil 2. Parametreler ve hiperparametrelerin karşılaştırılması.

Derin öğrenmede model budama neden önemlidir?#

Model budama, bir modeldeki gereksiz ağırlıkları ve parametreleri kaldırarak modeli daha verimli hâle getiren bir boyut küçültme tekniğidir. Bilgisayarlı görüde, özellikle derin sinir ağlarında, ağırlıklar ve aktivasyonlar (son çıktının hesaplanmasına yardımcı olan ara çıktılar) gibi çok sayıda parametre, hem karmaşıklığı hem de hesaplama gereksinimlerini artırabilir. Budama, performansa minimum katkı sağlayan parametreleri belirleyip kaldırarak modeli yalınlaştırır ve daha hafif, verimli bir model ortaya çıkarır.

Şekil 3. Model budama öncesi ve sonrası.

Model eğitildikten sonra büyüklük tabanlı budama veya duyarlılık analizi gibi tekniklerle her parametrenin önemi değerlendirilebilir. Önemi düşük parametreler, üç ana teknikten biri kullanılarak budanır: ağırlık budama, nöron budama veya yapısal budama.

Ağırlık budama, çıktı üzerinde minimum etkiye sahip tek tek bağlantıları kaldırır. Nöron budama, çıktıları modelin işlevine çok az katkıda bulunan nöronların tamamını kaldırır. Yapısal budama, evrişim filtreleri veya tam bağlı katmanlardaki nöronlar gibi daha büyük bölümleri ortadan kaldırarak modelin verimliliğini optimize eder. Budama tamamlandıktan sonra model, kalan parametreleri ince ayarlamak için yeniden eğitilir ve küçültülmüş biçiminde yüksek doğruluğu koruması sağlanır.

Niceleme ile AI modellerinde gecikmeyi azaltma#

Model niceleme, modelin ağırlıklarını ve aktivasyonlarını temsil etmek için kullanılan bit sayısını azaltır. Genellikle yüksek hassasiyetli 32 bit kayan nokta değerlerini 16 bit veya 8 bit tam sayılar gibi daha düşük hassasiyetli değerlere dönüştürür. Niceleme, bit hassasiyetini azaltarak modelin boyutunu, bellek kullanımını ve hesaplama maliyetini önemli ölçüde düşürür.

Bilgisayarlı görüde 32 bit kayan nokta değerleri standarttır, ancak 16 bite veya 8 bite dönüştürmek verimliliği artırabilir. İki temel niceleme türü vardır: ağırlık niceleme ve aktivasyon niceleme. Ağırlık niceleme, modelin ağırlıklarının hassasiyetini düşürerek boyut küçültme ile doğruluk arasında denge kurar. Aktivasyon niceleme, aktivasyonların hassasiyetini azaltarak bellek ve hesaplama gereksinimlerini daha da düşürür.

Şekil 4. 32 bit kayan noktadan 8 bit tam sayıya niceleme örneği.

Karma hassasiyet AI çıkarımlarını nasıl hızlandırır?#

Karma hassasiyet, bir sinir ağının farklı bölümleri için farklı sayısal hassasiyetler kullanan bir tekniktir. Karma hassasiyet, 32 bit kayan nokta değerleri gibi daha yüksek hassasiyetli değerleri 16 bit veya 8 bit kayan nokta değerleri gibi daha düşük hassasiyetli değerlerle birleştirerek bilgisayarlı görü modellerinin doğruluktan ödün vermeden eğitimi hızlandırmasını ve bellek kullanımını azaltmasını sağlar.

Eğitim sırasında karma hassasiyet, ağ genelinde gerektiğinde daha yüksek hassasiyet korunurken belirli katmanlarda daha düşük hassasiyet kullanılarak elde edilir. Bu işlem dönüştürme ve kayıp ölçekleme yoluyla gerçekleştirilir. Dönüştürme, modelin gereksinimlerine göre veri türlerini farklı hassasiyetler arasında değiştirir. Kayıp ölçekleme, sayısal alt taşmayı önlemek için azaltılmış hassasiyeti ayarlayarak kararlı eğitim sağlar. Karma hassasiyet, özellikle büyük modeller ve büyük toplu iş boyutları için kullanışlıdır.

Şekil 5. Karma hassasiyetli eğitim, hem 16 bit (FP16) hem de 32 bit (FP32) kayan nokta türlerini kullanır.

Model doğruluğu ile verimliliğini dengeleme#

Artık çeşitli model optimizasyonu tekniklerini ele aldığımıza göre, özel ihtiyaçlarına göre hangisini kullanacağına nasıl karar vereceğini tartışalım. Seçim; mevcut donanım, dağıtım ortamının hesaplama ve bellek kısıtlamaları ve gereken doğruluk düzeyi gibi etkenlere bağlıdır.

Örneğin daha küçük ve hızlı modeller, kaynakları sınırlı mobil cihazlar için daha uygundur; daha büyük ve doğru modeller ise yüksek performanslı sistemlerde kullanılabilir. Her tekniğin farklı hedeflerle nasıl örtüştüğü aşağıda açıklanmıştır:

• Budama: Doğruluğu önemli ölçüde etkilemeden model boyutunu azaltmak için idealdir; bu da onu cep telefonları veya Nesnelerin İnterneti (IoT) cihazları gibi kaynakları sınırlı cihazlar için mükemmel hâle getirir.
• Niceleme: Özellikle sınırlı belleğe ve işlem gücüne sahip mobil cihazlarda ve gömülü sistemlerde model boyutunu küçültmek ve çıkarımı hızlandırmak için harika bir seçenektir. Küçük doğruluk kayıplarının kabul edilebilir olduğu uygulamalarda iyi çalışır.
• Karma hassasiyet: Büyük ölçekli modeller için tasarlanan bu teknik, karma hassasiyetli işlemleri destekleyen GPU'lar ve TPU'lar gibi donanımlarda bellek kullanımını azaltır ve eğitimi hızlandırır. Genellikle verimliliğin önemli olduğu yüksek performanslı görevlerde kullanılır.
• Hiperparametre ayarlama: Hesaplama açısından yoğun olsa da tıbbi görüntüleme veya otonom sürüş gibi yüksek doğruluk gerektiren uygulamalar için hayati önem taşır.

Önemli çıkarımlar#

Model optimizasyonu, özellikle gerçek dünyadaki uygulamalarda AI dağıtımı için makine öğreniminin hayati bir parçasıdır. Hiperparametre ayarlama, model budama, niceleme ve karma hassasiyet gibi teknikler, bilgisayarlı görü modellerinin performansını, verimliliğini ve kaynak kullanımını iyileştirmeye yardımcı olur. Bu optimizasyonlar modelleri daha hızlı ve daha az kaynak gerektiren hâle getirir; bu da onları belleği ve işlem gücü sınırlı cihazlar için ideal kılar. Optimize edilmiş modellerin farklı platformlarda ölçeklendirilmesi ve dağıtılması da daha kolaydır; böylece çok çeşitli kullanımlara etkili ve uyarlanabilir AI çözümleri sunulur.

AI uygulamaları hakkında daha fazla bilgi edinmek için Ultralytics GitHub deposunu ziyaret et ve topluluğumuza katılarak üretim ve tarım alanlarını keşfet.