Bilgisayarlı görüde budama ve niceleme: Hızlı rehber

Teknolojinin ilerlemesiyle uç cihazlar giderek yaygınlaşıyor. Kalp atış hızını takip eden akıllı saatlerden sokakları izleyen hava dronlarına kadar uç sistemler, verileri cihazın kendi içinde yerel olarak gerçek zamanlı işleyebilir.

Bu yöntem, özellikle plaka tespiti veya hareket takibi gibi kişisel veri içeren uygulamalarda, verileri buluta göndermekten genellikle daha hızlı ve güvenlidir. Bunlar, makinelerin görsel bilgileri yorumlayıp anlamasını sağlayan bir yapay zekâ (AI) dalı olan bilgisayarlı görü örnekleridir.

Şekil 1. Plaka tespitine bir örnek. (Kaynak)

Ancak önemli bir nokta, bu tür uygulamaların yoğun hesaplamaları gerçekleştirebilen, minimum kaynak kullanan ve bağımsız çalışabilen görü yapay zekâ modelleri gerektirmesidir. Çoğu bilgisayarlı görü modeli, yüksek performanslı sistemler için geliştirildiğinden uç cihazlara doğrudan dağıtım için daha az uygundur.

Bu açığı kapatmak için geliştiriciler, modeli daha küçük donanımlarda verimli şekilde çalışacak biçimde uyarlayan hedefli optimizasyonlar uygular. Bellek ve işlem gücünün sınırlı olduğu gerçek dünya uç dağıtımlarında bu düzenlemeler kritik öneme sahiptir.

İlginç bir şekilde, Ultralytics YOLO11 gibi bilgisayarlı görü modelleri, uç cihazlarda verimlilik göz önünde bulundurularak zaten tasarlanmıştır ve bu da onları gerçek zamanlı görevler için ideal kılar. Ancak budama ve niceleme gibi model optimizasyon teknikleriyle performansları daha da artırılabilir; böylece kısıtlı cihazlarda daha hızlı çıkarım ve daha düşük kaynak kullanımı sağlanır.

Bu makalede budama ve nicelemenin ne olduğuna, nasıl çalıştıklarına ve YOLO modellerinin gerçek dünya uç dağıtımlarında daha iyi performans göstermesine nasıl yardımcı olabileceklerine daha yakından bakacağız. Hadi başlayalım!

Budama ve niceleme: Model optimizasyonunda temel teknikler#

Görü yapay zekâ modellerini uç cihazlara dağıtıma hazırlarken temel hedeflerden biri, performanstan ödün vermeden modeli hafif ve güvenilir hâle getirmektir. Bu genellikle modelin boyutunu ve hesaplama gereksinimlerini azaltarak sınırlı belleğe, güce veya işlem kapasitesine sahip donanımlarda verimli çalışmasını sağlamayı içerir. Bunu yapmanın iki yaygın yolu budama ve nicelemedir.

Budama, sinir ağlarını daha küçük ve verimli hâle getirmeye yardımcı olan bir yapay zekâ model optimizasyonu tekniğidir. Çoğu durumda, belirli bağlantılar veya düğümler gibi bir modelin bazı bölümleri nihai tahminlerine fazla katkıda bulunmaz. Budama, bu daha az önemli bölümleri belirleyip kaldırarak modelin boyutunu küçültür ve performansını hızlandırır.

Öte yandan niceleme, bir modelin kullandığı sayıların kesinliğini azaltan bir optimizasyon tekniğidir. Model, yüksek kesinlikli 32 bit kayan noktalı sayılara dayanmak yerine 8 bit tamsayılar gibi daha küçük ve verimli biçimlere geçer. Bu değişiklik bellek kullanımını azaltır ve modelin tahmin yaptığı süreç olan çıkarımı hızlandırır.

Şekil 2. Budama ve nicelemeye bakış. (Kaynak)

Budama ve niceleme nasıl çalışır?#

Artık budama ve nicelemenin ne olduğunu daha iyi anladığımıza göre, ikisinin de nasıl çalıştığına bakalım.

Budama, duyarlılık analizi olarak bilinen bir süreç kullanılarak gerçekleştirilir. Belirli ağırlıklar, nöronlar veya kanallar gibi sinir ağı modellerinin hangi bölümlerinin nihai çıktı tahminine en az katkıda bulunduğunu belirler. Bu bölümler, doğruluk üzerinde minimum etkiyle kaldırılabilir. Budamadan sonra model, performansını ince ayarlamak için genellikle yeniden eğitilir. Boyutu ve doğruluğu arasında doğru dengeyi bulmak için bu döngü tekrarlanabilir.

Buna karşılık model niceleme, modelin verileri nasıl işlediğine odaklanır. Modelin işlemesi gereken değer aralığını öğrenmek için örnek veriler üzerinde çalıştırıldığı kalibrasyonla başlar. Bu değerler daha sonra 32 bit kayan noktadan 8 bit tamsayılar gibi daha düşük kesinlikli biçimlere dönüştürülür.

Şekil 3. Niceleme model boyutunu ve karmaşıklığını azaltmaya yardımcı olur. (Kaynak)

Gerçek dünya yapay zekâ projelerinde budama ve nicelemeyi kullanmayı kolaylaştıran çeşitli araçlar mevcuttur. PyTorch ve TensorFlow gibi çoğu yapay zekâ çerçevesi, bu optimizasyon teknikleri için yerleşik destek sunarak geliştiricilerin bunları doğrudan model dağıtım sürecine entegre etmesine olanak tanır.

Bir model optimize edildiğinde ONNX Runtime gibi araçlar, modelin sunucular, masaüstü bilgisayarlar ve uç cihazlar gibi çeşitli donanım platformlarında verimli şekilde çalıştırılmasına yardımcı olabilir. Ayrıca Ultralytics, YOLO modellerinin nicelemeye uygun biçimlerde dışa aktarılmasını sağlayan entegrasyonlar sunarak model boyutunu küçültmeyi ve performansı artırmayı kolaylaştırır.

Ultralytics YOLO model optimizasyonuna genel bakış#

YOLO11 gibi Ultralytics YOLO modelleri, hızlı ve tek aşamalı nesne tespitiyle geniş çapta tanınır ve bu da onları gerçek zamanlı görü yapay zekâ görevleri için ideal kılar. Uç dağıtım için yeterince hafif ve verimli olacak şekilde zaten tasarlanmışlardır. Ancak görsel özellikleri işlemekten sorumlu, konvolüsyonel katmanlar olarak adlandırılan katmanlar, çıkarım sırasında hâlâ önemli miktarda hesaplama gücü gerektirebilir.

Şunu merak edebilirsin: Ultralytics YOLO11 uç cihazlarda kullanılmak üzere zaten optimize edilmişse neden daha fazla optimizasyona ihtiyaç duyar? Kısaca, tüm uç cihazlar aynı değildir. Bazıları standart bir LED ampulden daha az güç tüketen küçük gömülü işlemciler gibi son derece sınırlı donanımlarda çalışır.

Bu durumlarda Ultralytics YOLO11 gibi sadeleştirilmiş bir modelin bile sorunsuz ve güvenilir performansı garanti etmek için ek optimizasyona ihtiyacı vardır. Budama ve niceleme gibi teknikler, doğruluğu önemli ölçüde etkilemeden modelin boyutunu küçültmeye ve çıkarımı hızlandırmaya yardımcı olur; bu da onları bu tür kısıtlı ortamlar için ideal kılar.

Bu optimizasyon tekniklerinin uygulanmasını kolaylaştırmak için Ultralytics, YOLO modellerini ONNX, TensorRT, OpenVINO, CoreML ve PaddlePaddle gibi birden çok biçime aktarmak üzere kullanılabilecek çeşitli entegrasyonları destekler. Her biçim, belirli donanım türleri ve dağıtım ortamlarıyla iyi çalışacak şekilde tasarlanmıştır.

Örneğin ONNX, çok çeşitli araç ve platformlarla uyumluluğu nedeniyle niceleme iş akışlarında sıklıkla kullanılır. Öte yandan TensorRT, NVIDIA cihazları için büyük ölçüde optimize edilmiştir ve INT8 kullanarak düşük kesinlikli çıkarımı destekler; bu da onu uç GPU'larda yüksek hızlı dağıtım için ideal kılar.

Ultralytics YOLO model optimizasyonunun etkili kullanım alanları#

Bilgisayarlı görü çeşitli gerçek dünya uygulamalarına yayılmaya devam ederken optimize edilmiş YOLO modelleri, nesne tespiti, örnek bölütleme ve nesne takibi gibi görevlerin daha küçük ve hızlı donanımlarda çalıştırılmasını mümkün kılar. Şimdi budama ve nicelemenin bu bilgisayarlı görü görevlerini daha verimli ve uygulanabilir hâle getirdiği birkaç kullanım alanını ele alalım.

Ultralytics YOLO11 ile desteklenen akıllı gözetim#

Birçok endüstriyel alanın yanı sıra kamuya açık alanlar da güvenliği sağlamak için gerçek zamanlı izlemeye ihtiyaç duyar. Toplu taşıma istasyonları, üretim tesisleri ve büyük açık hava tesisleri gibi yerlerde insanları veya araçları hızlı ve doğru şekilde tespit edebilen görü yapay zekâ sistemleri gerekir. Bu konumlar genellikle sınırlı bağlantı ve donanım kısıtlarıyla çalıştığından büyük modellerin dağıtılması zorlaşır.

Bu gibi durumlarda Ultralytics YOLO11 gibi optimize edilmiş bir görü yapay zekâ modeli harika bir çözümdür. Kompakt boyutu ve hızlı performansı, onu gömülü kameralar veya akıllı sensörler gibi düşük güçlü uç cihazlarda çalıştırmak için ideal kılar. Bu modeller görsel verileri doğrudan cihaz üzerinde işleyebilir; sürekli bulut erişimine ihtiyaç duymadan güvenlik ihlallerini, yetkisiz erişimi veya anormal etkinlikleri gerçek zamanlı olarak tespit etmeyi sağlar.

Şekil 4. Ultralytics YOLO11, metro istasyonları gibi halka açık yerleri izlemek için kullanılabilir.

Ultralytics YOLO11 ile inşaat sahalarında güvenliği artırma#

İnşaat sahaları, ağır makineler, hareket hâlindeki çalışanlar ve sürekli faaliyetlerle dolu, hızlı tempolu ve öngörülemeyen ortamlardır. Değişen programlar, ekipman hareketleri veya hatta ani hava değişiklikleri nedeniyle koşullar hızla değişebilir. Böylesine dinamik bir ortamda çalışan güvenliği sürekli bir zorluk gibi görünebilir.

Gerçek zamanlı izleme kritik bir rol oynar, ancak geleneksel sistemler genellikle sahada pratik olmayabilecek bulut erişimine veya pahalı donanımlara dayanır. Ultralytics YOLO11 gibi modellerin etkili olabileceği yer burasıdır. YOLO11, internet bağlantısına ihtiyaç duymadan doğrudan sahada çalışan küçük ve verimli uç cihazlarda çalışacak şekilde optimize edilebilir.

Örneğin, birkaç dönümlük bir alana yayılan otoyol genişletme projesi gibi büyük bir inşaat sahasını düşün. Böyle bir ortamda her aracı veya ekipmanı manuel olarak takip etmek zor ve zaman alıcı olabilir. Kamera ve optimize edilmiş bir Ultralytics YOLO11 modeli taşıyan bir drone; araçları otomatik olarak tespit edip takip ederek, trafik akışını izleyerek ve yetkisiz erişim veya güvenli olmayan sürüş davranışı gibi güvenlik sorunlarını belirleyerek yardımcı olabilir.

Şekil 5. Bir inşaat sahasından drone görüntülerini analiz etme. (Kaynak)

Bilgisayarlı görüde budama ve nicelemenin artıları ve eksileri#

Budama ve niceleme gibi bilgisayarlı görü modeli optimizasyon yöntemlerinin sunduğu bazı temel avantajlar şunlardır:

• Uygun maliyetli dağıtım: Daha küçük ve verimli modeller, pahalı ve üst düzey donanım ihtiyacını azaltarak yapay zekâyı farklı kullanım alanlarında daha erişilebilir ve ölçeklenebilir hâle getirebilir.
• Daha düşük gecikme: Bu teknikler, model mimarisini basitleştirip hesaplama ek yükünü azaltarak gerçek zamanlı uygulamalarda daha hızlı yanıt sürelerine ulaşmaya yardımcı olabilir.
• Enerji verimliliği: Hesaplama yükünün azaltılması güç tüketimini de düşürür; bu, özellikle pille çalışan veya mobil sistemler için faydalıdır.

Budama ve niceleme birçok avantaj sunsa da modelleri optimize ederken geliştiricilerin göz önünde bulundurması gereken bazı ödünleri de beraberinde getirir. Dikkate alınması gereken bazı sınırlamalar şunlardır:

• Doğruluk ödünleri: Budama çok agresifse veya çok düşük bitli niceleme kullanılıyorsa, mAP gibi metriklerle ölçülen model doğruluğu düşebilir.
• Donanım kısıtları: Tüm cihazlar INT8 gibi düşük kesinlikli biçimleri eşit derecede iyi desteklemez. Bu durum, optimize edilmiş bir modelin nerede ve nasıl dağıtılabileceğini kısıtlayabilir.
• Uygulama karmaşıklığı: İyi sonuçlar elde etmek çoğu zaman dikkatli ve modele özgü ayarlamalar gerektirir. Geliştiricilerin verimliliği artırırken performansı korumak için modeli yeniden eğitmesi ve kapsamlı testler gerçekleştirmesi gerekebilir.

Önemli çıkarımlar#

Budama ve niceleme, YOLO modellerinin uç cihazlarda daha iyi performans göstermesine yardımcı olan kullanışlı tekniklerdir. Doğrulukta fark edilir bir kayıp olmadan modelin boyutunu küçültür, hesaplama gereksinimlerini azaltır ve tahminleri hızlandırırlar.

Bu optimizasyon yöntemleri ayrıca geliştiricilere, modelleri tamamen yeniden oluşturmaya gerek kalmadan farklı donanım türlerine uyarlama esnekliği sağlar. Biraz ayarlama ve testle görü yapay zekâsını gerçek dünya koşullarında uygulamak kolaylaşır.

Büyüyen topluluğumuza katıl! Yapay zekâ hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfet. Bilgisayarlı görü projelerine başlamaya hazır mısın? Lisans seçeneklerimize göz at. Çözüm sayfalarımızı ziyaret ederek tarımda yapay zekâyı ve sağlık hizmetlerinde görü yapay zekâsını keşfet!