Bilgisayarlı görüde budama ve kuantizasyon: Kısa bir kılavuz

Teknoloji geliştikçe uç cihazlar giderek yaygınlaşıyor. Kalp atış hızını izleyen akıllı saatlerden sokakları gözetleyen hava dronlarına kadar uç sistemler, verileri cihazın içinde yerel olarak gerçek zamanlı işleyebilir.

Bu yöntem, özellikle plaka tespiti veya hareket takibi gibi kişisel verileri içeren uygulamalarda, verileri buluta göndermekten genellikle daha hızlı ve güvenlidir. Bunlar, makinelerin görsel bilgileri yorumlayıp anlamasını sağlayan bir yapay zekâ (AI) dalı olan bilgisayarlı görü örnekleridir.

Şekil 1. Plaka tespitine bir örnek. (Kaynak)

Ancak önemli bir nokta, bu tür uygulamaların yoğun hesaplama gereksinimlerini karşılayabilen, kaynakları verimli kullanan ve bağımsız çalışabilen Vision AI modelleri gerektirmesidir. Çoğu bilgisayarlı görü modeli yüksek performanslı sistemler için geliştirildiğinden uç cihazlara doğrudan dağıtım için daha az uygundur.

Bu açığı kapatmak için geliştiriciler, modeli daha küçük donanımlarda verimli çalışacak şekilde uyarlayan hedefli optimizasyonlar uygular. Bellek ve işlem gücünün sınırlı olduğu gerçek dünya uç dağıtımlarında bu ayarlamalar kritik önem taşır.

İlginç bir şekilde, Ultralytics YOLO11 gibi bilgisayarlı görü modelleri uç cihazlarda verimli çalışacak şekilde tasarlanmıştır; bu da onları gerçek zamanlı görevler için ideal kılar. Ancak budama ve niceleme gibi model optimizasyon teknikleriyle performansları daha da artırılabilir; böylece kısıtlı cihazlarda çıkarım daha da hızlanır ve kaynak kullanımı azalır.

Bu makalede budama ve nicelemenin ne olduğunu, nasıl çalıştığını ve YOLO modellerinin gerçek dünya uç dağıtımlarındaki performansına nasıl katkıda bulunabileceğini daha yakından inceleyeceğiz. Hadi başlayalım!

Budama ve niceleme: Model optimizasyonunun temel teknikleri#

Vision AI modellerini uç cihazlara dağıtıma hazırlarken temel hedeflerden biri, performanstan ödün vermeden modeli hafif ve güvenilir hâle getirmektir. Bu genellikle modelin boyutunu ve hesaplama gereksinimlerini azaltarak belleği, gücü veya işlem kapasitesi sınırlı donanımlarda verimli çalışmasını sağlamayı içerir. Bunu yapmanın yaygın iki yolu budama ve nicelemedir.

Budama, sinir ağlarını küçültmeye ve daha verimli hâle getirmeye yardımcı olan bir yapay zekâ model optimizasyonu tekniğidir. Çoğu durumda, belirli bağlantılar veya düğümler gibi modelin bazı parçaları nihai tahminlerine fazla katkıda bulunmaz. Budama, bu daha az önemli parçaları belirleyip kaldırarak modelin boyutunu küçültür ve performansını hızlandırır.

Niceleme ise modelin kullandığı sayıların hassasiyetini azaltan bir optimizasyon tekniğidir. Model, yüksek hassasiyetli 32 bit kayan noktalı sayılar yerine 8 bit tam sayılar gibi daha küçük ve verimli biçimlere geçer. Bu değişiklik bellek kullanımını azaltmaya ve modelin tahmin ürettiği süreç olan çıkarımı hızlandırmaya yardımcı olur.

Şekil 2. Budama ve nicelemeye bakış. (Kaynak)

Budama ve niceleme nasıl çalışır?#

Artık budamanın ve nicelemenin ne olduğunu daha iyi anladığımıza göre, ikisinin de nasıl çalıştığını adım adım inceleyelim.

Budama, duyarlılık analizi olarak bilinen bir süreçle gerçekleştirilir. Bu süreç; belirli ağırlıklar, nöronlar veya kanallar gibi sinir ağı modelinin hangi parçalarının nihai tahmin çıktısına en az katkıda bulunduğunu belirler. Bu parçalar doğruluğu çok az etkileyerek kaldırılabilir. Budamadan sonra model, performansını ince ayarlamak için genellikle yeniden eğitilir. Boyut ve doğruluk arasında doğru dengeyi bulmak için bu döngü tekrarlanabilir.

Bu sırada model niceleme, modelin verileri nasıl işlediğine odaklanır. Süreç, modelin işlemesi gereken değer aralığını öğrenmek için örnek veriler üzerinde çalıştırıldığı kalibrasyonla başlar. Ardından bu değerler 32 bit kayan noktadan 8 bit tam sayılar gibi daha düşük hassasiyetli biçimlere dönüştürülür.

Şekil 3. Niceleme, model boyutunu ve karmaşıklığını azaltmaya yardımcı olur. (Kaynak)

Gerçek dünya yapay zekâ projelerinde budama ve niceleme kullanımını kolaylaştıran çeşitli araçlar mevcuttur. PyTorch ve TensorFlow gibi çoğu yapay zekâ çatısı bu optimizasyon teknikleri için yerleşik destek içerir; böylece geliştiriciler bunları doğrudan model dağıtım sürecine entegre edebilir.

Bir model optimize edildikten sonra ONNX Runtime gibi araçlar, modelin sunucular, masaüstü bilgisayarlar ve uç cihazlar gibi çeşitli donanım platformlarında verimli biçimde çalıştırılmasına yardımcı olabilir. Ayrıca Ultralytics, YOLO modellerinin niceleme için uygun biçimlerde dışa aktarılmasını sağlayan entegrasyonlar sunar (örneğin, biçimin desteklediği durumlarda INT8 için quantize=8); böylece model boyutunu küçültmek ve performansı artırmak kolaylaşır.

Ultralytics YOLO model optimizasyonuna genel bakış#

YOLO11 gibi Ultralytics YOLO modelleri, tek aşamalı ve hızlı nesne tespitiyle geniş çapta tanınır; bu özellikleri onları gerçek zamanlı Vision AI görevleri için ideal kılar. Bu modeller uç dağıtım için yeterince hafif ve verimli olacak şekilde tasarlanmıştır. Ancak görsel özellikleri işlemekten sorumlu evrişim katmanları, çıkarım sırasında yine de önemli miktarda hesaplama gücü gerektirebilir.

Şunu merak edebilirsin: Ultralytics YOLO11 uç cihazlarda kullanıma zaten optimize edilmişse neden daha fazla optimizasyona ihtiyaç duyuyor? Kısacası, uç cihazların hepsi aynı değildir. Bazıları, standart bir LED ampulden daha az güç tüketen küçük gömülü işlemciler gibi son derece sınırlı donanımlarda çalışır.

Bu durumlarda Ultralytics YOLO11 gibi sadeleştirilmiş bir modelin bile sorunsuz ve güvenilir performans göstermesi için ek optimizasyon gerekir. Budama ve niceleme gibi teknikler, doğruluğu önemli ölçüde etkilemeden model boyutunu küçültmeye ve çıkarımı hızlandırmaya yardımcı olur; bu nedenle kısıtlı kaynaklara sahip ortamlar için idealdir.

Bu optimizasyon tekniklerini uygulamayı kolaylaştırmak için Ultralytics, YOLO modellerini ONNX, TensorRT, OpenVINO, CoreML ve PaddlePaddle gibi çeşitli biçimlere aktarmak için kullanılabilen farklı entegrasyonları destekler. Her biçim, belirli donanım türleri ve dağıtım ortamlarıyla uyumlu çalışacak şekilde tasarlanmıştır.

Örneğin ONNX, çok çeşitli araç ve platformlarla uyumluluğu nedeniyle niceleme iş akışlarında sıkça kullanılır. Öte yandan TensorRT, NVIDIA cihazları için son derece optimize edilmiştir ve INT8 kullanarak düşük duyarlıklı çıkarımı destekler; bu da onu uç GPU'larda yüksek hızlı dağıtım için ideal kılar.

Ultralytics YOLO model optimizasyonunun etkili kullanım alanları#

Bilgisayarlı görü gerçek dünyadaki çeşitli uygulamalara yayıldıkça optimize edilmiş YOLO modelleri, nesne tespiti, örnek segmentasyonu ve nesne takibi gibi görevleri daha küçük ve hızlı donanımlarda çalıştırmayı mümkün kılıyor. Şimdi budama ve nicelemenin bilgisayarlı görü görevlerini daha verimli ve uygulanabilir hâle getirdiği birkaç kullanım alanını ele alalım.

Ultralytics YOLO11 ile desteklenen akıllı gözetim#

Birçok endüstriyel alan ve kamusal alan, güvenliği sağlamak için gerçek zamanlı izlemeye dayanır. Toplu taşıma istasyonları, üretim tesisleri ve geniş açık alanlar gibi yerlerde insanları veya araçları hızlı ve doğru biçimde tespit edebilen Vision AI sistemlerine ihtiyaç duyulur. Bu konumlarda bağlantı çoğu zaman sınırlıdır ve donanım kısıtları büyük modellerin dağıtımını zorlaştırır.

Bu gibi durumlarda Ultralytics YOLO11 gibi optimize edilmiş bir Vision AI modeli harika bir çözümdür. Kompakt boyutu ve yüksek hızı, modeli gömülü kameralar veya akıllı sensörler gibi düşük güç tüketimli uç cihazlarda çalıştırmak için ideal kılar. Bu modeller görsel verileri doğrudan cihazda işleyerek güvenlik ihlallerini, yetkisiz erişimi veya olağandışı etkinlikleri gerçek zamanlı tespit edebilir ve sürekli bulut erişimine ihtiyaç duymaz.

Şekil 4. Ultralytics YOLO11, metro istasyonları gibi kamusal alanları izlemek için kullanılabilir.

Ultralytics YOLO11 ile şantiyelerde güvenliği artırma#

Şantiyeler, ağır makinelerin, hareket hâlindeki çalışanların ve sürekli faaliyetin bulunduğu hızlı tempolu ve öngörülmesi zor ortamlardır. Değişen programlar, ekipman hareketleri, hatta ani hava değişiklikleri nedeniyle koşullar hızla değişebilir. Böylesine dinamik bir ortamda çalışan güvenliğini sağlamak sürekli bir zorluk gibi görünebilir.

Gerçek zamanlı izleme kritik bir rol oynar, ancak geleneksel sistemler çoğunlukla bulut erişimine veya sahada kullanılması pratik olmayabilecek pahalı donanımlara dayanır. Ultralytics YOLO11 gibi modeller bu noktada önemli katkı sağlayabilir. YOLO11, internet bağlantısına ihtiyaç duymadan doğrudan sahada çalışan küçük ve verimli uç cihazlarda çalışacak şekilde optimize edilebilir.

Örneğin, birkaç dönümlük alana yayılan bir otoyol genişletme çalışması gibi büyük bir şantiyeyi düşün. Böyle bir ortamda her aracı veya ekipmanı elle takip etmek zor ve zaman alıcı olabilir. Kamera ve optimize edilmiş bir Ultralytics YOLO11 modeliyle donatılmış bir drone; araçları otomatik olarak tespit edip takip ederek, trafik akışını izleyerek ve yetkisiz erişim veya tehlikeli sürüş davranışları gibi güvenlik sorunlarını belirleyerek yardımcı olabilir.

Şekil 5. Bir şantiyeden alınan drone görüntülerini analiz etme. (Kaynak)

Bilgisayarlı görüde budama ve nicelemenin avantajları ve dezavantajları#

Budama ve niceleme gibi bilgisayarlı görü modeli optimizasyon yöntemlerinin sunduğu bazı temel avantajlar şunlardır:

• Uygun maliyetli dağıtım: Daha küçük ve verimli modeller, pahalı ve üst düzey donanım ihtiyacını azaltarak yapay zekâyı farklı kullanım alanlarında daha erişilebilir ve ölçeklenebilir kılabilir.
• Daha düşük gecikme: Model mimarisini sadeleştirip hesaplama yükünü azaltan bu teknikler, gerçek zamanlı uygulamalarda daha hızlı yanıt süreleri sağlamaya yardımcı olabilir.
• Enerji verimliliği: Hesaplama yükünün azaltılması güç tüketimini de düşürür; bu, özellikle pille çalışan veya mobil sistemlerde faydalıdır.

Budama ve niceleme birçok avantaj sunsa da modelleri optimize ederken geliştiricilerin göz önünde bulundurması gereken bazı ödünleşimler de vardır. Dikkate alınması gereken bazı sınırlamalar şunlardır:

• Doğruluk ödünleşimleri: Budama aşırıya kaçarsa veya çok düşük bitli niceleme kullanılırsa mAP gibi metriklerle ölçülen model doğruluğu düşebilir.
• Donanım kısıtları: Her cihaz INT8 gibi düşük hassasiyetli biçimleri aynı ölçüde desteklemez. Bu durum, optimize edilmiş bir modelin nerede ve nasıl dağıtılabileceğini kısıtlayabilir.
• Uygulama karmaşıklığı: İyi sonuçlar elde etmek çoğu zaman dikkatli ve modele özgü ayarlamalar gerektirir. Verimliliği artırırken performansı korumak için geliştiricilerin modeli yeniden eğitmesi ve kapsamlı testler yapması gerekebilir.

Önemli çıkarımlar#

Budama ve niceleme, YOLO modellerinin uç cihazlarda daha iyi performans göstermesine yardımcı olan kullanışlı tekniklerdir. Model boyutunu ve işlem gereksinimlerini azaltır, tahminleri hızlandırırlar; bunu genellikle doğrulukta yalnızca küçük bir kayıpla sağlarlar.

Bu optimizasyon yöntemleri, geliştiricilere modelleri baştan oluşturmadan farklı donanım türlerine göre uyarlama esnekliği de sunar. Biraz ayarlama ve testle Vision AI'ı gerçek dünya koşullarında uygulamak kolaylaşır.

Büyüyen topluluğumuza katıl! Yapay zekâ hakkında daha fazla bilgi edinmek için GitHub depomuzu incele. Bilgisayarlı görü projelerine başlamaya hazır mısın? Lisans seçeneklerimize göz at. Çözüm sayfalarımızı ziyaret ederek tarımda yapay zekâyı ve sağlık hizmetlerinde Vision AI'ı keşfet!