Yığın çıkarımlarını çalıştırmak için Ultralytics YOLO11'i kullanma

Çalışırken otonom bir araba gördüyseniz, gerçek zamanlı yapay zeka çıkarımına tanık olmuşsunuzdur. Otonom bir araba tipik olarak çevresini işlemek ve neredeyse anında kararlar almak için kameralar, sensörler ve yapay zeka kullanır. Ancak, hızlı yanıtlar gerekmediğinde, gerçek zamanlı çıkarım kaynak yoğun olabilir.

Bu gibi durumlarda daha iyi bir seçenek, toplu çıkarımdır. Verileri gerçek zamanlı olarak sürekli işlemek yerine, toplu çıkarım, planlanmış aralıklarla büyük veri kümelerini işleyebilir. Bu yaklaşım, kaynakları korumaya, güç tüketimini azaltmaya ve altyapı maliyetlerini düşürmeye yardımcı olur.

Örneğin, bilgisayarlı görü uygulamalarında, Ultralytics YOLO11 gibi modeller, nesne tespiti ve örnek segmentasyonu gibi gerçek zamanlı görevler için kullanılabilir. Ancak, büyük hacimli görsel verileri gerçek zamanlı olarak işlemek zorlu olabilir. 

‍

Yığın çıkarımı ile YOLO11, sistem üzerindeki yükü azaltarak ve performanstan ödün vermeden verimliliği artırarak görsel veriler üzerinde yığınlar halinde çalıştırılabilir. Bu, donanımı zorlamadan veya maliyetleri artırmadan Vision AI çözümlerini ölçekte dağıtmayı kolaylaştırır.

Bu makalede, toplu çıkarımı, faydalarını ve YOLO11 kullanılarak toplu çıkarımın bilgisayarlı görü uygulamalarında nasıl uygulanabileceğini inceleyeceğiz. Hadi başlayalım!

Bilgisayarlı görmede toplu çıkarıma bir bakış

Yığın çıkarımını, gelen verileri parça parça işlemek yerine büyük bir görevi aynı anda ele almak olarak düşünebilirsiniz. Sürekli olarak gerçek zamanlı veri işlemek yerine, yığın çıkarımı, büyük veri gruplarını belirli aralıklarla işlemenize olanak tanır. Bu yaklaşım, acil yanıtların gerekli olmadığı durumlarda çok daha verimlidir ve bilgi işlem kaynaklarından tasarruf etmeye, enerji kullanımını azaltmaya ve maliyetleri düşürmeye yardımcı olur.

Bilgisayarlı görü söz konusu olduğunda, düşük gecikmenin hayati önem taşıdığı bazı uygulamalar vardır. Düşük gecikme, girdi (bir görüntü veya video karesi gibi) alınması ile sistemin yanıtı arasındaki minimum gecikmeyi ifade eder. Örneğin, gerçek zamanlı güvenlik izlemesinde, küçük gecikmeler bile güvenlik risklerine neden olabilir.

Ancak, diğer birçok bilgisayarlı görü senaryosunda, düşük gecikme süresi o kadar kritik değildir. Toplu çıkarım, sistemin anında tepki vermesi gerekmediğinde parlar. Toplu çıkarım, görsel verileri bir bilgisayarlı görü modeline gruplar veya partiler halinde besleyerek, sistemin büyük veri kümelerini sürekli olarak gerçek zamanlı olarak değil, aynı anda işlemesini sağlar.

Toplu çıkarım işleminin nasıl çalıştığını anlama

İşte toplu çıkarım işleminde yer alan adımlara daha yakından bir bakış:

• Veri toplama: Görsel veriler belirli bir süre boyunca toplanır. Bu, uygulamaya bağlı olarak güvenlik görüntüleri, ürün resimleri veya müşteri verilerini içerebilir.

• Toplu hazırlama: Toplanan veriler daha sonra toplu işler halinde gruplandırılır. Bu adım sırasında, veriler modelin gerektirdiği şekilde biçimlendirilir. Örneğin, görüntüler yeniden boyutlandırılabilir, normalleştirilebilir veya modelin işlemesi için uygun formata dönüştürülebilir.

• Tahmin (Prediction): Veri hazırlandıktan sonra, tüm yığın (batch), bir kerede tüm yığını işleyen modele (YOLO11 gibi) beslenir. Bu, modelin yığındaki tüm veriler için aynı anda tahminler yapmasını sağlayarak, her bir veri noktasını tek tek ele almaya kıyasla süreci daha verimli hale getirir.

Ne zaman toplu çıkarım kullanılmalı?

Yığın çıkarımının ne olduğunu ve gerçek zamanlı çıkarımdan nasıl farklı olduğunu ele aldığımıza göre, ne zaman kullanılacağına daha yakından bakalım.

Toplu çıkarım, geçmiş verileri analiz etmek için idealdir. Örneğin, geçen aydan kalma bir metro istasyonuna ait güvenlik kamerası görüntüleriniz olduğunu ve günün farklı saatlerinde giriş ve çıkış yapan kişi sayısı gibi belirli kalıpları belirlemeye çalıştığınızı varsayalım. 

Gerçek zamanlı olarak her kareyi işlemek yerine, toplu çıkarım (batch inferencing), tüm aylık görüntüleri toplu olarak işlemenize olanak tanır ve anında sonuçlara ihtiyaç duymadan önemli olayları veya eğilimleri belirler. Bu şekilde, büyük veri hacimlerini daha verimli bir şekilde analiz edebilir ve sistemi aşırı yüklemeden veya sürekli izleme gerektirmeden uzun vadeli kalıplar hakkında bilgi edinebilirsiniz.

Sistem kaynaklarının sınırlı olduğu durumlarda toplu çıkarım optimal bir çözümdür. Çıkarımı yoğun olmayan saatlerde (örneğin gece boyunca) çalıştırarak, işlem maliyetlerinden tasarruf edebilir ve sistemin yoğun kullanım zamanlarında aşırı yüklenmesini önleyebilirsiniz. Bu, büyük veri kümelerini işlemesi gereken ancak gerçek zamanlı analize ihtiyaç duymayan işletmeler veya projeler için verimli ve uygun maliyetli bir yaklaşım sunar.

Ultralytics YOLO11 kullanılarak toplu çıkarım

Ultralytics Python paketi, YOLO11 gibi modeller için toplu çıkarımı destekler. YOLO11 ile, aynı anda kaç görüntü veya video karesinin işleneceğini belirleyen 'batch' argümanını belirterek toplu çıkarımı kolayca çalıştırabilirsiniz. 

Toplu çıkarım sürecinde, topludaki tüm görüntüler için aynı anda tahminler oluşturulur. Varsayılan olarak, toplu boyutu 1 olarak ayarlanmıştır, ancak bunu tercih ettiğiniz herhangi bir sayıya ayarlayabilirsiniz. 

Örneğin, yığın boyutu 5 olarak ayarlanırsa, YOLO11 aynı anda beş resim veya video karesini işleyecek ve beşinin birden tahminlerini oluşturacaktır. Daha büyük yığın boyutları genellikle daha hızlı çıkarım sürelerine yol açar, çünkü bir yığında birden fazla görüntüyü işlemek, bunları tek tek ele almaktan daha verimlidir.

Yığın çıkarım (batch inferencing) ile etkinleştirilen bilgisayarla görü uygulamaları

Şimdi, toplu çıkarım için bazı gerçek dünya bilgisayarla görme kullanım durumlarını keşfedelim.

Sağlık hizmetlerinde tanı ve araştırmayı geliştirme

Tıbbi araştırmalarda, büyük miktarda görsel veriyle çalışmak çok yaygındır. Burada, toplu çıkarım, bilim insanlarının kimya, biyoloji ve genetik gibi alanlarda verileri daha kolay analiz etmelerine yardımcı olabilir. Veriler tek tek analiz edilmek yerine, toplu olarak işlenir, bu da zamandan ve emekten tasarruf sağlar.

Örneğin, tıbbi tesislerde, toplu çıkarım özellikle MR veya BT taramaları gibi büyük tıbbi görüntü kümelerini analiz etmek için yararlı olabilir. Hastaneler bu taramaları gün boyunca toplayabilir ve gece boyunca toplu olarak işleyebilir. 

Bu yaklaşım, hastanelerin donanımlarını ve personelini daha iyi kullanmalarını, işletme maliyetlerini düşürmelerini ve tüm taramaların tutarlı ve tek tip bir şekilde incelenmesini sağlamaktadır. Ayrıca, büyük miktarda verinin işlenmesinin gerekli olduğu büyük araştırma projeleri ve uzun vadeli çalışmalar için de faydalıdır.

‍

Simülasyonları kullanarak otonom araçları iyileştirme

Sürücüsüz arabalar, çevrelerini işlemek için bilgisayarlı görme gibi yapay zeka teknolojilerini kullanır. YOLO11 gibi gelişmiş modellerin yardımıyla, arabadaki yerleşik sistemler diğer araçları, şerit çizgilerini, yol işaretlerini ve sokaktaki insanları tanıyabilir. Yolda gerçek zamanlı çıkarım kritik öneme sahipken, otonom sürüş teknolojisi de perde arkasında toplu çıkarıma büyük ölçüde güveniyor. 

‍

Bir araba bir yolculuğu tamamladıktan sonra, kamera görüntüleri, sensör okumaları ve LIDAR taramaları gibi topladığı veriler daha sonra büyük partiler halinde işlenebilir. Bu, mühendislerin arabanın yapay zeka modellerini güncellemesini, sistem güvenliğini artırmasını ve çeşitli sürüş koşullarıyla başa çıkma yeteneğini geliştirmesini mümkün kılar.

Toplu çıkarım, otonom sürüş simülasyonlarında, otonom araçların yoğun kavşaklarda gezinme veya öngörülemeyen yaya hareketlerine tepki verme gibi farklı durumlarda nasıl tepki vereceğini test etmek için de kullanılır. Bu yaklaşım, zamandan tasarruf sağlar, maliyetleri düşürür ve her senaryoyu gerçek hayatta test etmeyle ilişkili riskleri ortadan kaldırır.

Yığın çıkarım tarafından yönlendirilen perakende veri analizi

Benzer şekilde, perakende mağazaları için, YOLO11 gibi bilgisayarlı görü modelleriyle toplu çıkarım, operasyonel verimliliği önemli ölçüde artırabilir. Örneğin, mağazalardaki kamera sistemleri gün boyunca binlerce görüntü yakalayabilir ve bu görüntüler daha sonra gece boyunca toplu olarak işlenebilir. 

Bu, mağazaların müşteri davranışı, trafik düzenleri ve ürün etkileşimleri gibi mağazada neler olup bittiğini, daha küçük mağazalar için zorlayıcı olabilecek gerçek zamanlı işlemeye gerek kalmadan analiz etmelerini sağlar. 

Bir diğer ilginç örnek ise, mağaza içindeki yüksek ve düşük müşteri aktivitesi alanlarını görselleştiren ısı haritaları oluşturmak için toplu çıkarım kullanmaktır. Perakendeciler bu ısı haritalarını analiz ederek, en fazla yaya trafiğini çeken alanları ve mağazanın daha fazla dikkat veya ürün yerleştirme optimizasyonuna ihtiyaç duyabilecek kısımlarını belirleyebilirler. Bu veriler, perakendecilerin müşteri deneyimini ve satışları iyileştirmek için mağaza düzeni, ürün konumlandırması ve hatta promosyon stratejileri hakkında daha iyi kararlar almasına yardımcı olabilir.

‍

Yığın çıkarımının (batch inferencing) artıları ve eksileri

İşte toplu çıkarımın çeşitli endüstrilere getirebileceği bazı temel faydalar:

• Entegrasyon kolaylığı: Toplu çıkarım, özellikle perakende, güvenlik veya sağlık gibi büyük miktarda verinin toplu olarak işlenmesi gereken sektörler için mevcut iş akışlarına kolayca entegre edilebilir.
  ‍
• Daha kolay veri yönetimi: Büyük miktarda veriyle çalışırken, toplu çıkarım, veriler yönetilebilir parçalar halinde gruplandırıldığından veri yönetimini kolaylaştırabilir. Bu, verileri zaman içinde izlemeyi, incelemeyi ve düzenlemeyi kolaylaştırır.
  ‍
• Azaltılmış ağ yükü: Veriler gruplar halinde işlendiğinde, herhangi bir anda aktarılan veri miktarı en aza indirilebilir, bu da bulut tabanlı sistemlerde veya dağıtılmış bilgi işlem ortamlarında ağ kaynakları üzerindeki yükü azaltır.

Toplu çıkarım kullanmanın birçok avantajı olsa da, dikkate alınması gereken bazı sınırlamalar da vardır. Akılda tutulması gereken birkaç faktör şunlardır:

• Depolama gereksinimleri: Yüksek çözünürlüklü görüntüler, videolar veya büyük veri hacimleri ile toplu işleme için büyük veri kümelerini depolamak, depolama maliyetlerini önemli ölçüde artırabilir.
  ‍
• Birikim potansiyeli: Veriler hızla birikirse veya büyük partiler zamanında işlenmezse, bir birikim gelişebilir. Bu, içgörülerin sunulmasında ve yeni verilerin zamanında işlenmesinde gecikmelere yol açabilir.
   
• Kaynak artışları: Özellikle yüksek çözünürlüklü görüntüler içeren büyük kümeler, bellek veya işlem kullanımında artışlara neden olabilir. Düzgün yönetilmezse, bu artışlar sistemleri aşırı yükleyerek yavaşlamalara veya çökmelere yol açabilir.

Önemli çıkarımlar

Toplu çıkarım, anında sonuç gerektirmeyen büyük hacimli görsel verileri işlemenin verimli bir yoludur. Her bir görüntüyü gerçek zamanlı olarak analiz etmek yerine, bunları gece boyunca gibi planlanmış zamanlarda toplu olarak işler. 

Bu yöntem, uygun maliyetli olmasının yanı sıra, hesaplama yükünü azaltır ve yine de doğru sonuçlar sağlar. Mağazaların envanter yönetiminden, doktorlara tıbbi tarama analizinde yardımcı olmaya ve otonom sürüş teknolojilerini geliştirmeye kadar, toplu çıkarım (batch inferencing), bilgisayarlı görü teknolojisini gerçek dünya uygulamaları için daha erişilebilir, uygun fiyatlı ve pratik hale getirir.

Yapay zekanın derinliklerine dalmaya hazır mısınız? GitHub depomuzu keşfedin, topluluğumuzla bağlantı kurun ve bilgisayarlı görü yolculuğunuza başlamak için lisanslama seçeneklerimize göz atın. Çözüm sayfalarımızda üretimde yapay zeka ve lojistik sektöründe bilgisayarlı görü gibi yenilikler hakkında daha fazla bilgi edinin.