Scaleout, Ultralytics YOLO ile model güncellemelerini haftalardan saatlere indiriyor

Makine öğrenimi modellerini eğitmek, genellikle tüm verilerinizi tek bir yerde toplayabileceğinizi, buluta gönderebileceğinizi ve bitmiş bir modeli devreye alabileceğinizi varsayar. Birçok gerçek dünya ortamında bu varsayım geçerli değildir. Savunma, endüstriyel ve düzenlemeye tabi ortamlarda veriler gizlilik yasaları, güvenlik sınıflandırması veya sadece bant genişliği maliyeti nedeniyle bulunduğu konuma bağlıdır ve bu konumları birbirine bağlayan ağlara her zaman güvenilemez.

Scaleout, tam da bu koşullar için altyapı inşa eder. Platformu Scaleout Edge, veriyi modele taşımak yerine model eğitimini verinin bulunduğu yere götürmek için federatif öğrenmeyi kullanır. Bilgisayarlı görü projeleri için Scaleout, her sahada konuşlandırılan GPU hızlandırmalı uç istasyonları olan Vision Ground Node'larda Ultralytics YOLO modellerini özel olarak eğitir ve ince ayar yapar; böylece algılama, hassas görüntüler hiçbir zaman cihazdan ayrılmadan sahada iyileşmeye devam eder.

Link to this sectionMakine öğrenimini verinin olduğu yere taşımak#

2018 yılında Uppsala Üniversitesi'nden büyük ölçekli dağıtık sistemler üzerinde çalışan araştırmacılar tarafından kurulan Scaleout, verilerin merkezileştirilemediği yerlerde makine öğrenimini mümkün kılmak için yola çıktı. Odak noktası, verileri tek bir yerde toplamanın zor veya imkansız olduğu bağlamlardır ve federatif öğrenme, bunun çalışmasını sağlayan temel mekanizmadır.

Federatif öğrenme, eğitimi birçok cihaz arasında dağıtır ve ardından model güncellemelerini bunları yeni bir küresel modelde birleştiren merkezi bir kontrol düzleminde toplar. Her cihaz kendi yerel ortamını anlamaktan fayda sağlarken, filo genel olarak kolektif zekadan yararlanır. Veri ait olduğu yerde kalır ve yalnızca modelin öğrendiği bilgiler seyahat eder.

Scaleout'un çalışmaları savunma, endüstriyel, ulaşım ve diğer düzenlemeye tabi sektörleri kapsar ve NATO DIANA hızlandırıcı programı ile BAE Systems iş birliği gibi katılımları içerir. Bunların hepsinde model aynıdır: hareket edemeyen veriler ve yine de iyileşmesi gereken modeller.

Link to this sectionUç makine öğreniminin karmaşıklıkları#

İşte Scaleout'un sahada model eğitirken karşılaştığı kısıtlamalara daha yakından bir bakış:

• Sınırlı donanım: Saha konuşlandırmalarında veri merkezi sunucuları yoktur, sadece bir drone üzerindeki bilgisayar gibi küçük, düşük güç tüketen cihazlar vardır. Bitmiş bir modeli bunlar üzerinde çalıştırmak mümkündür, ancak yeniden eğitmek çok daha fazla hesaplama gücü gerektirir.

• Cihaza kilitli veri: Yeniden eğitim için gereken görüntüler genellikle tescillidir ve merkezi bir sunucuya gönderilemez, bu nedenle model uç noktasını asla terk etmeyen verilerden öğrenmek zorundadır.

• Sahada uzman yok: Sahada veri toplayan operatörler nadiren makine öğrenimi mühendisidir, bu nedenle yeniden eğitim veri bilimi uzmanlığının orada bulunmasına bağlı olamaz.

• Sürekli değişen koşullar: Saha ortamları hızla değişir, bu nedenle model yavaş ve periyodik yeniden eğitim döngüleri yerine sürekli olarak güncellenmelidir.

Link to this sectionUçta Ultralytics YOLO modellerine ince ayar yapma#

Bu kısıtlamalar dahilinde çalışmak için Scaleout, merkezinde Ultralytics YOLO modellerinin bulunduğu, tamamen sahada çalışan bir eğitim döngüsü oluşturdu.

Her sahada, kendi hesaplama ve depolama birimine sahip GPU hızlandırmalı bir uç istasyonu olan Vision Ground Node, bir drone filosunun yanında yer alır. Drone'lar görüntüleri yakalarken, düğüm en yararlı kareleri seçer, bir operatör bunları etiketler ve YOLO modeli bu yerel donanım üzerinde ince ayardan geçirilir.

Birkaç eğitim çağından sonra, yalnızca güncellenmiş model kontrol düzlemine geri gönderilir, ham görüntüler asla gönderilmez. Bu döngü, bir bilgisayarlı görü projesinin ihtiyaç duyduğu araçları tek bir pakette toplayan Scaleout Edge platformunun bir uzantısı olan Scaleout vision modülü aracılığıyla sunulur.

Kare seçimi, etiketleme, eğitim ve dağıtımı bir araya getirirken algılamayı Ultralytics YOLO'ya bırakır, böylece ekipler bu parçaları kendileri birleştirmek yerine çalışan bir temel üzerinde inşa edebilirler.

Scaleout bu yaklaşımı ilk kez, sahada toplanan veriler üzerinde algılamaya ince ayar yapmak için YOLOv8 kullanarak NATO DIANA hızlandırıcı programında uygulamaya koydu. O veriler saha ağları üzerinden taşınamıyor veya tescilli nedenlerle merkezileştirilemiyordu, bu nedenle ekip ince ayarı merkezden uzaklaştırdı ve modelin yeni örneklerden yerel olarak öğrenmesini sağladı.

Döngü ayrıca veri bilimcileri yerine operatörler için oluşturuldu. Sistem, uzman olmayan birini önemli kareleri inceleme ve etiketleme konusunda yönlendirir, böylece sahada bulunan kişiler modelin kendi kendine gelişmesini sağlayabilir.

Destekleyici araçlar bunu yansıtır; etiketleme için Label Studio'nun açık kaynak sürümü, drone beslemelerini içeri aktarmak için bir yayın sunucusu ve ince ayar için Ultralytics Python paketi kullanılır. Hepsi, konuşlandırmaya bağlı olarak NVIDIA Jetson modüllerinden sağlam bir saha birimine veya bir dizüstü bilgisayara kadar değişen donanımlarda çalışır.

Link to this sectionNeden Ultralytics YOLO modellerini seçmelisin?#

Scaleout için Ultralytics YOLO'nun en büyük avantajı, modellerin ne kadar hafif olduğudur; bu da kötü bağlantılar üzerinden federatif eğitimi pratik hale getirir. Scaleout ham veriyi taşımak yerine sadece model güncellemesini taşır. En çok kullandığı model olan Ultralytics YOLOv8 nano yaklaşık 10,7 MB boyutundadır, bu nedenle bant genişliği az olduğunda bile tam güncelleme gönderilmesi kolay bir pakettir.

Ultralytics Python paketi ayrıca Scaleout mühendislerine çeşitli donanımlarda eğitim ve dağıtım yapma esnekliği sağlar. Kompakt YOLOv8 nano modeli kısıtlı uç cihazlarda rahatça çalışırken, paketin dışa aktarma seçenekleri Scaleout'un çalıştığı farklı ortamlarda dağıtımı destekler. Modellere ince ayar yapmak basit olduğundan, ekipler saha koşulları değiştikçe hızlıca yineleme yapabilirler.

Link to this sectionUltralytics YOLO, Scaleout'un modelleri daha hızlı güncellemesine yardımcı oluyor#

Ultralytics YOLO ile işin en ağır kısmı cihazda kalır. Eğitim yüzlerce gigabaytlık saha görüntüsü üzerinde çalışır, ancak gerçekte taşınan yaklaşık 10 MB'lık bir modeldir. Bu, taşınması gereken verilerde yaklaşık on kat azalma sağlar; bu da federatif eğitimi, bu konuşlandırmaların güvendiği sınırlı ağlar üzerinde uygulanabilir kılan şeydir.

Yaklaşım ayrıca iyileştirilmiş bir modelin sahaya ne kadar hızlı geri döneceğini de değiştirir. Veri toplama, merkezde bir yere gönderme, yeniden eğitme ve yeniden dağıtma gibi başka türlü haftalar veya aylar sürebilecek işlemler, döngü uçta çalıştığında günlere ve saatlere iner.

Bu durum en net şekilde Scaleout'un drone çalışmalarında görülür. Savunma keşiflerinde bir drone, bir arama düzeni izler ve ilgi çekici nesneleri gerçek zamanlı olarak tespit etmek, tanımlamak ve coğrafi konumlarını belirlemek için yerleşik bir Ultralytics YOLO modeli kullanır; tüm işlemler analiz için dışarı gönderilmek yerine drone'un kendi bilgisayarında gerçekleştirilir.

Drone'lar yeni görüntüler topladıkça, bu veriler YOLO'nun yeni kareler üzerinde ince ayarlandığı bir Vision Ground Node'u besler ve güncellenmiş bir model, görüntü hiçbir zaman sahadan ayrılmadan geri gönderilir. Algılama modelleri, hızla değişen koşullara ve taşınamayan verilere ayak uydurmak zorundadır; yerel olarak yeniden eğitilen bir model, statik ve merkezi olarak eğitilmiş bir modelin geride kalacağı durumlarda kullanışlı kalmaya devam eder.

Fig 1. Scaleout ve Ultralytics YOLO'nun yapay zeka drone'larına nasıl güç verdiğine dair bir örnek (Kaynak)

Aynı model drone'ların çok ötesine uzanır. Enerji sahaları ve uzak tesisler gibi her bir konumun verisinin hassas olduğu endüstriyel ortamlarda platform, hiçbir ham veri tesis sınırını aşmadan birçok sahadaki algılama modellerini geliştirir. Veri ister bir drone'da ister sabit bir kurulumda olsun, Scaleout görüntüleri yerinde tutar ve sadece modelin öğrendiklerini taşır.

Link to this sectionVerilerin hareket edemediği ortamlar için uyarlanabilir yapay zeka oluşturma#

Scaleout büyüdükçe, federatif, uç tabanlı bilgisayarlı görü sistemini daha fazla ayar ve donanıma yaymaya devam ediyor. Önceden oluşturulmuş modülleri, entegrasyonu aylar süren süreçleri günlere sıkıştırmak için tasarlanmıştır, böylece müşteriler kendi donanımlarını getirebilir ve temel makine öğrenimi kodunu yeniden yazmadan uyarlanabilir öğrenme döngüsünü benimseyebilirler.

Algılama hattının merkezinde Ultralytics YOLO ile Scaleout, geleneksel yaklaşımların yetersiz kaldığı ortamlarda yapay zekayı eğitmeyi ve geliştirmeyi mümkün kılıyor; verileri yerinde tutuyor, ağlar başarısız olduğunda operasyonel kalıyor ve uç cihaz filolarını bir bütün olarak öğrenmeye devam eden bir sisteme dönüştürüyor.

Ready to explore what Vision AI can do for you? Head to our GitHub repository to discover how YOLO models are transforming areas such as AI in manufacturing and computer vision in robotics. Check out our licensing options and begin your journey toward smarter automation.