Scaleout, Ultralytics YOLO ile model güncellemelerini haftalardan saatlere indiriyor

Makine öğrenimi modellerini eğitmek, genellikle tüm verilerinizi tek bir yerde toplayabileceğinizi, buluta gönderebileceğinizi ve bitmiş bir modeli devreye alabileceğinizi varsayar. Birçok gerçek dünya ortamında bu varsayım geçerli değildir. Savunma, endüstriyel ve düzenlemeye tabi ortamlarda veriler gizlilik yasaları, güvenlik sınıflandırması veya sadece bant genişliği maliyeti nedeniyle bulunduğu konuma bağlıdır ve bu konumları birbirine bağlayan ağlara her zaman güvenilemez.

Scaleout tam olarak bu koşullar için altyapı inşa ediyor. Platformu Scaleout Edge, verileri modele taşımak yerine model eğitimini verinin bulunduğu yere getirmek için federated learning kullanır. computer vision projeleri için Scaleout, her sahaya konuşlandırılmış GPU hızlandırmalı uç istasyonları olan Vision Ground Nodes üzerinde Ultralytics YOLO models sistemini özel olarak eğitir ve ince ayar yapar; böylece hassas görüntüler hiçbir zaman cihazdan ayrılmadan sahada algılama gelişmeye devam eder.

Makine öğrenimini verinin olduğu yere taşımak#

2018 yılında Uppsala Üniversitesi'nden büyük ölçekli dağıtık sistemler üzerinde çalışan araştırmacılar tarafından kurulan Scaleout, verilerin merkezileştirilemediği yerlerde makine öğrenimini mümkün kılmak için yola çıktı. Odak noktası, verileri tek bir yerde toplamanın zor veya imkansız olduğu bağlamlardır ve federatif öğrenme, bunun çalışmasını sağlayan temel mekanizmadır.

Federated learning eğitimi birçok cihaza dağıtır, ardından model güncellemelerini bunları yeni bir küresel modelde toplayan merkezi bir kontrol düzleminde toplar. Her cihaz kendi yerel ortamını anlamaktan fayda sağlarken, filo bir bütün olarak kolektif zekadan yararlanır. Veriler ait olduğu yerde kalır ve yalnızca modelin öğrendikleri seyahat eder.

Scaleout'un çalışmaları savunma, endüstriyel, ulaşım ve diğer düzenlemeye tabi sektörleri kapsar ve NATO DIANA hızlandırıcı programı ile BAE Systems iş birliği gibi katılımları içerir. Bunların hepsinde model aynıdır: hareket edemeyen veriler ve yine de iyileşmesi gereken modeller.

Uç makine öğreniminin karmaşıklıkları#

İşte Scaleout'un sahada model eğitirken karşılaştığı kısıtlamalara daha yakından bir bakış:

• Sınırlı donanım: Saha konuşlandırmalarında veri merkezi sunucuları yoktur, sadece bir drone üzerindeki bilgisayar gibi küçük, düşük güç tüketen cihazlar vardır. Bitmiş bir modeli bunlar üzerinde çalıştırmak mümkündür, ancak yeniden eğitmek çok daha fazla hesaplama gücü gerektirir.

• Cihaza kilitlenmiş veriler: Yeniden eğitim için gereken görüntü genellikle tescillidir ve merkezi bir sunucuya gönderilemez, bu nedenle model edge cihazından asla ayrılmayan verilerden öğrenmek zorundadır.

• Sahada uzman yok: Sahada veri toplayan operatörler nadiren makine öğrenimi mühendisidir, bu nedenle yeniden eğitim veri bilimi uzmanlığının orada bulunmasına bağlı olamaz.

• Sürekli değişen koşullar: Saha ortamları hızla değişir, bu nedenle model yavaş ve periyodik yeniden eğitim döngüleri yerine sürekli olarak güncellenmelidir.

Uçta Ultralytics YOLO modellerine ince ayar yapma#

Bu kısıtlamalar dahilinde çalışmak için Scaleout, merkezinde Ultralytics YOLO modellerinin bulunduğu, tamamen sahada çalışan bir eğitim döngüsü oluşturdu.

Her sahada, kendi hesaplama ve depolama birimine sahip GPU hızlandırmalı bir uç istasyonu olan Vision Ground Node, bir drone filosunun yanında yer alır. Drone'lar görüntüleri yakalarken, düğüm en yararlı kareleri seçer, bir operatör bunları etiketler ve YOLO modeli bu yerel donanım üzerinde ince ayardan geçirilir.

Birkaç eğitim çağından sonra, yalnızca güncellenmiş model kontrol düzlemine geri gönderilir, ham görüntüler asla gönderilmez. Bu döngü, bir bilgisayarlı görü projesinin ihtiyaç duyduğu araçları tek bir pakette toplayan Scaleout Edge platformunun bir uzantısı olan Scaleout vision modülü aracılığıyla sunulur.

Kare seçimi, etiketleme, eğitim ve dağıtımı bir araya getirirken algılamayı Ultralytics YOLO'ya bırakır, böylece ekipler bu parçaları kendileri birleştirmek yerine çalışan bir temel üzerinde inşa edebilirler.

Scaleout bu yaklaşımı ilk kez, sahada toplanan veriler üzerinde algılamaya ince ayar yapmak için YOLOv8 kullanarak NATO DIANA hızlandırıcı programında uygulamaya koydu. O veriler saha ağları üzerinden taşınamıyor veya tescilli nedenlerle merkezileştirilemiyordu, bu nedenle ekip ince ayarı merkezden uzaklaştırdı ve modelin yeni örneklerden yerel olarak öğrenmesini sağladı.

Döngü ayrıca veri bilimcileri yerine operatörler için oluşturuldu. Sistem, uzman olmayan birini önemli kareleri inceleme ve etiketleme konusunda yönlendirir, böylece sahada bulunan kişiler modelin kendi kendine gelişmesini sağlayabilir.

Destekleyici araçlar bunu yansıtıyor; etiketleme için açık kaynaklı Label Studio sürümü, drone akışlarını getirmek için bir akış sunucusu ve ince ayar için Ultralytics Python package yer alıyor. Tümü, dağıtıma bağlı olarak NVIDIA Jetson modüllerinden sağlam bir saha ünitesine veya dizüstü bilgisayara kadar değişen donanımlarda çalışır.

Neden Ultralytics YOLO modellerini seçmelisin?#

Scaleout için Ultralytics YOLO'nun en büyük avantajı, modellerin ne kadar hafif olmasıdır; bu da zayıf bağlantılar üzerinden federatif eğitimi pratik hale getiren şeydir. Ham verileri taşımak yerine Scaleout yalnızca model güncellemesini taşır. En çok kullandığı model olan Ultralytics YOLOv8 nano yaklaşık 10,7 MB'tır, bu nedenle bant genişliği kıt olduğunda bile tam bir güncelleme gönderilmesi gereken küçük bir pakettir.

Ultralytics Python package ayrıca Scaleout mühendislerine çeşitli donanımlarda eğitim verme ve dağıtma esnekliği sağlar. Kompakt YOLOv8 nano modeli kısıtlı uç cihazlarda rahatça çalışırken, paketin export options özelliği Scaleout'un çalıştığı farklı ortamlarda dağıtımı destekler. Modellerde ince ayar yapmak kolay olduğundan, saha koşulları değiştikçe ekipler hızlı bir şekilde yineleme yapabilir.

Ultralytics YOLO, Scaleout'un modelleri daha hızlı güncellemesine yardımcı oluyor#

Ultralytics YOLO ile işin en ağır kısmı cihazda kalır. Eğitim yüzlerce gigabaytlık saha görüntüsü üzerinde çalışır, ancak gerçekte taşınan yaklaşık 10 MB'lık bir modeldir. Bu, taşınması gereken verilerde yaklaşık on kat azalma sağlar; bu da federatif eğitimi, bu konuşlandırmaların güvendiği sınırlı ağlar üzerinde uygulanabilir kılan şeydir.

Yaklaşım ayrıca iyileştirilmiş bir modelin sahaya ne kadar hızlı geri döneceğini de değiştirir. Veri toplama, merkezde bir yere gönderme, yeniden eğitme ve yeniden dağıtma gibi başka türlü haftalar veya aylar sürebilecek işlemler, döngü uçta çalıştığında günlere ve saatlere iner.

Bu en açık şekilde Scaleout'un drone çalışmalarında görülür. Savunma keşfinde bir drone bir arama modeli uçurur ve analiz için gönderilmek yerine tüm işlemler drone'un kendi bilgisayarında gerçekleştirilerek ilgi çekici nesneleri gerçek zamanlı olarak tespit etmek, tanımlamak ve coğrafi konumunu belirlemek için yerleşik bir Ultralytics YOLO modeli kullanır.

Drone'lar yeni görüntüler topladıkça, bu veriler YOLO'nun yeni kareler üzerinde ince ayarlandığı bir Vision Ground Node'u besler ve güncellenmiş bir model, görüntü hiçbir zaman sahadan ayrılmadan geri gönderilir. Algılama modelleri, hızla değişen koşullara ve taşınamayan verilere ayak uydurmak zorundadır; yerel olarak yeniden eğitilen bir model, statik ve merkezi olarak eğitilmiş bir modelin geride kalacağı durumlarda kullanışlı kalmaya devam eder.

Fig 1. Scaleout ve Ultralytics YOLO sistemlerinin yapay zeka drone'larına nasıl güç verdiğine dair bir örnek (Source)

Aynı model drone'ların çok ötesine uzanır. Enerji sahaları ve uzak tesisler gibi her bir konumun verisinin hassas olduğu endüstriyel ortamlarda platform, hiçbir ham veri tesis sınırını aşmadan birçok sahadaki algılama modellerini geliştirir. Veri ister bir drone'da ister sabit bir kurulumda olsun, Scaleout görüntüleri yerinde tutar ve sadece modelin öğrendiklerini taşır.

Verilerin hareket edemediği ortamlar için uyarlanabilir yapay zeka oluşturma#

Scaleout büyüdükçe, federatif, uç tabanlı bilgisayarlı görü sistemini daha fazla ayar ve donanıma yaymaya devam ediyor. Önceden oluşturulmuş modülleri, entegrasyonu aylar süren süreçleri günlere sıkıştırmak için tasarlanmıştır, böylece müşteriler kendi donanımlarını getirebilir ve temel makine öğrenimi kodunu yeniden yazmadan uyarlanabilir öğrenme döngüsünü benimseyebilirler.

Algılama hattının merkezinde Ultralytics YOLO ile Scaleout, geleneksel yaklaşımların yetersiz kaldığı ortamlarda yapay zekayı eğitmeyi ve geliştirmeyi mümkün kılıyor; verileri yerinde tutuyor, ağlar başarısız olduğunda operasyonel kalıyor ve uç cihaz filolarını bir bütün olarak öğrenmeye devam eden bir sisteme dönüştürüyor.

Vision AI teknolojisinin sizin için neler yapabileceğini keşfetmeye hazır mısınız? YOLO modellerinin AI in manufacturing ve computer vision in robotics gibi alanları nasıl dönüştürdüğünü keşfetmek için GitHub repository adresimize gidin. licensing options seçeneklerimizi inceleyin ve daha akıllı otomasyona doğru yolculuğunuza başlayın.