Scaleout, Ultralytics YOLO modellerini uç cihazlarda ince ayarlayarak veriyi bulunduğu yerde tutuyor, çevrimdışı çalışıyor ve yeni tespit modellerini haftalar yerine saatler içinde kullanıma sunuyor.
Makine öğrenimi modellerini eğitmek genellikle tüm verilerini tek bir yerde toplayabileceğini, buluta gönderebileceğini ve tamamlanmış bir modeli kullanıma sunabileceğini varsayar. Gerçek dünyadaki birçok ortamda bu varsayım geçerli değildir. Savunma, sanayi ve düzenlemeye tabi sektörlerde veriler gizlilik yasaları, güvenlik sınıflandırmaları veya yüksek bant genişliği maliyetleri nedeniyle bulundukları konuma bağlıdır; bu konumları birbirine bağlayan ağa da her zaman güvenilemez.
Scaleout, tam da bu koşullara yönelik altyapı geliştiriyor. Scaleout Edge platformu, verileri modele taşımak yerine model eğitimini verinin bulunduğu yere götürmek için federatif öğrenmeden yararlanıyor. Bilgisayarlı görü projelerinde Scaleout, Ultralytics YOLO modellerini her sahaya kurulan GPU hızlandırmalı uç istasyonları Vision Ground Nodes üzerinde özel olarak eğitip ince ayar yapıyor. Böylece hassas görüntüler cihazdan hiç çıkmadan sahadaki algılama gelişmeye devam ediyor.
Makine öğrenimini verinin bulunduğu yere taşımak#
2018'de büyük ölçekli dağıtık sistemler üzerinde çalışan Uppsala Üniversitesi araştırmacıları tarafından kurulan Scaleout, verinin merkezileştirilemediği ortamlarda makine öğrenimini mümkün kılmayı amaçladı. Odak noktası, verileri tek bir yerde toplamanın zor veya imkânsız olduğu bağlamlar; federatif öğrenme ise bunu mümkün kılan temel mekanizma.
Federatif öğrenme, eğitimi çok sayıda cihaza dağıtır; ardından cihazların model güncellemelerini, bunları birleştirerek yeni bir küresel model oluşturan merkezi kontrol düzleminde toplar. Her cihaz kendi yerel ortamını anlamaktan yararlanırken cihaz filosunun tamamı kolektif zekâdan faydalanır. Veriler ait oldukları yerde kalır; yalnızca modelin öğrendikleri aktarılır.
Scaleout; savunma, sanayi, ulaşım ve düzenlemeye tabi diğer sektörlerde çalışıyor. NATO DIANA hızlandırıcı programı ve BAE Systems ile yürütülen iş birliği de bu çalışmalar arasında. Tümünde ortak durum aynı: Veriler taşınamıyor, ancak modellerin yine de iyileşmesi gerekiyor.
Uçta makine öğreniminin karmaşıklıkları#
Scaleout'ın sahada model eğitirken karşılaştığı kısıtları daha yakından inceleyelim:
- Sınırlı donanım: Saha kurulumlarında veri merkezi sunucuları yoktur; yalnızca drone'daki bilgisayar gibi küçük, düşük güçlü cihazlar bulunur. Tamamlanmış bir modeli bu cihazlarda çalıştırmak mümkündür, ancak yeniden eğitim çok daha fazla işlem gücü gerektirir.
- Veri cihaza bağlı kalır: Yeniden eğitim için gereken görüntüler çoğu zaman tescilli niteliktedir ve merkezi bir sunucuya gönderilemez; bu nedenle model, uç cihazdan asla çıkmayan verilerden öğrenmelidir.
- Sahada uzman yok: Sahada veri toplayan operatörler nadiren makine öğrenimi mühendisidir; dolayısıyla yeniden eğitim, veri bilimi uzmanlarının sahada bulunmasına bağlı olamaz.
- Sürekli değişen koşullar: Saha ortamları hızla değişir; bu nedenle modelin yavaş ve dönemsel yeniden eğitim döngüleriyle değil, sürekli güncellemelerle yenilenmesi gerekir.
Uçta Ultralytics YOLO modellerinin ince ayarını yapmak#
Scaleout, bu kısıtlar içinde çalışabilmek için Ultralytics YOLO modellerini merkezine alan ve tamamen sahada yürütülen bir eğitim döngüsü geliştirdi.
Her sahada kendi işlem gücü ve depolama alanı olan GPU hızlandırmalı bir uç istasyon olan Vision Ground Node, drone filosunun yanında bulunur. Dronelar görüntü çektikçe düğüm en faydalı kareleri seçer, bir operatör bu kareleri etiketler ve YOLO modeli yerel donanımda ince ayardan geçirilir.
Birkaç eğitim döneminin ardından ham görüntüler değil, yalnızca güncellenen model kontrol düzlemine gönderilir. Bu döngü, bilgisayarlı görü projelerinin ihtiyaç duyduğu araçları tek bir pakette bir araya getiren Scaleout Edge platformunun uzantısı olan Scaleout'ın görü modülüyle sağlanır.
Modül; kare seçimi, anotasyon, eğitim ve dağıtımı bir araya getirir. Tespit işlemlerini Ultralytics YOLO üstlenir; böylece ekipler bu bileşenleri kendileri bir araya getirmek yerine çalışan bir temel üzerine inşa edebilir.
Scaleout bu yaklaşımı ilk kez NATO DIANA hızlandırıcı programında uygulayarak sahada toplanan verilerle tespit modeline YOLOv8 üzerinden ince ayar yaptı. Tescilli veriler sahadaki ağlar üzerinden taşınamadığından veya merkezileştirilemediğinden ekip, ince ayarı merkeziyetsizleştirdi ve modelin yeni örneklerden yerel olarak öğrenmesini sağladı.
Bu döngü veri bilimcilerden ziyade operatörler düşünülerek tasarlandı. Sistem, uzman olmayan bir kullanıcıya önemli kareleri inceleme ve etiketleme sürecinde rehberlik eder; böylece sahadaki kişiler modeli kendi başlarına geliştirmeye devam edebilir.
Destekleyici araçlar da bu yaklaşımı yansıtıyor: anotasyon için Label Studio'nun açık kaynak sürümü, drone akışlarını almak için bir akış sunucusu ve ince ayar için Ultralytics Python paketi. Dağıtıma bağlı olarak tümü NVIDIA Jetson modüllerinden sağlamlaştırılmış bir saha birimine ya da dizüstü bilgisayara kadar çeşitli donanımlarda çalışıyor.
Neden Ultralytics YOLO modellerini seçmeli?#
Scaleout için Ultralytics YOLO'nun en büyük avantajı, modellerin hafif olmasıdır; bu özellik, zayıf bağlantılarda federatif eğitimi uygulanabilir kılıyor. Ham verileri taşımak yerine Scaleout yalnızca model güncellemesini gönderiyor. En sık kullandığı model olan Ultralytics YOLOv8 nano yaklaşık 10,7 MB boyutunda olduğundan, bant genişliğinin kısıtlı olduğu durumlarda bile tüm güncelleme küçük bir paket olarak gönderilebiliyor.
Ultralytics Python paketi, Scaleout mühendislerine çeşitli donanımlarda eğitim ve dağıtım yapma esnekliği de sağlıyor. Kompakt YOLOv8 nano modeli kısıtlı uç cihazlarda rahatça çalışırken paketin dışa aktarma seçenekleri, Scaleout'ın çalıştığı farklı ortamlara dağıtımı destekliyor. Modellerin ince ayarı kolay olduğundan ekipler saha koşulları değiştikçe hızlıca yineleme yapabiliyor.
Ultralytics YOLO, Scaleout'ın modelleri daha hızlı güncellemesine yardımcı oluyor#
Ultralytics YOLO ile iş yükünün en ağır kısmı cihazda kalır. Eğitim yüzlerce gigabaytlık saha görüntüsü üzerinde yapılır, ancak gerçekte aktarılan yalnızca yaklaşık 10 MB'lık bir modeldir. Bu, taşınması gereken veri miktarını büyük ölçüde azaltır ve bu dağıtımların dayandığı sınırlı ağlar üzerinden federe eğitimi uygulanabilir hâle getirir.
Bu yaklaşım, iyileştirilmiş bir modelin sahaya geri dönme hızını da değiştiriyor. Veri toplama, merkezi bir yere gönderme, yeniden eğitim ve yeniden dağıtım gibi normalde haftalar veya aylar sürebilecek işlemler, döngü uçta yürütüldüğünde günlere ve saatlere iniyor.
Bu fark en açık şekilde Scaleout'ın drone çalışmalarında görülüyor. Savunma amaçlı keşif görevlerinde bir drone arama rotasında uçarken, ilgi çekici nesneleri gerçek zamanlı olarak tespit etmek, tanımlamak ve coğrafi konumlarını belirlemek için üzerinde çalışan bir Ultralytics YOLO modelinden yararlanıyor. Tüm işlemler analiz için başka bir yere gönderilmek yerine doğrudan drone'un kendi bilgisayarında yürütülüyor.
Dronelar yeni görüntüler topladıkça bu veriler Vision Ground Node'a aktarılır; burada YOLO yeni karelerle ince ayardan geçirilir ve güncellenmiş model sahaya geri gönderilir. Tüm bunlar, görüntüler sahadan hiç çıkmadan gerçekleşir. Tespit modellerinin hızla değişen koşullara ve taşınamayan verilere ayak uydurması gerekir; yerel olarak yeniden eğitilen bir model, sabit ve merkezi olarak eğitilmiş bir modelin geride kalacağı ortamlarda kullanışlılığını korur.
Şekil 1. Scaleout ve Ultralytics YOLO'nun yapay zekâ destekli dronlara nasıl güç verdiğine dair bir örnek (Kaynak).
Aynı yaklaşım droneların çok ötesinde de uygulanıyor. Enerji sahaları ve uzak tesisler gibi, her konumdaki verilerin hassas olduğu endüstriyel ortamlarda platform, ham verileri tesis sınırlarının dışına çıkarmadan çok sayıda sahadaki tespit modellerini iyileştiriyor. Veriler bir drone'da ya da sabit bir kurulumda bulunsun, Scaleout görüntüleri yerinde tutuyor ve yalnızca modelin öğrendiklerini aktarıyor.
Verinin taşınamadığı ortamlar için uyarlanabilir yapay zekâ geliştirmek#
Scaleout büyüdükçe federatif, uç tabanlı bilgisayarlı görü çözümlerini daha fazla ortama ve donanıma yaymaya devam ediyor. Önceden hazırlanmış modülleri, aylar sürecek entegrasyonu günlere indirmek üzere tasarlandı. Böylece müşteriler kendi donanımlarını kullanabiliyor ve temel makine öğrenimi kodunu baştan yazmadan uyarlanabilir öğrenme döngüsünü benimseyebiliyor.
Tespit işlem hattının merkezinde Ultralytics YOLO bulunan Scaleout, geleneksel yaklaşımların yetersiz kaldığı ortamlarda yapay zekânın eğitilip iyileştirilmesini mümkün kılıyor; verileri yerinde tutuyor, ağlar kesildiğinde çalışmaya devam ediyor ve uç cihaz filolarını bir bütün olarak öğrenmeyi sürdüren bir sisteme dönüştürüyor.
Görsel yapay zekânın senin için neler yapabileceğini keşfetmeye hazır mısın? YOLO modellerinin üretimde yapay zekâ ve robotikte bilgisayarlı görü gibi alanları nasıl dönüştürdüğünü görmek için GitHub depomuza göz at. Lisanslama seçeneklerimizi incele ve daha akıllı otomasyona doğru yolculuğuna başla.
Yazan
Dijital İçerik Yöneticisi · Ultralytics
