Scaleout, Ultralytics YOLO modellerini uç cihazlarda ince ayarlayarak verileri yerinde tutuyor, çevrimdışı çalışıyor ve yeni tespit modellerini haftalar yerine saatler içinde kullanıma sunuyor.
Makine öğrenimi modellerini eğitmek genellikle tüm verilerini tek bir yerde toplayabileceğini, buluta gönderebileceğini ve tamamlanmış bir modeli dağıtabileceğini varsayar. Gerçek dünyadaki birçok ortamda bu varsayım geçerli değildir. Savunma, endüstri ve düzenlemeye tabi ortamlarda veriler; gizlilik yasaları, güvenlik sınıflandırması veya yüksek bant genişliği maliyeti nedeniyle bulundukları konuma bağlıdır ve bu konumları birbirine bağlayan ağa her zaman güvenilemez.
Scaleout tam olarak bu koşullar için altyapı geliştiriyor. Scaleout Edge platformu, verileri modele taşımak yerine model eğitimini verilerin bulunduğu yere götürmek için federatif öğrenmeyi kullanıyor. Bilgisayarlı görü projelerinde Scaleout, Ultralytics YOLO modellerini her sahaya dağıtılan GPU hızlandırmalı uç istasyonlar olan Vision Ground Node'lar üzerinde özel olarak eğitiyor ve ince ayarlıyor; böylece hassas görüntüler cihazdan hiç ayrılmadan sahada tespit performansı gelişmeye devam ediyor.
Makine öğrenimini verilerin bulunduğu yere taşımak#
2018'de büyük ölçekli dağıtık sistemler üzerinde çalışan Uppsala Üniversitesi araştırmacıları tarafından kurulan Scaleout, verilerin merkezileştirilemediği yerlerde makine öğrenimini mümkün kılmayı amaçladı. Odak noktası, verileri tek bir yerde toplamanın zor veya imkânsız olduğu ortamlar ve bunu mümkün kılan temel mekanizma federatif öğrenmedir.
Federatif öğrenme, eğitimi birçok cihaza dağıtır, ardından cihazların model güncellemelerini merkezi bir kontrol düzleminde toplayarak yeni bir küresel modelde birleştirir. Her cihaz kendi yerel ortamını anlayarak fayda sağlarken filonun tamamı kolektif zekâdan yararlanır. Veriler ait oldukları yerde kalır ve yalnızca modelin öğrendikleri taşınır.
Scaleout'un çalışmaları savunma, endüstri, taşımacılık ve diğer düzenlemeye tabi sektörlere uzanıyor; NATO DIANA hızlandırıcı programı ve BAE Systems ile iş birliği gibi çalışmaları da kapsıyor. Tüm bu alanlarda ortak tablo aynı: taşınamayan veriler ve yine de geliştirilmesi gereken modeller.
Uç cihazlarda makine öğreniminin karmaşıklıkları#
Scaleout'un sahada model eğitirken karşılaştığı kısıtları daha yakından inceleyelim:
-
Sınırlı donanım: Saha kurulumlarında veri merkezi sunucuları bulunmaz; yalnızca bir drone üzerindeki bilgisayar gibi küçük ve düşük güç tüketimli cihazlar vardır. Tamamlanmış bir modeli bu cihazlarda çalıştırmak mümkündür, ancak modeli yeniden eğitmek çok daha fazla hesaplama gücü gerektirir.
-
Veriler cihaza kilitli: Yeniden eğitim için gereken görüntüler genellikle tescillidir ve merkezi bir sunucuya gönderilemez; bu nedenle model, uç cihazdan hiç ayrılmayan verilerden öğrenmek zorundadır.
-
Sahada uzman yok: Sahada veri toplayan operatörler nadiren makine öğrenimi mühendisidir; bu nedenle yeniden eğitim, veri bilimi uzmanlığının sahada bulunmasına bağlı olamaz.
-
Sürekli değişen koşullar: Saha ortamları hızla değişir; bu nedenle modelin yavaş ve periyodik yeniden eğitim döngüleri yerine sürekli güncellenmesi gerekir.
Ultralytics YOLO modellerini uç cihazlarda ince ayarlama#
Scaleout, bu kısıtlar içinde çalışabilmek için merkezinde Ultralytics YOLO modellerinin yer aldığı ve tamamen sahada çalışan bir eğitim döngüsü oluşturdu.
Her sahada, kendi hesaplama gücüne ve depolama alanına sahip GPU hızlandırmalı bir uç istasyon olan Vision Ground Node, bir drone filosunun yanında konumlanır. Dronelar görüntüleri yakaladıkça düğüm en yararlı kareleri seçer, bir operatör bu kareleri etiketler ve YOLO modeli yerel donanım üzerinde ince ayarlanır.
Birkaç eğitim epoch'undan sonra yalnızca güncellenen model kontrol düzlemine gönderilir; ham görüntüler asla gönderilmez. Bu döngü, bilgisayarlı görü projesinin ihtiyaç duyduğu araçları tek bir pakette bir araya getiren Scaleout Edge platformu uzantısı Scaleout'un vision modülü aracılığıyla sunulur.
Kare seçimi, açıklama, eğitim ve dağıtımı bir araya getirir; tespit işlemini Ultralytics YOLO üstlenir. Böylece ekipler bu parçaları kendileri bir araya getirmek yerine çalışan bir temel üzerine inşa edebilir.
Scaleout bu yaklaşımı ilk olarak NATO DIANA hızlandırıcı programında, sahada toplanan veriler üzerinde tespiti ince ayarlamak için YOLOv8'i kullanarak hayata geçirdi. Bu veriler, tescilli olmaları nedeniyle saha ağları üzerinden taşınamıyor veya merkezileştirilemiyordu; bu nedenle ekip ince ayar sürecini dağıtarak modelin yeni örneklerden yerel olarak öğrenmesini sağladı.
Bu döngü veri bilimcilerinden çok operatörler için tasarlandı. Sistem, uzman olmayan bir kullanıcıya önemli kareleri inceleme ve etiketleme sürecinde rehberlik eder; böylece sahadaki kişiler modeli kendi başlarına geliştirmeye devam edebilir.
Bunu destekleyen araçlar arasında açıklama için Label Studio'nun açık kaynak sürümü, drone yayınlarını almak için bir akış sunucusu ve ince ayar için Ultralytics Python paketi bulunur. Tüm bunlar, kuruluma bağlı olarak NVIDIA Jetson modüllerinden sağlam bir saha birimine veya dizüstü bilgisayara kadar farklı donanımlarda çalışır.
Neden Ultralytics YOLO modellerini seçmelisin?#
Scaleout için Ultralytics YOLO'nun en büyük avantajı, modellerin ne kadar hafif olduğudur; federatif eğitimi zayıf bağlantılar üzerinden uygulanabilir kılan da budur. Scaleout, ham verileri taşımak yerine yalnızca model güncellemesini taşır. En sık kullandığı model olan Ultralytics YOLOv8 nano yaklaşık 10,7 MB boyutundadır; bu nedenle bant genişliğinin kısıtlı olduğu durumlarda bile tam bir güncelleme gönderilmesi gereken küçük bir pakettir.
Ultralytics Python paketi, Scaleout mühendislerine farklı donanımlarda eğitim ve dağıtım yapma esnekliği de sağlar. Kompakt YOLOv8 nano modeli kısıtlı uç cihazlarda rahatça çalışırken paketin dışa aktarma seçenekleri, Scaleout'un çalıştığı farklı ortamlarda dağıtımı destekler. Modellerin ince ayarı kolay olduğundan ekipler saha koşulları değiştikçe hızlıca yineleme yapabilir.
Ultralytics YOLO, Scaleout'un modelleri daha hızlı güncellemesine yardımcı oluyor#
Ultralytics YOLO ile işin en yoğun kısmı cihazda kalır. Eğitim, yüzlerce gigabaytlık saha görüntüsü üzerinde çalışır, ancak taşınan şey yaklaşık 10 MB boyutunda bir modeldir. Bu, taşınması gereken veri miktarında yaklaşık on kat azalma sağlar ve federatif eğitimi bu kurulumların dayandığı sınırlı ağlar üzerinden uygulanabilir kılar.
Bu yaklaşım, iyileştirilmiş bir modelin sahaya ne kadar hızlı geri döndüğünü de değiştirir. Veri toplama, veriyi merkezi bir konuma gönderme, yeniden eğitim ve yeniden dağıtım gibi normalde haftalar veya aylar sürebilecek süreçler, döngü uç cihazda çalıştığında günlere ve saatlere iner.
Bu durum en açık şekilde Scaleout'un drone çalışmalarında görülür. Savunma amaçlı keşif görevlerinde bir drone, arama rotası izler ve gerçek zamanlı olarak ilgi alanındaki nesneleri tespit etmek, tanımlamak ve coğrafi konumlarını belirlemek için üzerinde bulunan Ultralytics YOLO modelini kullanır; tüm işlemler analiz için başka bir yere gönderilmek yerine doğrudan dronenun kendi bilgisayarında gerçekleştirilir.
Dronelar yeni görüntüler topladıkça bu veriler, YOLO'nun yeni kareler üzerinde ince ayarlandığı bir Vision Ground Node'a aktarılır ve güncellenmiş model yeniden sahaya gönderilir; görüntüler bu süreçte hiçbir zaman sahadan ayrılmaz. Tespit modellerinin hızla değişen koşullara ve taşınamayan verilere ayak uydurması gerekir; yerel olarak yeniden eğitilen bir model, sabit ve merkezi olarak eğitilmiş bir modelin geride kalacağı ortamlarda kullanılabilirliğini korur.
Şekil 1. Scaleout ve Ultralytics YOLO'nun yapay zekâ dronelarına nasıl güç verdiğine dair bir örnek (Kaynak)
Aynı yaklaşım droneların çok ötesine uzanır. Enerji sahaları ve uzak tesisler gibi, her konumdaki verilerin hassas olduğu endüstriyel ortamlarda platform, ham verilerin hiçbir tesis sınırını geçmesine gerek kalmadan birçok sahadaki tespit modellerini geliştirir. Veriler bir drone üzerinde veya sabit bir kurulumda bulunsun, Scaleout görüntüleri yerinde tutar ve yalnızca modelin öğrendiklerini taşır.
Verilerin taşınamadığı ortamlar için uyarlanabilir yapay zekâ oluşturmak#
Scaleout büyüdükçe federatif ve uç cihaz tabanlı bilgisayarlı görü çözümünü daha fazla ortama ve donanıma genişletmeye devam ediyor. Hazır modülleri, aylar süren entegrasyonu günlere indirmek üzere tasarlanmıştır; böylece müşteriler kendi donanımlarını kullanabilir ve temel makine öğrenimi kodunu yeniden oluşturmadan uyarlanabilir öğrenme döngüsünü benimseyebilir.
Tespit hattının merkezinde Ultralytics YOLO bulunan Scaleout, geleneksel yaklaşımların yetersiz kaldığı ortamlarda yapay zekâyı eğitmeyi ve geliştirmeyi mümkün kılıyor; verileri yerinde tutuyor, ağlar devre dışı kaldığında çalışmayı sürdürüyor ve uç cihaz filolarını bir bütün olarak öğrenmeye devam eden bir sisteme dönüştürüyor.
Vision AI'ın senin için neler yapabileceğini keşfetmeye hazır mısın? YOLO modellerinin üretimde yapay zekâ ve robotikte bilgisayarlı görü gibi alanları nasıl dönüştürdüğünü öğrenmek için GitHub depomuza göz at. Lisanslama seçeneklerimizi incele ve daha akıllı otomasyona doğru yolculuğuna başla.
