Göster ve anlat: Gömülü cihazlarda Ultralytics YOLOv8 dağıtımı

Göster ve anlat: Gömülü cihazlarda Ultralytics YOLOv8 dağıtımı#

YOLO VISION 2023 (YV23) etkinliğinde Lakshantha Dissanayake, Ultralytics YOLOv8 modellerini gömülü cihazlara, özellikle de NVIDIA Jetson ve MCU platformlarına konuşlandırmanın inceliklerini anlattı. Madrid'deki Google for Startups Campus'te paylaştığı bu değerli yolculuğa yakından bakalım.

Lakshantha Dissanayake ile tanışın#

Seeed Studio'da Uygulama Mühendisi olan Lakshantha Dissanayake, Seeed Studio'nun AIoT inovasyonundaki çalışmalarına liderlik ediyor. Konuşmasında Seeed Studio'nun geliştiriciler, Bağımsız Yazılım Satıcıları (ISV'ler) ve Sistem Entegratörleri (SI'lar) ile ortaklıkları teşvik etme taahhüdünün altını çizdi ve teknolojinin demokratikleştirilmesini vurguladı.

Uç bilişim evrimi#

Uç bilişim evrimi, merkeziyetsiz veri işlemeye vurgu yaparak bilişimde çok önemli bir değişimi ifade eder. Uç cihazlara odaklanan bu evrim; gerçek zamanlı işlemeyi geliştirir, gecikmeyi azaltır ve çeşitli sektörlerdeki verimli ve duyarlı sistemler için yerel cihazları güçlendirir.

Lakshantha sunumu sırasında, teknolojiyi erişilebilir kılmada oynadıkları kritik rolü kabul ederek uç cihazların zorluklarını ve evrimini inceledi. İzleyicilere zemin hazırlamak adına, özellikle video analitiği uygulamaları için uç performansını optimize etmenin inceliklerini ele aldı.

Dağıtım zorluklarının üstesinden gelmek#

Piyasaya çok sayıda yeni GPU cihazı giriyor ancak bunların fiyatları oldukça yüksek. Öte yandan Jetson serisi gibi gömülü cihazlar, son kullanıcıların ihtiyaç duydukları analitiği gerçekleştirmesini kolaylaştıran bir dizi konuşlandırma özelliği sunuyor. Seeedstudio Jetson cihazlarıyla nasıl başlayacağını öğrenmekle ilgileniyorsan blogumuzu ziyaret edebilirsin.

Lakshantha, Ultralytics YOLOv8 modellerinin uç cihazlara (edge devices) dağıtımı sırasında karşılaşılan zorlukları aşmak için pratik çözümler paylaştı. İşletim sistemi (OS) kurulumundan ortamın hazırlanmasına kadar konuşma, karmaşıklıkları ortadan kaldırarak geliştiriciler için dağıtım sürecini daha erişilebilir hale getirdi.

TensorRT ve DeepStream sihri#

TensorRT, gömülü cihazlarda çıkarım için üst düzey bir motor görevi görür. Ultralytics YOLOv8 modelini niceler (quantize) ve optimize eder, böylece performansını özellikle uç cihazlar için geliştirir.

Lakshantha ayrıca TensorRT'nin çıkarım performansını artırmadaki sihrini ve DeepStream kullanarak çok akışlı uygulamaların verimliliğini sergiledi. Pratik gösterimler, bu araçların gömülü cihazlarda YOLO modellerinin potansiyelini en üst düzeye çıkarmadaki gücünü gözler önüne serdi.

MCU Platformu tanıtımı#

Bir diğer heyecan verici öne çıkan nokta ise Lakshantha'nın SenseGraph model asistanını kullanarak YOLO modellerini MCU platformuna konuşlandırmasına dair canlı gösterimiydi. Edge AI'ın geleceğine dair bu ipucu, katılımcıları olasılıkları keşfetme konusunda sabırsızlandırdı.

Toparlarken#

Bu çağda ilgi odağı, müşterilerin minimum bakımla uygun maliyetli çözümler aradığı gömülü cihazlardır. Seeed Studio gömülü cihazları, geliştiriciler ve son kullanıcılar için kolay operasyonlar sağlayan ön yükleme (preboot) işlevselliğine sahiptir.

Genel olarak oturum yalnızca teknik yönleri aydınlatmakla kalmadı, aynı zamanda AI topluluğundaki iş birliği ruhunu da gözler önüne sererek tüm katılımcılar için aydınlatıcı bir deneyim haline geldi.

Ultralytics YOLOv8 gömülü cihaz dağıtımı konuşmasının tamamını izle!