Göster ve anlat: Ultralytics YOLOv8'in gömülü cihazlara dağıtımı

Göster ve anlat: Gömülü cihazlarda Ultralytics YOLOv8 dağıtımı#

YOLO Vision 2023 (YV23) etkinliğinde Lakshantha Dissanayake, Ultralytics YOLOv8 modellerini gömülü cihazlara, özellikle NVIDIA Jetson ve MCU platformlarına dağıtmanın ayrıntılarını anlattı. Madrid'deki Google for Startups Campus'te yaptığı konuşmanın öne çıkan noktaları şöyle.

Lakshantha Dissanayake ile tanış#

Seeed Studio'da Uygulama Mühendisi olan Lakshantha Dissanayake, şirketin AIoT girişimleri üzerinde çalışıyor. Konuşmasında Seeed Studio'nun geliştiriciler, ISV'ler ve SI'larla iş birliklerini teşvik etme ve teknolojiyi daha erişilebilir kılma taahhüdünü vurguladı.

Uç bilişimin evrimi#

Uç bilişime geçiş, bilişim alanında merkezi olmayan veri işlemeye doğru bir değişimi temsil ediyor. İş yüklerinin uç cihazlarda çalıştırılması, gerçek zamanlı işlemeyi mümkün kılıyor, gecikmeyi azaltıyor ve çeşitli sektörlerde sistemlerin daha hızlı tepki vermesini sağlıyor.

Lakshantha sunumunda uç cihazların karşılaştığı zorlukları, geçirdiği evrimi ve teknolojiyi erişilebilir kılmadaki rolünü ele aldı. Özellikle video analitiği uygulamaları için uç performansını optimize etmenin inceliklerinden bahsetti.

Dağıtım zorluklarının üstesinden gelmek#

Piyasaya çok sayıda yeni GPU cihazı çıkıyor ancak fiyatları oldukça yüksek. Öte yandan Jetson serisi gibi gömülü cihazlar, son kullanıcıların ihtiyaç duydukları analizleri gerçekleştirmesini kolaylaştıran çeşitli dağıtım özellikleri sunuyor. Seeed Studio Jetson cihazlarını kullanmaya nasıl başlayacağını öğrenmek istiyorsan herhangi bir kamerayı Ultralytics YOLOv8 ve Seeed Studio uç cihazlarıyla yükseltme hakkındaki yazımızı oku.

Lakshantha, Ultralytics YOLOv8'i uç cihazlara dağıtmanın zorluklarını ele alarak pratik çözümler paylaştı. İşletim sistemini (OS) yüklemekten ortamı kurmaya kadar her adımı anlatarak dağıtım sürecini geliştiriciler için daha erişilebilir hâle getirdi.

TensorRT ve DeepStream#

TensorRT, NVIDIA gömülü cihazları için yüksek performanslı bir çıkarım motorudur. Ultralytics YOLOv8 modelini niceleyip optimize ederek uç cihazlardaki performansını artırabilir.

Lakshantha ayrıca TensorRT'nin çıkarım performansını nasıl artırdığını ve DeepStream teknolojisinin çoklu akış uygulamalarının verimliliğini nasıl yükselttiğini gösterdi. Uygulamalı gösterimler, bu araçların YOLO modellerinin gömülü cihazlarda verimli çalışmasına nasıl yardımcı olduğunu ortaya koydu.

MCU platformunun tanıtımı#

Öne çıkan bir diğer bölüm, Lakshantha'nın SenseCraft Model Assistant'ı kullanarak YOLO modellerini MCU platformunda dağıttığı canlı gösterimdi. Gösteri, izleyicilere uç yapay zekânın nereye doğru ilerlediğini gösterdi.

Kapanış#

Bugün odak noktalarının çoğu, müşterilerin düşük bakım gereksinimli ve uygun maliyetli çözümler aradığı gömülü cihazlar. Seeed Studio gömülü cihazlarında, geliştiricilerin ve son kullanıcıların işlerini kolaylaştıran ön yükleme işlevi bulunuyor.

Genel olarak oturum, uç dağıtımının teknik ayrıntılarını ele aldı ve yapay zekâ topluluğundaki iş birliği ruhunu vurguladı.

Ultralytics YOLOv8'in gömülü cihazlara dağıtılması hakkındaki konuşmanın tamamını izle.