Verimli edge AI için Ultralytics YOLO11'i Rockchip'te dağıtma

Yapay zekâ topluluğunda son dönemde sıkça konuşulan konulardan biri, özellikle bilgisayarlı görü söz konusu olduğunda, uç yapay zekâdır. Yapay zekâ destekli uygulamalar yaygınlaştıkça, modelleri sınırlı güç ve işlem kaynaklarına sahip gömülü cihazlarda verimli bir şekilde çalıştırma ihtiyacı artıyor.

Örneğin dronlar gerçek zamanlı navigasyon için görüntü yapay zekâsından yararlanır, akıllı kameralar nesneleri anında algılar ve endüstriyel otomasyon sistemleri bulut bilişime ihtiyaç duymadan kalite kontrolü yapar. Bu uygulamalar, gerçek zamanlı performans ve düşük gecikme sağlamak için uç cihazlarda doğrudan hızlı ve verimli yapay zekâ işlemeyi gerektirir. Ancak yapay zekâ modellerini uç cihazlarda çalıştırmak her zaman kolay değildir. Yapay zekâ modelleri çoğu zaman uç cihazların sağlayabileceğinden daha fazla güç ve bellek gerektirir.

Rockchip’in RKNN Toolkit’i, Rockchip destekli cihazlar için derin öğrenme modellerini optimize ederek bu sorunun çözülmesine yardımcı olur. Çıkarımı hızlandırmak için özel sinir işleme birimlerinden (NPUs) yararlanır; CPU veya GPU işlemeye kıyasla gecikmeyi ve güç tüketimini azaltır.

Görsel Yapay Zekâ topluluğu, Ultralytics YOLO11 modelini Rockchip tabanlı cihazlarda çalıştırmayı heyecanla bekliyordu ve seni duyduk. YOLO11’i RKNN model biçimine aktarma desteği ekledik. Bu makalede, RKNN’ye aktarma işleminin nasıl çalıştığını ve YOLO11’i Rockchip destekli cihazlarda dağıtmanın uç yapay zekâ için neden bu kadar yararlı olduğunu inceleyeceğiz.

Rockchip ve RKNN Toolkit nedir?#

Rockchip, çok sayıda gömülü cihaza güç veren küçük ama güçlü işlemciler olan çip üzerindeki sistemleri (SoCs) tasarlayan bir şirkettir. Bu çipler, genel bilgi işlem görevlerinden nesne algılama ve görüntü işleme kullanan görüntü yapay zekâsı uygulamalarına kadar her işi gerçekleştirmek için CPU, GPU ve Sinir İşlem Birimini (NPU) bir araya getirir.

Rockchip SoC'leri tek kartlı bilgisayarlar (SBCs), geliştirme kartları, endüstriyel yapay zekâ sistemleri ve akıllı kameralar dâhil olmak üzere çeşitli cihazlarda kullanılır. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi tanınmış donanım üreticilerinin çoğu, Rockchip SoC'leriyle çalışan cihazlar üretir. Bu kartlar performans, güç verimliliği ve uygun fiyat arasında denge sundukları için uç yapay zekâ ve bilgisayarlı görü uygulamalarında popülerdir.

Şekil 1. Rockchip destekli bir cihaz örneği.

Yapay zekâ modellerinin bu cihazlarda verimli çalışmasına yardımcı olmak için Rockchip, RKNN (Rockchip Neural Network) Toolkit'i sunar. Bu araç, geliştiricilerin derin öğrenme modellerini Rockchip’in Sinir İşlem Birimlerinden (NPUs) yararlanacak şekilde dönüştürüp optimize etmesini sağlar.

RKNN modelleri, düşük gecikmeli çıkarım ve verimli güç kullanımı için optimize edilmiştir. Geliştiriciler modelleri RKNN'ye dönüştürerek Rockchip destekli cihazlarda daha yüksek işlem hızları, daha düşük güç tüketimi ve daha iyi verimlilik elde edebilir.

RKNN modelleri optimize edilmiştir#

RKNN modellerinin Rockchip destekli cihazlarda yapay zekâ performansını nasıl artırdığına daha yakından bakalım.

Çok çeşitli bilgi işlem görevlerini yerine getiren CPU ve GPU'lardan farklı olarak Rockchip’in NPU'ları, özellikle derin öğrenme için tasarlanmıştır. Geliştiriciler, yapay zekâ modellerini RKNN biçimine dönüştürerek çıkarımları doğrudan NPU üzerinde çalıştırabilir. Bu özelliğiyle RKNN modelleri, hızlı ve verimli işlemenin kritik olduğu gerçek zamanlı bilgisayarlı görü görevleri için özellikle kullanışlıdır.

NPU'lar, sinir ağı hesaplamalarını paralel olarak işlemek üzere tasarlandıkları için yapay zekâ görevlerinde CPU ve GPU'lardan daha hızlı ve verimlidir. CPU'lar görevleri tek tek işlerken GPU'lar iş yüklerini birden fazla çekirdeğe dağıtır; NPU'lar ise yapay zekâya özgü hesaplamaları daha verimli şekilde gerçekleştirmek için optimize edilmiştir.

Sonuç olarak RKNN modelleri daha hızlı çalışır ve daha az güç kullanır. Bu özellikleriyle pille çalışan cihazlar, akıllı kameralar, endüstriyel otomasyon ve gerçek zamanlı karar verme gerektiren diğer uç yapay zekâ uygulamaları için idealdir.

Ultralytics YOLO modellerine genel bakış#

Ultralytics YOLO (You Only Look Once) modelleri, nesne algılama, örnek segmentasyonu ve görüntü sınıflandırması gibi gerçek zamanlı bilgisayarlı görü görevleri için tasarlanmıştır. Hızları, doğrulukları ve verimlilikleriyle tanınırlar; tarım, imalat, sağlık hizmetleri ve otonom sistemler gibi sektörlerde yaygın olarak kullanılırlar.

Bu modeller zaman içinde önemli ölçüde gelişti. Örneğin Ultralytics YOLOv5, PyTorch ile nesne algılamayı daha kolay kullanılabilir hâle getirdi. Ardından Ultralytics YOLOv8, poz tahmini gibi yeni görevler ekledi ve algılama, segmentasyon, sınıflandırma ile pozu tek bir çatı altında bir araya getirdi. YOLO11 ise daha az kaynak kullanırken doğruluğu artırarak çıtayı yükseltiyor. Nitekim YOLO11m, YOLOv8m’ye kıyasla %22 daha az parametre kullanırken COCO veri kümesinde daha iyi performans gösteriyor; böylece hem daha hassas hem de daha verimli oluyor.

Şekil 2. Ultralytics YOLO11 ile nesne algılama.

Ultralytics YOLO modelleri ayrıca birden fazla biçime aktarmayı destekleyerek farklı platformlarda esnek dağıtım olanağı sunar. Bu biçimler arasında ONNX, TensorRT, CoreML ve OpenVINO bulunur. Böylece geliştiriciler performansı hedef donanıma göre optimize edebilir.

YOLO11’i RKNN model biçimine aktarma desteğiyle YOLO11 artık Rockchip’in NPU’larından yararlanabiliyor. RKNN biçimindeki en küçük model olan YOLO11n, görüntü başına 99,5 ms çıkarım süresine ulaşarak gömülü cihazlarda bile gerçek zamanlı işlemeyi mümkün kılıyor.

Ultralytics YOLO11 modelini RKNN biçimine aktarma#

Bu yazı yazılırken Ultralytics YOLO11 nesne algılama modelleri RKNN biçimine aktarılabiliyordu. O zamandan beri RKNN’ye aktarma desteği, yukarıda bağlantısı verilen RKNN entegrasyon kılavuzunda açıklandığı üzere, tüm Ultralytics görevlerini ve INT8 nicelemesini (quantize=8) kapsayacak şekilde genişledi.

Ultralytics YOLO11'i RKNN biçimine aktarmak oldukça basittir. Özel olarak eğitilmiş YOLO11 modelini yükleyebilir, hedef Rockchip platformunu belirtebilir ve birkaç satır kodla modeli RKNN biçimine dönüştürebilirsin. RKNN biçimi, RK3588, RK3566 ve RK3576 dâhil çeşitli Rockchip SoC'leriyle uyumludur ve geniş donanım desteği sağlar.

Şekil 3. Ultralytics YOLO11'i RKNN model biçimine aktarma.

Ultralytics YOLO11'i Rockchip tabanlı cihazlarda dağıtma#

Aktarıldıktan sonra RKNN modeli Rockchip tabanlı cihazlarda dağıtılabilir. Modeli dağıtmak için dışa aktarılan RKNN dosyasını Rockchip cihazına yüklemen ve çıkarımı çalıştırman yeterlidir. Çıkarım, eğitilmiş yapay zekâ modelini kullanarak yeni görüntüleri veya videoları analiz etme ve nesneleri gerçek zamanlı algılama sürecidir. Yalnızca birkaç satır kodla görüntülerdeki veya video akışlarındaki nesneleri tanımaya başlayabilirsin.

Şekil 4. Dışa aktarılan RKNN modelini kullanarak çıkarım çalıştırma.

Ultralytics YOLO11 ve Rockchip'in uç yapay zekâ uygulamaları#

Ultralytics YOLO11'in gerçek dünyada Rockchip destekli cihazlarda nerelerde kullanılabileceğini daha iyi anlamak için bazı temel uç yapay zekâ uygulamalarını ele alalım.

Rockchip işlemciler Android tabanlı tabletlerde, geliştirme kartlarında ve endüstriyel yapay zekâ sistemlerinde yaygın olarak kullanılır. Android, Linux ve Python desteğiyle çeşitli sektörlere yönelik görüntü yapay zekâsı çözümlerini kolayca geliştirebilir ve dağıtabilirsin.

Ultralytics YOLO11 entegre edilmiş dayanıklı tabletler#

Ultralytics YOLO11'i Rockchip destekli cihazlarda çalıştırmanın yaygın bir kullanım alanı dayanıklı tabletlerdir. Bunlar depo, şantiye ve endüstriyel ortamlar gibi zorlu koşullara yönelik tasarlanmış, dayanıklı ve yüksek performanslı tabletlerdir. Bu tabletler verimliliği ve güvenliği artırmak için nesne algılamadan yararlanabilir.

Örneğin depo lojistiğinde çalışanlar, envanteri otomatik olarak tarayıp algılamak, insan hatasını azaltmak ve işlem sürelerini kısaltmak için YOLO11 yüklü Rockchip destekli bir tablet kullanabilir. Benzer şekilde şantiyelerde bu tabletler çalışanların kask ve yelek gibi gerekli güvenlik ekipmanlarını giyip giymediğini algılamak için kullanılabilir; böylece şirketler düzenlemeleri uygulatıp kazaları önleyebilir.

Şekil 5. Ultralytics YOLO11 ile güvenlik ekipmanlarını algılama.

Kalite kontrol için endüstriyel yapay zekâ#

İmalat ve otomasyon alanlarında Rockchip destekli endüstriyel kartlar, kalite kontrol ve süreç izlemede önemli rol oynayabilir. Endüstriyel kart, endüstriyel ortamlardaki gömülü sistemler için tasarlanmış kompakt ve yüksek performanslı bir bilgi işlem modülüdür. Bu kartlar genellikle sensörler, kameralar ve otomatik makinelerle entegre edilebilen işlemciler, bellek, G/Ç arayüzleri ve bağlantı seçenekleri içerir.

Bu kartlarda Ultralytics YOLO11 modellerini çalıştırmak, üretim hatlarını gerçek zamanlı analiz etmeyi, sorunları anında tespit etmeyi ve verimliliği artırmayı mümkün kılar. Örneğin otomobil üretiminde Rockchip donanımı ve YOLO11 kullanan bir yapay zekâ sistemi, araçlar montaj hattında ilerlerken çizikleri, hizasız parçaları veya boya kusurlarını algılayabilir. Üreticiler bu kusurları gerçek zamanlı tespit ederek israfı azaltabilir, üretim maliyetlerini düşürebilir ve araçlar müşterilere ulaşmadan önce daha yüksek kalite standartlarını sağlayabilir.

Ultralytics YOLO11'i Rockchip tabanlı cihazlarda çalıştırmanın avantajları#

Rockchip tabanlı cihazlar performans, maliyet ve verimlilik arasında iyi bir denge sunarak Ultralytics YOLO11'i uç yapay zekâ uygulamalarında dağıtmak için harika bir seçenek oluşturur.

Ultralytics YOLO11'i Rockchip tabanlı cihazlarda çalıştırmanın bazı avantajları şunlardır:

• Geliştirilmiş yapay zekâ performansı: Rockchip destekli cihazlar, Raspberry Pi gibi CPU tabanlı kartlardan daha verimli yapay zekâ çıkarımı yaparak daha hızlı nesne algılama ve daha düşük gecikme sağlar.
• Uygun maliyetli çözüm: Yapay zekâyı deniyorsan ve güçlü performans sunmaya devam eden bütçe dostu bir seçeneğe ihtiyacın varsa Rockchip harika bir tercihtir. Hızdan veya verimlilikten ödün vermeden Ultralytics YOLO11'i çalıştırmak için uygun fiyatlı bir yol sunar.
• Enerji verimliliği: Bilgisayarlı görü modellerini Rockchip destekli cihazlarda çalıştırmak GPU'lara kıyasla daha az güç tüketir; bu da bu cihazları pille çalışan cihazlar ve gömülü yapay zekâ uygulamaları için ideal kılar.

Önemli çıkarımlar#

Ultralytics YOLO11, donanım hızlandırmasından ve RKNN biçiminden yararlanarak Rockchip tabanlı cihazlarda verimli şekilde çalışabilir. Bu, çıkarım süresini azaltıp performansı artırır ve modeli gerçek zamanlı bilgisayarlı görü görevleri ile uç yapay zekâ uygulamaları için ideal hâle getirir.

RKNN Toolkit, niceleme gibi temel optimizasyon araçları sunarak Ultralytics YOLO11 modellerinin Rockchip platformlarında iyi performans göstermesini sağlar. Uç yapay zekânın benimsenmesi arttıkça modelleri cihaz üzerinde verimli işlemeye uygun hâle getirmek kritik önem taşıyacak. Geliştiriciler, doğru araçlar ve donanımla çeşitli sektörlerde bilgisayarlı görü çözümleri için yeni olanakların kapısını aralayabilir.

Topluluğumuza katıl ve yapay zekâ hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfet. Çözümler sayfalarımızı ziyaret ederek tarımda bilgisayarlı görü ve sağlık hizmetlerinde yapay zekânın yenilikleri nasıl desteklediğini gör. Ayrıca bugün görüntü yapay zekâsı çözümlerini geliştirmeye başlamak için lisanslama seçeneklerimize göz at!