Verimli edge AI için Rockchip üzerinde Ultralytics YOLO11 dağıtımı

Yapay zeka topluluğunda, özellikle bilgisayarlı görü söz konusu olduğunda, uç yapay zeka son zamanların popüler kavramlarından biridir. Yapay zeka destekli uygulamalar büyüdükçe, modelleri sınırlı güç ve bilgi işlem kaynaklarına sahip gömülü cihazlarda verimli bir şekilde çalıştırma ihtiyacı artıyor.

Örneğin, dronlar gerçek zamanlı navigasyon için görü yapay zekasını kullanır, akıllı kameralar nesneleri anında algılar ve endüstriyel otomasyon sistemleri bulut bilişime güvenmeden kalite kontrol yapar. Bu uygulamalar, gerçek zamanlı performans ve düşük gecikme süresi sağlamak için uç cihazlarda doğrudan hızlı ve verimli yapay zeka işleme gerektirir. Ancak, yapay zeka modellerini uç cihazlarda çalıştırmak her zaman kolay değildir. Yapay zeka modelleri genellikle birçok uç cihazın kaldırabileceğinden daha fazla güç ve bellek gerektirir.

Rockchip'in RKNN Toolkit'i, derin öğrenme modellerini Rockchip destekli cihazlar için optimize ederek bu sorunu çözmeye yardımcı olur. Çıkarımı hızlandırmak, CPU veya GPU işlemeye kıyasla gecikmeyi ve güç tüketimini azaltmak için özel Sinir İşleme Birimleri (NPU'lar) kullanır.

Görü yapay zeka topluluğu, Ultralytics YOLO11 modelini Rockchip tabanlı cihazlarda çalıştırmak için istekliydi ve sesinizi duyduk. YOLO11'i RKNN model formatına dışa aktarma desteğini ekledik. Bu makalede, RKNN'e dışa aktarmanın nasıl çalıştığını ve YOLO11'i Rockchip destekli cihazlarda dağıtmanın neden ezber bozan bir gelişme olduğunu keşfedeceğiz.

Link to this sectionRockchip ve RKNN Toolkit nedir?#

Rockchip, birçok gömülü cihazı çalıştıran küçük ama güçlü işlemciler olan çip üstü sistemler (SoC'ler) tasarlayan bir şirkettir. Bu çipler; genel bilgi işlem görevlerinden nesne algılama ve görüntü işleme süreçlerine dayanan görü yapay zeka uygulamalarına kadar her şeyi yönetmek için bir CPU, GPU ve Sinir İşleme Birimini (NPU) birleştirir.

Rockchip SoC'ler; tek kartlı bilgisayarlar (SBC'ler), geliştirme kartları, endüstriyel yapay zeka sistemleri ve akıllı kameralar dahil olmak üzere çeşitli cihazlarda kullanılır. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi birçok tanınmış donanım üreticisi, Rockchip SoC'lerle çalışan cihazlar üretmektedir. Bu kartlar, performans, güç verimliliği ve uygun fiyat dengesi sundukları için uç yapay zeka ve bilgisayarlı görü uygulamaları için popülerdir.

Şekil 1. Rockchip destekli bir cihaz örneği.

Yapay zeka modellerinin bu cihazlarda verimli bir şekilde çalışmasına yardımcı olmak için Rockchip, RKNN (Rockchip Neural Network) Toolkit'i sağlar. Geliştiricilerin derin öğrenme modellerini Rockchip'in Sinir İşleme Birimlerini (NPU'lar) kullanacak şekilde dönüştürmelerine ve optimize etmelerine olanak tanır.

RKNN modelleri, düşük gecikmeli çıkarım ve verimli güç kullanımı için optimize edilmiştir. Geliştiriciler, modelleri RKNN'e dönüştürerek Rockchip destekli cihazlarda daha hızlı işlem hızları, düşük güç tüketimi ve iyileştirilmiş verimlilik elde edebilirler.

Link to this sectionRKNN modelleri optimize edilmiştir#

RKNN modellerinin Rockchip özellikli cihazlarda yapay zeka performansını nasıl artırdığına daha yakından bakalım.

Çok çeşitli bilgi işlem görevlerini yöneten CPU'lar ve GPU'ların aksine, Rockchip'in NPU'ları özellikle derin öğrenme için tasarlanmıştır. Geliştiriciler, yapay zeka modellerini RKNN formatına dönüştürerek çıkarımları doğrudan NPU üzerinde çalıştırabilirler. Bu, RKNN modellerini hızlı ve verimli işlemenin şart olduğu gerçek zamanlı bilgisayarlı görü görevleri için özellikle kullanışlı kılar.

NPU'lar, sinir ağı hesaplamalarını paralel olarak yürütmek üzere oluşturulduklarından, yapay zeka görevleri için CPU ve GPU'lardan daha hızlı ve daha verimlidir. CPU'lar görevleri her seferinde bir adım olacak şekilde işler ve GPU'lar iş yüklerini birden fazla çekirdeğe dağıtırken, NPU'lar yapay zekaya özgü hesaplamaları daha verimli gerçekleştirmek üzere optimize edilmiştir.

Sonuç olarak, RKNN modelleri daha hızlı çalışır ve daha az güç tüketir; bu da onları pille çalışan cihazlar, akıllı kameralar, endüstriyel otomasyon ve gerçek zamanlı karar verme gerektiren diğer uç yapay zeka uygulamaları için ideal hale getirir.

Link to this sectionUltralytics YOLO modellerine genel bakış#

Ultralytics YOLO (You Only Look Once) modelleri; nesne algılama, örnek segmentasyonu ve görüntü sınıflandırma gibi gerçek zamanlı bilgisayarlı görü görevleri için tasarlanmıştır. Hızları, doğrulukları ve verimlilikleri ile bilinirler; tarım, üretim, sağlık hizmetleri ve otonom sistemler gibi çeşitli endüstrilerde yaygın olarak kullanılırlar.

Bu modeller zamanla önemli ölçüde gelişti. Örneğin, Ultralytics YOLOv5 nesne algılamayı PyTorch ile daha kolay kullanılabilir hale getirdi. Ardından, Ultralytics YOLOv8 poz tahmini ve görüntü sınıflandırma gibi yeni özellikler ekledi. Şimdi, YOLO11 daha az kaynak kullanarak doğruluğu artırarak işleri bir adım ileriye taşıyor. Aslında YOLO11m, COCO veri setinde YOLOv8m'den %22 daha az parametre kullanarak daha iyi performans gösteriyor ve bu da onu hem daha hassas hem de daha verimli kılıyor.

Şekil 2. YOLO11 kullanarak nesneleri algılama.

Ultralytics YOLO modelleri ayrıca birden fazla formata dışa aktarmayı destekleyerek farklı platformlarda esnek dağıtıma olanak tanır. Bu formatlar arasında ONNX, TensorRT, CoreML ve OpenVINO bulunur ve geliştiricilere hedef donanımlarına göre performansı optimize etme özgürlüğü sağlar.

YOLO11'in RKNN model formatına dışa aktarılmasına eklenen destekle, YOLO11 artık Rockchip'in NPU'larından yararlanabilir. RKNN formatındaki en küçük model olan YOLO11n, görüntü başına 99,5 ms'lik etkileyici bir çıkarım süresine ulaşarak gömülü cihazlarda bile gerçek zamanlı işlemeyi mümkün kılar.

Link to this sectionYOLO11 modelini RKNN formatına dışa aktarma#

Şu anda YOLO11 nesne algılama modelleri RKNN formatına dışa aktarılabilir. Ayrıca beklemede kalın; gelecekteki güncellemelerde diğer bilgisayarlı görü görevleri ve INT8 nicemleme için destek eklemeye çalışıyoruz.

YOLO11'i RKNN formatına dışa aktarmak basit bir işlemdir. Özel olarak eğitilmiş YOLO11 modelinizi yükleyebilir, hedef Rockchip platformunu belirleyebilir ve birkaç satır kodla onu RKNN formatına dönüştürebilirsiniz. RKNN formatı; RK3588, RK3566 ve RK3576 dahil olmak üzere çeşitli Rockchip SoC'leri ile uyumludur ve geniş donanım desteği sağlar.

Şekil 3. YOLO11'i RKNN model formatına dışa aktarma.

Link to this sectionYOLO11'i Rockchip tabanlı cihazlarda dağıtma#

Dışa aktarıldıktan sonra, RKNN modeli Rockchip tabanlı cihazlarda dağıtılabilir. Modeli dağıtmak için, dışa aktarılan RKNN dosyasını Rockchip cihazınıza yüklemeniz ve çıkarımı çalıştırmanız yeterlidir; bu, eğitilmiş yapay zeka modelini yeni görüntüleri veya videoları analiz etmek ve nesneleri gerçek zamanlı olarak algılamak için kullanma işlemidir. Sadece birkaç satır kodla görüntülerden veya video akışlarından nesneleri tanımlamaya başlayabilirsiniz.

Şekil 4. Dışa aktarılan RKNN modelini kullanarak çıkarım çalıştırma.

Link to this sectionYOLO11 ve Rockchip'in uç yapay zeka uygulamaları#

YOLO11'in gerçek dünyada Rockchip özellikli cihazlarda nerede kullanılabileceğine dair daha iyi bir fikir edinmek için bazı önemli uç yapay zeka uygulamalarını inceleyelim.

Rockchip işlemcileri Android tabanlı tabletlerde, geliştirme kartlarında ve endüstriyel yapay zeka sistemlerinde yaygın olarak kullanılır. Android, Linux ve Python desteği ile çeşitli endüstriler için yapay zeka destekli görü çözümlerini kolayca oluşturabilir ve dağıtabilirsiniz.

Link to this sectionYOLO11 ile entegre dayanıklı tabletler#

YOLO11'in Rockchip destekli cihazlarda çalıştırılmasını içeren yaygın bir uygulama, dayanıklı tabletlerdir. Bunlar, depolar, inşaat sahaları ve endüstriyel ortamlar gibi zorlu koşullar için tasarlanmış dayanıklı, yüksek performanslı tabletlerdir. Bu tabletler, verimliliği ve güvenliği artırmak için nesne algılamadan yararlanabilir.

Örneğin, depo lojistiğinde, çalışanlar envanteri otomatik olarak taramak ve algılamak için YOLO11 içeren Rockchip destekli bir tablet kullanabilir; bu da insan hatasını azaltır ve işlem sürelerini hızlandırır. Benzer şekilde, inşaat sahalarında bu tabletler, çalışanların kask ve yelek gibi gerekli güvenlik ekipmanlarını giyip giymediklerini tespit etmek için kullanılabilir; bu da şirketlerin düzenlemeleri uygulamalarına ve kazaları önlemelerine yardımcı olur.

Şekil 5. YOLO11 kullanarak güvenlik ekipmanını algılama.

Link to this sectionKalite kontrol için endüstriyel yapay zeka#

Üretim ve otomasyon söz konusu olduğunda, Rockchip destekli endüstriyel kartlar kalite kontrol ve süreç izlemede büyük bir rol oynayabilir. Endüstriyel kart, endüstriyel ortamlardaki gömülü sistemler için tasarlanmış kompakt, yüksek performanslı bir bilgi işlem modülüdür. Bu kartlar genellikle sensörler, kameralar ve otomatik makinelerle entegre olabilen işlemciler, bellek, G/Ç arayüzleri ve bağlantı seçenekleri içerir.

YOLO11 modellerini bu kartlarda çalıştırmak, üretim hatlarını gerçek zamanlı analiz etmeyi, sorunları anında tespit etmeyi ve verimliliği artırmayı mümkün kılar. Örneğin otomobil üretiminde, Rockchip donanımı ve YOLO11 kullanan bir yapay zeka sistemi, arabalar montaj hattından geçerken çizikleri, yanlış hizalanmış parçaları veya boya kusurlarını algılayabilir. Üreticiler, bu kusurları gerçek zamanlı olarak tanımlayarak araçlar müşterilere ulaşmadan önce atığı azaltabilir, üretim maliyetlerini düşürebilir ve daha yüksek kalite standartları sağlayabilir.

Link to this sectionYOLO11'i Rockchip tabanlı cihazlarda çalıştırmanın avantajları#

Rockchip tabanlı cihazlar; performans, maliyet ve verimlilik açısından iyi bir denge sunarak YOLO11'i uç yapay zeka uygulamalarında dağıtmak için harika bir seçenek oluşturur.

İşte YOLO11'i Rockchip tabanlı cihazlarda çalıştırmanın birkaç avantajı:

• İyileştirilmiş yapay zeka performansı: Rockchip destekli cihazlar, yapay zeka çıkarımını Raspberry Pi gibi CPU tabanlı kartlardan daha verimli bir şekilde yöneterek daha hızlı nesne algılama ve daha düşük gecikme süresi sağlar.
• Maliyet etkin çözüm: Yapay zeka ile denemeler yapıyorsan ve yine de güçlü performans sunan bütçe dostu bir seçeneğe ihtiyacın varsa, Rockchip harika bir seçenektir. Hızdan veya verimlilikten ödün vermeden YOLO11'i çalıştırmanın uygun fiyatlı bir yolunu sunar.
• Enerji verimliliği: Bilgisayarlı görü modellerini Rockchip destekli cihazlarda çalıştırmak, GPU'lardan daha az güç tüketir; bu da onu pille çalışan cihazlar ve gömülü yapay zeka uygulamaları için ideal kılar.

Link to this sectionÖne çıkanlar#

Ultralytics YOLO11, donanım hızlandırmadan ve RKNN formatından yararlanarak Rockchip tabanlı cihazlarda verimli bir şekilde çalışabilir. Bu, çıkarım süresini kısaltır ve performansı artırır; böylece gerçek zamanlı bilgisayarlı görü görevleri ve uç yapay zeka uygulamaları için ideal hale gelir.

RKNN Toolkit; nicemleme ve ince ayar gibi temel optimizasyon araçlarını sağlayarak YOLO11 modellerinin Rockchip platformlarında iyi performans göstermesini sağlar. Uç yapay zeka kullanımı arttıkça, modelleri verimli cihaz içi işleme için optimize etmek hayati önem taşıyacaktır. Geliştiriciler, doğru araçlar ve donanımla çeşitli endüstrilerdeki bilgisayarlı görü çözümleri için yeni olanakların kilidini açabilirler.

Topluluğumuza katıl ve yapay zeka hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfet. Tarımda bilgisayarlı görü ve sağlıkta yapay zeka uygulamalarının inovasyonu nasıl yönlendirdiğini görmek için çözüm sayfalarımızı ziyaret et. Ayrıca, kendi görü yapay zeka çözümlerini oluşturmaya başlamak için lisanslama seçeneklerimize göz at!