Verimli edge AI için Rockchip üzerinde Ultralytics YOLO11 dağıtımı

Yapay zeka topluluğunda son zamanlarda en çok konuşulan konulardan biri, özellikle computer vision söz konusu olduğunda uç yapay zekadır. Yapay zeka destekli uygulamalar büyüdükçe, sınırlı güç ve bilişim kaynaklarına sahip gömülü cihazlarda modelleri verimli bir şekilde çalıştırma ihtiyacı da artıyor.

Örneğin, dronlar gerçek zamanlı navigasyon için görü yapay zekasını kullanır, akıllı kameralar nesneleri anında algılar ve endüstriyel otomasyon sistemleri bulut bilişime güvenmeden kalite kontrol yapar. Bu uygulamalar, gerçek zamanlı performans ve düşük gecikme süresi sağlamak için uç cihazlarda doğrudan hızlı ve verimli yapay zeka işleme gerektirir. Ancak, yapay zeka modellerini uç cihazlarda çalıştırmak her zaman kolay değildir. Yapay zeka modelleri genellikle birçok uç cihazın kaldırabileceğinden daha fazla güç ve bellek gerektirir.

Rockchip'in RKNN Toolkit'i, derin öğrenme modellerini Rockchip destekli cihazlar için optimize ederek bu sorunu çözmeye yardımcı olur. Çıkarımı hızlandırmak, CPU veya GPU işlemeye kıyasla gecikmeyi ve güç tüketimini azaltmak için özel Sinir İşleme Birimleri (NPU'lar) kullanır.

Görüntü tabanlı yapay zeka topluluğu, Ultralytics YOLO11 modelini Rockchip tabanlı cihazlarda çalıştırmak için oldukça istekliydi ve seni duyduk. YOLO11 modelini RKNN formatına dışa aktarma desteği ekledik. Bu makalede, RKNN'e dışa aktarmanın nasıl çalıştığını ve YOLO11'i Rockchip destekli cihazlarda çalıştırmanın neden ezber bozan bir gelişme olduğunu inceleyeceğiz.

Rockchip ve RKNN Toolkit nedir?#

Rockchip, birçok gömülü cihazı çalıştıran küçük ama güçlü işlemciler olan yonga setleri (SoC) tasarlayan bir şirket. Bu yongalar; genel bilişim görevlerinden object detection ve görüntü işlemeye dayanan yapay zeka uygulamalarına kadar her şeyi yönetmek için bir CPU, GPU ve bir NPU'yu birleştirir.

Rockchip SoC'ler; tek kartlı bilgisayarlar (SBC), geliştirme kartları, endüstriyel yapay zeka sistemleri ve akıllı kameralar dahil olmak üzere çeşitli cihazlarda kullanılır. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi birçok tanınan donanım üreticisi, Rockchip SoC'ler tarafından desteklenen cihazlar üretir. Bu kartlar; performans, güç verimliliği ve uygun fiyat dengesi sunduğu için edge AI ve bilgisayarlı görü uygulamalarında popülerdir.

Fig 1. Rockchip destekli bir cihaz örneği.

Yapay zeka modellerinin bu cihazlarda verimli bir şekilde çalışmasına yardımcı olmak için Rockchip, RKNN (Rockchip Neural Network) Toolkit'i sağlar. Geliştiricilerin derin öğrenme modellerini Rockchip'in Sinir İşleme Birimlerini (NPU'lar) kullanacak şekilde dönüştürmelerine ve optimize etmelerine olanak tanır.

RKNN modelleri, düşük gecikmeli çıkarım ve verimli güç kullanımı için optimize edilmiştir. Geliştiriciler, modelleri RKNN'e dönüştürerek Rockchip destekli cihazlarda daha hızlı işlem hızları, düşük güç tüketimi ve iyileştirilmiş verimlilik elde edebilirler.

RKNN modelleri optimize edilmiştir#

RKNN modellerinin Rockchip özellikli cihazlarda yapay zeka performansını nasıl artırdığına daha yakından bakalım.

Çok çeşitli bilişim görevlerini yürüten CPU ve GPU'ların aksine Rockchip'in NPU'ları derin öğrenme için özel olarak tasarlanmıştır. Geliştiriciler, yapay zeka modellerini RKNN formatına dönüştürerek çıkarımları doğrudan NPU üzerinde çalıştırabilir. Bu durum, hızlı ve verimli işlemenin çok önemli olduğu gerçek zamanlı computer vision tasks için RKNN modellerini özellikle faydalı kılar.

NPU'lar, sinir ağı hesaplamalarını paralel olarak yürütmek üzere oluşturulduklarından, yapay zeka görevleri için CPU ve GPU'lardan daha hızlı ve daha verimlidir. CPU'lar görevleri her seferinde bir adım olacak şekilde işler ve GPU'lar iş yüklerini birden fazla çekirdeğe dağıtırken, NPU'lar yapay zekaya özgü hesaplamaları daha verimli gerçekleştirmek üzere optimize edilmiştir.

Sonuç olarak, RKNN modelleri daha hızlı çalışır ve daha az güç tüketir; bu da onları pille çalışan cihazlar, akıllı kameralar, endüstriyel otomasyon ve gerçek zamanlı karar verme gerektiren diğer uç yapay zeka uygulamaları için ideal hale getirir.

Ultralytics YOLO modellerine genel bakış#

Ultralytics YOLO (You Only Look Once) models; nesne tespiti, örnek bölütleme ve görüntü sınıflandırma gibi gerçek zamanlı bilgisayarlı görü görevleri için tasarlanmıştır. Hızları, doğrulukları ve verimlilikleriyle tanınırlar; ayrıca tarım, üretim, sağlık ve otonom sistemler gibi sektörlerde yaygın olarak kullanılırlar.

Bu modeller zaman içinde önemli ölçüde gelişti. Örneğin, Ultralytics YOLOv5 PyTorch ile nesne tespitini daha kolay kullanılabilir hale getirdi. Ardından Ultralytics YOLOv8 poz tahmini ve görüntü sınıflandırma gibi yeni özellikler ekledi. Şimdi ise YOLO11, daha az kaynak kullanırken doğruluğu artırarak işleri bir adım öteye taşıyor. Aslında YOLO11m, COCO veri setinde YOLOv8m'e göre %22 daha az parametre kullanırken daha iyi performans gösterir; bu da onu hem daha hassas hem de daha verimli kılar.

Şekil 2. Ultralytics YOLO11 kullanarak nesne tespiti.

Ultralytics YOLO modelleri ayrıca birden fazla formatta exporting işlemini destekleyerek farklı platformlarda esnek dağıtıma olanak tanır. Bu formatlar ONNX, TensorRT, CoreML ve OpenVINO'yu içerir ve geliştiricilere hedef donanımlarına göre performansı optimize etme özgürlüğü verir.

YOLO11'in RKNN model formatına dışa aktarılmasına eklenen destekle, YOLO11 artık Rockchip'in NPU'larından yararlanabilir. RKNN formatındaki en küçük model olan YOLO11n, görüntü başına 99,5 ms'lik etkileyici bir çıkarım süresine ulaşarak gömülü cihazlarda bile gerçek zamanlı işlemeyi mümkün kılar.

Ultralytics YOLO11 modelini RKNN formatına dışarı aktarma#

Şu anda, Ultralytics YOLO11 nesne tespiti modelleri RKNN formatına aktarılabilir. Ayrıca takipte kalın - gelecekteki güncellemelerde diğer bilgisayarlı görü görevleri ve INT8 niceleme desteği eklemek için çalışıyoruz.

Ultralytics YOLO11 modelini RKNN formatına aktarmak oldukça basit bir süreçtir. Özel olarak eğittiğin YOLO11 modelini yükleyebilir, hedef Rockchip platformunu belirtebilir ve birkaç satır kodla RKNN formatına dönüştürebilirsin. RKNN formatı, geniş donanım desteği sağlayarak RK3588, RK3566 ve RK3576 dahil olmak üzere çeşitli Rockchip SoC'leri ile uyumludur.

Şekil 3. Ultralytics YOLO11 modelini RKNN model formatına dışarı aktarma.

Ultralytics YOLO11 modelini Rockchip tabanlı cihazlarda dağıtma#

Dışa aktarıldıktan sonra, RKNN modeli Rockchip tabanlı cihazlarda dağıtılabilir. Modeli dağıtmak için, dışa aktarılan RKNN dosyasını Rockchip cihazınıza yüklemeniz ve çıkarımı çalıştırmanız yeterlidir; bu, eğitilmiş yapay zeka modelini yeni görüntüleri veya videoları analiz etmek ve nesneleri gerçek zamanlı olarak algılamak için kullanma işlemidir. Sadece birkaç satır kodla görüntülerden veya video akışlarından nesneleri tanımlamaya başlayabilirsiniz.

Şekil 4. Dışa aktarılan RKNN modelini kullanarak çıkarım çalıştırma.

Ultralytics YOLO11 ve Rockchip'in Edge AI uygulamaları#

Ultralytics YOLO11'in gerçek dünyada Rockchip destekli cihazlarda nereye dağıtılabileceği konusunda daha iyi bir fikir edinmek için bazı temel edge AI uygulamalarını inceleyelim.

Rockchip işlemcileri Android tabanlı tabletlerde, geliştirme kartlarında ve endüstriyel yapay zeka sistemlerinde yaygın olarak kullanılır. Android, Linux ve Python desteği ile çeşitli endüstriler için yapay zeka destekli görü çözümlerini kolayca oluşturabilir ve dağıtabilirsiniz.

Ultralytics YOLO11 entegre edilmiş dayanıklı tabletler#

Rockchip destekli cihazlarda Ultralytics YOLO11 çalıştırmayı içeren yaygın bir uygulama dayanıklı tabletlerdir. Bunlar, depolar, şantiyeler ve endüstriyel ortamlar gibi zorlu koşullar için tasarlanmış dayanıklı, yüksek performanslı tabletlerdir. Bu tabletler, verimliliği ve güvenliği artırmak için nesne tespitinden yararlanabilir.

Örneğin, warehouse logistics alanında çalışanlar, envanteri otomatik olarak taramak ve tespit etmek, insan hatasını azaltmak ve işlem sürelerini hızlandırmak için YOLO11 içeren Rockchip destekli bir tablet kullanabilir. Benzer şekilde inşaat sahalarında bu tabletler; işçilerin baret ve yelek gibi gerekli güvenlik ekipmanlarını giyip giymediğini tespit etmek için kullanılabilir, böylece şirketlerin kuralları uygulamasına ve kazaları önlemesine yardımcı olur.

Fig 5. Ultralytics YOLO11 kullanarak güvenlik ekipmanlarının tespiti.

Kalite kontrol için endüstriyel yapay zeka#

Üretim ve otomasyon söz konusu olduğunda, Rockchip destekli endüstriyel kartlar kalite kontrol ve süreç izlemede büyük bir rol oynayabilir. Endüstriyel kart, endüstriyel ortamlardaki gömülü sistemler için tasarlanmış kompakt, yüksek performanslı bir bilgi işlem modülüdür. Bu kartlar genellikle sensörler, kameralar ve otomatik makinelerle entegre olabilen işlemciler, bellek, G/Ç arayüzleri ve bağlantı seçenekleri içerir.

Ultralytics YOLO11 modellerini bu kartlar üzerinde çalıştırmak, üretim hatlarını gerçek zamanlı olarak analiz etmeyi, sorunları anında tespit etmeyi ve verimliliği artırmayı mümkün kılar. Örneğin otomotiv üretiminde, Rockchip donanımı ve YOLO11 kullanan bir yapay zeka sistemi, arabalar montaj hattında ilerlerken çizikleri, yanlış hizalanmış parçaları veya boya kusurlarını tespit edebilir. Üreticiler, bu kusurları gerçek zamanlı olarak belirleyerek israfı azaltabilir, üretim maliyetlerini düşürebilir ve araçlar müşterilere ulaşmadan önce daha yüksek kalite standartları sağlayabilir.

Rockchip tabanlı cihazlarda Ultralytics YOLO11 çalıştırmanın avantajları#

Rockchip tabanlı cihazlar performans, maliyet ve verimlilik arasında iyi bir denge sunarak onları edge AI uygulamalarında Ultralytics YOLO11 dağıtmak için harika bir seçim haline getirir.

İşte Rockchip tabanlı cihazlarda Ultralytics YOLO11 çalıştırmanın birkaç avantajı:

• Geliştirilmiş AI performance: Rockchip etkin cihazlar, yapay zeka çıkarımını Raspberry Pi gibi CPU tabanlı kartlara göre daha verimli bir şekilde yöneterek daha hızlı nesne tespiti ve daha düşük gecikme süresi sunar.
• Maliyet etkin çözüm: Yapay zeka ile denemeler yapıyorsanız ve yine de güçlü performans sunan bütçe dostu bir seçeneğe ihtiyacınız varsa, Rockchip harika bir seçenektir. Hız veya verimlilikten ödün vermeden Ultralytics YOLO11 çalıştırmak için uygun fiyatlı bir yol sağlar.
• Enerji verimliliği: Bilgisayarlı görü modellerini Rockchip destekli cihazlarda çalıştırmak, GPU'lardan daha az güç tüketir; bu da onu pille çalışan cihazlar ve gömülü yapay zeka uygulamaları için ideal kılar.

Öne çıkanlar#

Ultralytics YOLO11, donanım hızlandırmadan ve RKNN formatından yararlanarak Rockchip tabanlı cihazlarda verimli bir şekilde çalışabilir. Bu, çıkarım süresini kısaltır ve performansı artırır; böylece gerçek zamanlı bilgisayarlı görü görevleri ve uç yapay zeka uygulamaları için ideal hale gelir.

RKNN Toolkit, niceleme ve ince ayar gibi temel optimizasyon araçları sağlayarak Ultralytics YOLO11 modellerinin Rockchip platformlarında iyi performans göstermesini sağlar. Edge AI benimsizliği arttıkça cihaz üzerinde verimli işleme için modelleri optimize etmek çok önemli olacaktır. Doğru araçlar ve donanımla geliştiriciler, çeşitli endüstrilerdeki bilgisayarlı görü çözümleri için yeni olasılıkların kilidini açabilir.

Yapay zeka hakkında daha fazla bilgi edinmek için our community katılım sağla ve GitHub repository incele. Çözüm sayfalarımızı ziyaret ederek computer vision in agriculture ve AI in healthcare alanlarındaki yenilikleri nasıl yönlendirdiğini gör. Ayrıca vizyon yapay zeka çözümlerini bugün oluşturmaya başlamak için licensing options göz at!