12 Şubat 2025
Verimli Edge AI, AI hızlandırma ve gerçek zamanlı nesne tespiti için Ultralytics YOLO11'i Rockchip üzerinde RKNN Toolkit kullanarak nasıl dağıtabileceğinizi keşfedin.
Yapay zeka topluluğunda son zamanlarda popüler olan bir terim, özellikle bilgisayarlı görü söz konusu olduğunda, uç yapay zekadır. Yapay zeka odaklı uygulamalar büyüdükçe, modelleri sınırlı güç ve bilgi işlem kaynaklarına sahip gömülü cihazlarda verimli bir şekilde çalıştırmaya yönelik daha büyük bir ihtiyaç vardır.
Örneğin, dronlar gerçek zamanlı navigasyon için Vision AI kullanır, akıllı kameralar nesneleri anında algılar ve endüstriyel otomasyon sistemleri bulut bilişime güvenmeden kalite kontrolü yapar. Bu uygulamalar, gerçek zamanlı performans ve düşük gecikme sağlamak için doğrudan uç cihazlarda hızlı, verimli AI işlemeyi gerektirir. Ancak, AI modellerini uç cihazlarda çalıştırmak her zaman kolay değildir. AI modelleri genellikle birçok uç cihazın kaldırabileceğinden daha fazla güç ve bellek gerektirir.
Rockchip'in RKNN Araç Seti, derin öğrenme modellerini Rockchip destekli cihazlar için optimize ederek bu sorunu çözmeye yardımcı olur. Çıkarımı hızlandırmak, gecikmeyi ve güç tüketimini CPU veya GPU işlemeye kıyasla azaltmak için özel Nöral İşleme Birimleri (NPU'lar) kullanır.
Vizyon AI topluluğu, Ultralytics YOLO11'i Rockchip tabanlı cihazlarda çalıştırmak için istekliydi ve sizi duyduk. YOLO11'i RKNN'ye aktarma model formatı için destek ekledik. Bu makalede, RKNN'ye aktarmanın nasıl çalıştığını ve YOLO11'i Rockchip destekli cihazlarda dağıtmanın neden oyun değiştirici olduğunu inceleyeceğiz.
Rockchip, birçok gömülü cihazı çalıştıran küçük ama güçlü işlemciler olan çip üzerinde sistemler (SoC'ler) tasarlayan bir şirkettir. Bu çipler, genel bilgi işlem görevlerinden nesne algılama ve görüntü işlemeye dayanan Vision AI uygulamalarına kadar her şeyi yönetmek için bir CPU, GPU ve bir Nöral İşleme Birimi'ni (NPU) bir araya getirir.
Rockchip SoC'leri, tek kartlı bilgisayarlar (SBC'ler), geliştirme kartları, endüstriyel yapay zeka sistemleri ve akıllı kameralar dahil olmak üzere çeşitli cihazlarda kullanılmaktadır. Tanınmış birçok donanım üreticisi (Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi) Rockchip SoC'leri ile çalışan cihazlar üretmektedir. Bu kartlar, performans, güç verimliliği ve uygun fiyat dengesi sundukları için uç yapay zeka ve bilgisayarlı görü uygulamaları için popülerdir.
AI modellerinin bu cihazlarda verimli bir şekilde çalışmasına yardımcı olmak için Rockchip, RKNN (Rockchip Neural Network) Araç Setini sağlar. Geliştiricilerin, Rockchip'in Nöral İşleme Birimlerini (NPU'lar) kullanmak için derin öğrenme modellerini dönüştürmesine ve optimize etmesine olanak tanır.
RKNN modelleri, düşük gecikmeli çıkarım ve verimli güç kullanımı için optimize edilmiştir. Geliştiriciler, modelleri RKNN'ye dönüştürerek Rockchip destekli cihazlarda daha hızlı işlem hızları, azaltılmış güç tüketimi ve iyileştirilmiş verimlilik elde edebilirler.
RKNN modellerinin Rockchip özellikli cihazlarda yapay zeka performansını nasıl artırdığına daha yakından bakalım.
Çok çeşitli bilgi işlem görevlerini yerine getiren CPU'lar ve GPU'ların aksine, Rockchip'in NPU'ları özellikle derin öğrenme için tasarlanmıştır. Geliştiriciler, yapay zeka modellerini RKNN formatına dönüştürerek çıkarımları doğrudan NPU üzerinde çalıştırabilirler. Bu, RKNN modellerini özellikle hızlı ve verimli işlemenin esas olduğu gerçek zamanlı bilgisayarlı görü görevleri için kullanışlı hale getirir.
NPU'lar, sinir ağı hesaplamalarını paralel olarak gerçekleştirmek üzere tasarlandıkları için yapay zeka görevleri için CPU'lardan ve GPU'lardan daha hızlı ve daha verimlidir. CPU'lar görevleri her seferinde bir adımda işlerken ve GPU'lar iş yüklerini birden çok çekirdeğe dağıtırken, NPU'lar yapay zekaya özgü hesaplamaları daha verimli bir şekilde gerçekleştirmek için optimize edilmiştir.
Sonuç olarak, RKNN modelleri daha hızlı çalışır ve daha az güç kullanır, bu da onları pille çalışan cihazlar, akıllı kameralar, endüstriyel otomasyon ve gerçek zamanlı karar alma gerektiren diğer uç yapay zeka uygulamaları için ideal hale getirir.
Ultralytics YOLO (You Only Look Once) modelleri, nesne tespiti, örnek segmentasyonu ve görüntü sınıflandırması gibi gerçek zamanlı bilgisayarlı görü görevleri için tasarlanmıştır. Hızları, doğrulukları ve verimlilikleriyle bilinirler ve tarım, üretim, sağlık ve otonom sistemler gibi sektörlerde yaygın olarak kullanılırlar.
Bu modeller zaman içinde önemli ölçüde gelişti. Örneğin, Ultralytics YOLOv5, PyTorch ile nesne tespitini daha kolay hale getirdi. Ardından, Ultralytics YOLOv8, poz tahmini ve görüntü sınıflandırması gibi yeni özellikler ekledi. Şimdi ise YOLO11, daha az kaynak kullanarak doğruluğu artırarak işleri daha da ileriye taşıyor. Aslında, YOLO11m, COCO veri kümesinde YOLOv8m'den %22 daha az parametre kullanırken daha iyi performans göstererek hem daha hassas hem de daha verimli hale geliyor.
Ultralytics YOLO modelleri ayrıca birden çok formata aktarımı destekleyerek farklı platformlarda esnek dağıtıma olanak tanır. Bu formatlar arasında ONNX, TensorRT, CoreML ve OpenVINO bulunur ve geliştiricilere hedef donanımlarına göre performansı optimize etme özgürlüğü verir.
YOLO11'i RKNN model formatına aktarma desteğinin eklenmesiyle, YOLO11 artık Rockchip'in NPU'larından yararlanabilir. RKNN formatındaki en küçük model olan YOLO11n, görüntü başına etkileyici bir 99,5 ms çıkarım süresine ulaşarak gömülü cihazlarda bile gerçek zamanlı işlemeyi mümkün kılar.
Şu anda, YOLO11 nesne algılama modelleri RKNN formatına aktarılabilir. Ayrıca, bizi izlemeye devam edin - gelecekteki güncellemelerde diğer bilgisayarlı görü görevleri ve INT8 nicelemesi için destek eklemek için çalışıyoruz.
YOLO11'i RKNN formatına aktarmak basit bir işlemdir. Özel olarak eğitilmiş YOLO11 modelinizi yükleyebilir, hedef Rockchip platformunu belirleyebilir ve birkaç satır kodla RKNN formatına dönüştürebilirsiniz. RKNN formatı, geniş donanım desteği sağlayarak RK3588, RK3566 ve RK3576 dahil olmak üzere çeşitli Rockchip SoC'lerle uyumludur.
Dışa aktarıldıktan sonra, RKNN modeli Rockchip tabanlı cihazlara dağıtılabilir. Modeli dağıtmak için, dışa aktarılan RKNN dosyasını Rockchip cihazınıza yüklemeniz ve çıkarım çalıştırmanız yeterlidir - eğitilmiş yapay zeka modelini yeni görüntüleri veya videoları analiz etmek ve nesneleri gerçek zamanlı olarak tespit etmek için kullanma süreci. Sadece birkaç satır kodla, görüntülerden veya video akışlarından nesneleri tanımlamaya başlayabilirsiniz.
YOLO11'in Rockchip özellikli cihazlarda gerçek dünyada nerede kullanılabileceğine dair daha iyi bir fikir edinmek için, bazı önemli edge AI uygulamalarına göz atalım.
Rockchip işlemcileri, Android tabanlı tabletlerde, geliştirme kartlarında ve endüstriyel yapay zeka sistemlerinde yaygın olarak kullanılmaktadır. Android, Linux ve Python desteğiyle, çeşitli sektörler için Vision AI odaklı çözümleri kolayca oluşturabilir ve dağıtabilirsiniz.
YOLO11'in Rockchip destekli cihazlarda çalıştırılmasını içeren yaygın bir uygulama, dayanıklı tabletlerdir. Bunlar, depolar, inşaat sahaları ve endüstriyel ortamlar gibi zorlu ortamlar için tasarlanmış dayanıklı, yüksek performanslı tabletlerdir. Bu tabletler, verimliliği ve güvenliği artırmak için nesne tespitinden yararlanabilir.
Örneğin, depo lojistiğinde, çalışanlar envanteri otomatik olarak taramak ve tespit etmek, insan hatasını azaltmak ve işlem sürelerini hızlandırmak için YOLO11'li bir Rockchip destekli tablet kullanabilir. Benzer şekilde, şantiyelerde bu tabletler, şirketlerin düzenlemeleri uygulamasına ve kazaları önlemesine yardımcı olarak, çalışanların kask ve yelek gibi gerekli güvenlik ekipmanlarını giyip giymediklerini tespit etmek için kullanılabilir.
Üretim ve otomasyon açısından, Rockchip destekli endüstriyel kartlar, kalite kontrol ve süreç izlemede büyük rol oynayabilir. Bir endüstriyel kart, endüstriyel ortamlardaki gömülü sistemler için tasarlanmış kompakt, yüksek performanslı bir bilgi işlem modülüdür. Bu kartlar tipik olarak sensörler, kameralar ve otomatik makinelerle entegre olabilen işlemciler, bellek, G/Ç arayüzleri ve bağlantı seçenekleri içerir.
Bu kartlarda YOLO11 modellerini çalıştırmak, üretim hatlarını gerçek zamanlı olarak analiz etmeyi, sorunları anında tespit etmeyi ve verimliliği artırmayı mümkün kılar. Örneğin, otomobil üretiminde, Rockchip donanımı ve YOLO11 kullanan bir yapay zeka sistemi, otomobiller montaj hattında ilerlerken çizikleri, yanlış hizalanmış parçaları veya boya kusurlarını tespit edebilir. Üreticiler, bu kusurları gerçek zamanlı olarak belirleyerek, israfı azaltabilir, üretim maliyetlerini düşürebilir ve araçlar müşterilere ulaşmadan önce daha yüksek kalite standartları sağlayabilir.
Rockchip tabanlı cihazlar, iyi bir performans, maliyet ve verimlilik dengesi sunarak, YOLO11'i uç yapay zeka uygulamalarında dağıtmak için harika bir seçimdir.
İşte Rockchip tabanlı cihazlarda YOLO11 çalıştırmanın bazı avantajları:
Ultralytics YOLO11, donanım hızlandırmasından ve RKNN formatından yararlanarak Rockchip tabanlı cihazlarda verimli bir şekilde çalışabilir. Bu, çıkarım süresini azaltır ve performansı artırır, bu da onu gerçek zamanlı bilgisayarlı görü görevleri ve uç yapay zeka uygulamaları için ideal hale getirir.
RKNN Araç Seti, YOLO11 modellerinin Rockchip platformlarında iyi performans göstermesini sağlayan niceleme ve ince ayar gibi temel optimizasyon araçları sağlar. Kenar (Edge) yapay zeka benimsenmesi arttıkça, modelleri cihaz üzerinde verimli işleme için optimize etmek çok önemli olacaktır. Doğru araçlar ve donanımlarla geliştiriciler, çeşitli endüstrilerdeki bilgisayarlı görü çözümleri için yeni olanakların kilidini açabilir.
Topluluğumuza katılın ve yapay zeka hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfedin. Çözüm sayfalarımızı ziyaret ederek tarımda bilgisayarlı görü ve sağlık hizmetlerinde yapay zekanın inovasyonu nasıl yönlendirdiğini görün. Ayrıca, Vision AI çözümlerinizi bugün oluşturmaya başlamak için lisanslama seçeneklerimize göz atın!
.webp)
