Verimli edge AI için Ultralytics YOLO11’i Rockchip üzerinde dağıtma

AI topluluğunda, özellikle bilgisayarlı görü söz konusu olduğunda son dönemde öne çıkan bir ifade uç AI’dır. AI destekli uygulamalar yaygınlaştıkça, modelleri sınırlı güç ve hesaplama kaynaklarına sahip gömülü cihazlarda verimli şekilde çalıştırma ihtiyacı da artıyor.

Örneğin dronlar gerçek zamanlı navigasyon için görüntü AI’sından yararlanır, akıllı kameralar nesneleri anında algılar ve endüstriyel otomasyon sistemleri bulut bilişime ihtiyaç duymadan kalite kontrolü gerçekleştirir. Bu uygulamalar, gerçek zamanlı performans ve düşük gecikme sağlamak için AI işlemlerinin doğrudan uç cihazlarda hızlı ve verimli biçimde gerçekleştirilmesini gerektirir. Ancak AI modellerini uç cihazlarda çalıştırmak her zaman kolay değildir. AI modelleri çoğu zaman birçok uç cihazın karşılayabileceğinden daha fazla güç ve bellek gerektirir.

Rockchip’in RKNN Toolkit’i, derin öğrenme modellerini Rockchip destekli cihazlar için optimize ederek bu sorunun çözülmesine yardımcı olur. Çıkarımı hızlandırmak için özel Sinirsel İşlem Birimlerini (NPUs) kullanır; böylece CPU veya GPU işlemeye kıyasla gecikmeyi ve güç tüketimini azaltır.

Görüntü AI topluluğu, Ultralytics YOLO11’i Rockchip tabanlı cihazlarda çalıştırmayı sabırsızlıkla bekliyordu ve seni dinledik. YOLO11’i RKNN model biçimine aktarma desteği ekledik. Bu makalede RKNN’e aktarmanın nasıl çalıştığını ve YOLO11’i Rockchip destekli cihazlarda dağıtmanın neden oyunun kurallarını değiştirdiğini inceleyeceğiz.

Rockchip ve RKNN Toolkit nedir?#

Rockchip, çip üstü sistemler (SoCs) tasarlayan bir şirkettir; bunlar birçok gömülü cihazı çalıştıran küçük ama güçlü işlemcilerdir. Bu çipler, genel hesaplama görevlerinden nesne algılama ve görüntü işlemeye dayanan görüntü AI uygulamalarına kadar her şeyi ele almak için CPU, GPU ve bir Sinirsel İşlem Birimini (NPU) bir araya getirir.

Rockchip SoC’leri; tek kartlı bilgisayarlar (SBCs), geliştirme kartları, endüstriyel AI sistemleri ve akıllı kameralar dâhil olmak üzere çeşitli cihazlarda kullanılır. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi birçok tanınmış donanım üreticisi, Rockchip SoC’leriyle çalışan cihazlar üretir. Bu kartlar performans, güç verimliliği ve uygun fiyat arasında denge sundukları için uç AI ve bilgisayarlı görü uygulamalarında popülerdir.

Şekil 1. Rockchip destekli bir cihaz örneği.

AI modellerinin bu cihazlarda verimli çalışmasına yardımcı olmak için Rockchip, RKNN (Rockchip Sinir Ağı) Toolkit’ini sunar. Bu araç, geliştiricilerin derin öğrenme modellerini Rockchip’in Sinirsel İşlem Birimlerini (NPUs) kullanacak şekilde dönüştürmesine ve optimize etmesine olanak tanır.

RKNN modelleri düşük gecikmeli çıkarım ve verimli güç kullanımı için optimize edilir. Geliştiriciler modelleri RKNN’e dönüştürerek Rockchip destekli cihazlarda daha yüksek işlem hızlarına, daha düşük güç tüketimine ve daha iyi verimliliğe ulaşabilir.

RKNN modelleri optimize edilir#

RKNN modellerinin Rockchip destekli cihazlarda AI performansını nasıl iyileştirdiğine daha yakından bakalım.

Geniş bir hesaplama görevi yelpazesini ele alan CPU ve GPU’ların aksine, Rockchip’in NPU’ları özellikle derin öğrenme için tasarlanmıştır. AI modellerini RKNN biçimine dönüştüren geliştiriciler, çıkarımları doğrudan NPU üzerinde çalıştırabilir. Bu, RKNN modellerini hızlı ve verimli işlemenin gerekli olduğu gerçek zamanlı bilgisayarlı görü görevleri için özellikle kullanışlı kılar.

NPU’lar, sinir ağı hesaplamalarını paralel olarak ele almak üzere tasarlandıkları için AI görevlerinde CPU ve GPU’lardan daha hızlı ve verimlidir. CPU’lar görevleri tek seferde bir adım işleyip GPU’lar iş yüklerini birden fazla çekirdeğe dağıtırken, NPU’lar AI’a özgü hesaplamaları daha verimli gerçekleştirmek üzere optimize edilmiştir.

Sonuç olarak RKNN modelleri daha hızlı çalışır ve daha az güç kullanır; bu da onları pille çalışan cihazlar, akıllı kameralar, endüstriyel otomasyon ve gerçek zamanlı karar verme gerektiren diğer uç AI uygulamaları için ideal hâle getirir.

Ultralytics YOLO modellerine genel bakış#

Ultralytics YOLO modelleri, nesne algılama, örnek bölütleme ve görüntü sınıflandırma gibi gerçek zamanlı bilgisayarlı görü görevleri için tasarlanmıştır. Hızları, doğrulukları ve verimlilikleriyle tanınırlar ve tarım, üretim, sağlık ve otonom sistemler gibi sektörlerde yaygın olarak kullanılırlar.

Bu modeller zaman içinde önemli ölçüde geliştirildi. Örneğin Ultralytics YOLOv5, PyTorch ile nesne algılamayı daha kolay kullanılır hâle getirdi. Ardından Ultralytics YOLOv8, poz tahmini ve görüntü sınıflandırma gibi yeni özellikler ekledi. Şimdi YOLO11, daha az kaynak kullanırken doğruluğu artırarak bu gelişimi ileri taşıyor. Hatta YOLO11m, YOLOv8m’den %22 daha az parametre kullanırken COCO veri kümesinde daha iyi performans gösteriyor; bu da onu hem daha hassas hem de daha verimli kılıyor.

Şekil 2. Ultralytics YOLO11 kullanarak nesne algılama.

Ultralytics YOLO modelleri, farklı platformlarda esnek dağıtım sağlayan birden çok biçime aktarmayı da destekler. Bu biçimler arasında ONNX, TensorRT, CoreML ve OpenVINO bulunur; böylece geliştiriciler hedef donanımlarına göre performansı optimize etme özgürlüğüne sahip olur.

YOLO11’i RKNN model biçimine aktarma desteğinin eklenmesiyle YOLO11 artık Rockchip’in NPU’larından yararlanabilir. En küçük model olan RKNN biçimindeki YOLO11n, görüntü başına 99,5 ms gibi etkileyici bir çıkarım süresine ulaşarak gömülü cihazlarda bile gerçek zamanlı işlemeyi mümkün kılar.

Ultralytics YOLO11 modelini RKNN biçimine aktarma#

Şu anda Ultralytics YOLO11 nesne algılama modelleri RKNN biçimine aktarılabilir. Ayrıca gelişmeleri takip etmeye devam et; gelecek güncellemelerde diğer bilgisayarlı görü görevleri ve INT8 niceleme için destek eklemek üzere çalışıyoruz.

Ultralytics YOLO11’i RKNN biçimine aktarmak oldukça basit bir işlemdir. Özel olarak eğitilmiş YOLO11 modelini yükleyebilir, hedef Rockchip platformunu belirtebilir ve birkaç satır kodla RKNN biçimine dönüştürebilirsin. RKNN biçimi, RK3588, RK3566 ve RK3576 dâhil çeşitli Rockchip SoC’leriyle uyumludur ve geniş donanım desteği sağlar.

Şekil 3. Ultralytics YOLO11’i RKNN model biçimine aktarma.

Ultralytics YOLO11’i Rockchip tabanlı cihazlarda dağıtma#

Aktarma tamamlandıktan sonra RKNN modeli Rockchip tabanlı cihazlarda dağıtılabilir. Modeli dağıtmak için aktarılan RKNN dosyasını Rockchip cihazına yüklemen ve çıkarımı çalıştırman yeterlidir; çıkarım, eğitilmiş AI modelinin yeni görüntüleri veya videoları analiz ederek nesneleri gerçek zamanlı algılaması işlemidir. Yalnızca birkaç satır kodla görüntülerden veya video akışlarından nesneleri algılamaya başlayabilirsin.

Şekil 4. Aktarılan RKNN modelini kullanarak çıkarım çalıştırma.

Ultralytics YOLO11 ve Rockchip’in uç AI uygulamaları#

Ultralytics YOLO11’in Rockchip destekli cihazlarda gerçek dünyada nerelerde dağıtılabileceği hakkında daha iyi fikir edinmek için bazı önemli uç AI uygulamalarını ele alalım.

Rockchip işlemcileri Android tabanlı tabletlerde, geliştirme kartlarında ve endüstriyel AI sistemlerinde yaygın olarak kullanılır. Android, Linux ve Python desteği sayesinde çeşitli sektörler için görüntü AI destekli çözümleri kolayca geliştirebilir ve dağıtabilirsin.

Ultralytics YOLO11 ile entegre dayanıklı tabletler#

Ultralytics YOLO11’i Rockchip destekli cihazlarda çalıştırmayı içeren yaygın uygulamalardan biri dayanıklı tabletlerdir. Bunlar depo, inşaat sahası ve endüstriyel ortamlar gibi zorlu koşullar için tasarlanmış dayanıklı, yüksek performanslı tabletlerdir. Bu tabletler verimliliği ve güvenliği artırmak için nesne algılamadan yararlanabilir.

Örneğin depo lojistiğinde çalışanlar, envanteri otomatik olarak taramak ve algılamak için YOLO11 kullanan Rockchip destekli bir tabletten yararlanabilir; böylece insan hatası azalır ve işleme süreleri kısalır. Benzer şekilde, inşaat sahalarında bu tabletler çalışanların kask ve yelek gibi gerekli güvenlik ekipmanlarını takıp takmadığını algılamak için kullanılabilir; bu da şirketlerin yönetmelikleri uygulamasına ve kazaları önlemesine yardımcı olur.

Şekil 5. Ultralytics YOLO11 kullanarak güvenlik ekipmanı algılama.

Kalite kontrolü için endüstriyel AI#

Üretim ve otomasyon açısından Rockchip destekli endüstriyel kartlar, kalite kontrolü ve süreç izleme alanlarında önemli bir rol oynayabilir. Endüstriyel kart, endüstriyel ortamlardaki gömülü sistemler için tasarlanmış kompakt, yüksek performanslı bir hesaplama modülüdür. Bu kartlar genellikle sensörler, kameralar ve otomatik makinelerle entegre olabilen işlemciler, bellek, G/Ç arayüzleri ve bağlantı seçenekleri içerir.

Ultralytics YOLO11 modellerini bu kartlarda çalıştırmak, üretim hatlarının gerçek zamanlı analiz edilmesini, sorunların anında tespit edilmesini ve verimliliğin artırılmasını mümkün kılar. Örneğin otomobil üretiminde, Rockchip donanımı ve YOLO11 kullanan bir AI sistemi, araçlar montaj hattında ilerlerken çizikleri, hizası bozuk parçaları veya boya kusurlarını algılayabilir. Üreticiler bu kusurları gerçek zamanlı olarak belirleyerek israfı azaltabilir, üretim maliyetlerini düşürebilir ve araçlar müşterilere ulaşmadan önce daha yüksek kalite standartlarını sağlayabilir.

Ultralytics YOLO11’i Rockchip tabanlı cihazlarda çalıştırmanın avantajları#

Rockchip tabanlı cihazlar performans, maliyet ve verimlilik arasında iyi bir denge sunar; bu da onları uç AI uygulamalarında Ultralytics YOLO11’i dağıtmak için mükemmel bir seçenek hâline getirir.

Ultralytics YOLO11’i Rockchip tabanlı cihazlarda çalıştırmanın bazı avantajları şunlardır:

• Geliştirilmiş AI performansı: Rockchip destekli cihazlar, çıkarımı Raspberry Pi gibi CPU tabanlı kartlardan daha verimli gerçekleştirerek daha hızlı nesne algılama ve daha düşük gecikme sağlar.
• Uygun maliyetli çözüm: AI ile denemeler yapıyor ve yine de güçlü performans sunan bütçe dostu bir seçeneğe ihtiyaç duyuyorsan Rockchip harika bir tercihtir. Hızdan veya verimlilikten ödün vermeden Ultralytics YOLO11’i çalıştırmanın uygun maliyetli bir yolunu sunar.
• Enerji verimliliği: Bilgisayarlı görü modellerini Rockchip destekli cihazlarda çalıştırmak GPU’lara kıyasla daha az güç tüketir; bu da onu pille çalışan cihazlar ve gömülü AI uygulamaları için ideal kılar.

Önemli çıkarımlar#

Ultralytics YOLO11, donanım hızlandırmasından ve RKNN biçiminden yararlanarak Rockchip tabanlı cihazlarda verimli şekilde çalışabilir. Bu, çıkarım süresini azaltır ve performansı artırır; böylece gerçek zamanlı bilgisayarlı görü görevleri ve uç AI uygulamaları için ideal hâle gelir.

RKNN Toolkit, niceleme ve ince ayar gibi temel optimizasyon araçları sunarak Ultralytics YOLO11 modellerinin Rockchip platformlarında iyi performans göstermesini sağlar. Uç AI kullanımı yaygınlaştıkça modelleri cihaz üzerinde verimli işlemeye uygun hâle getirmek kritik önem taşıyacaktır. Doğru araçlar ve donanımla geliştiriciler, çeşitli sektörlerde bilgisayarlı görü çözümleri için yeni olanakların önünü açabilir.

AI hakkında daha fazla bilgi edinmek için topluluğumuza katıl ve GitHub depomuzu keşfet. Tarımda bilgisayarlı görünün ve sağlık hizmetlerinde AI’ın çözümler sayfalarımızı ziyaret ederek yenilikleri nasıl yönlendirdiğini gör. Ayrıca bugün görüntü AI çözümlerini geliştirmeye başlamak için lisanslama seçeneklerimize göz at!