NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11: hızlı ve verimli

17 Aralık 2024'te piyasaya sürülen NVIDIA Jetson Orin Nano Super Geliştirme Kiti, uç bilişime gelişmiş yetenekler kazandırmak için tasarlanmış, kompakt ancak güçlü bir üretken yapay zeka süper bilgisayarıdır. Gerçek zamanlı işlemeyi kolaylaştırır ve bulut bilişim ihtiyacını ortadan kaldırır. NVIDIA Jetson Orin Nano Super, geliştiricilerin yerel ortamlarda verimli bir şekilde çalışan uygun fiyatlı akıllı sistemler oluşturmasına olanak tanır.

Ultralytics YOLO modelleri gibi Ultralytics YOLO11 ile eşleştirildiğinde, Jetson Orin Nano Super, uçta çok çeşitli Görüntü İşleme Yapay Zeka uygulamalarını işleyebilir. Özellikle YOLO11, nesne algılama, nesne takibi ve örnek segmentasyonu gibi görevlerdeki hızı ve doğruluğuyla bilinen bir bilgisayarlı görü modelidir. 

YOLO11'in yeteneklerinin, kitin güçlü GPU'su (Grafik İşleme Birimi) ve PyTorch, ONNX ve NVIDIA TensorRT gibi framework'ler için desteğiyle birleşimi, yüksek performanslı dağıtımları mümkün kılar. Bu kombinasyon, geliştiricilere robotikte nesne algılamadan akıllı alanlarda ve perakende sistemlerinde gerçek zamanlı nesne takibine kadar yapay zeka uygulamaları oluşturmak için verimli bir çözüm sunar.

Bu makalede, NVIDIA Jetson Orin Nano Super Geliştirme Kitini, Ultralytics YOLO11 ile uç yapay zeka için nasıl çalıştığını, performans kıyaslamalarını, gerçek dünya uygulamalarını ve geliştiricilerin Görüntü İşleme Yapay Zeka projeleri oluşturmasına nasıl yardımcı olabileceğini inceleyeceğiz. Haydi başlayalım!

NVIDIA Jetson Orin Nano Super Geliştirme Kiti nedir?

NVIDIA Jetson Orin Nano Super Geliştirme Kiti, küçük uç cihazlar için üretken yapay zekayı yeniden tanımlayan, kompakt ancak güçlü bir bilgisayardır. Gelişmiş yapay zeka projeleri üzerinde çalışan geliştiriciler, öğrenciler ve hobiciler için ideal olan saniyede 67 TOPS'a (trilyon işlem) kadar yapay zeka performansı sunar.

‍

İşte bazı temel özellikleri:

• GPU performansı: Cihaz, 1.024 CUDA çekirdeği ve 32 Tensor Çekirdeği içeren NVIDIA Ampere mimarisi GPU üzerine kurulmuştur. CUDA çekirdekleri birçok görevi aynı anda işleyerek karmaşık hesaplamaları hızlandırırken, Tensor Çekirdekleri derin öğrenme gibi yapay zeka görevleri için uzmanlaşmıştır.
  ‍
• Güçlü CPU: Hız ve verimliliği dengelemek için tasarlanmış 6 çekirdekli bir Arm Cortex-A78AE işlemciye sahiptir. Cihaz, enerji kullanımını düşük tutarken birden fazla görevi sorunsuz bir şekilde gerçekleştirebilir. Bu, büyük güç kaynaklarına erişimi olmayan yerel olarak çalışan sistemler için önemlidir.
  ‍
• Verimli bellek: Kit, 8 GB LPDDR5 (Düşük Güçlü Çift Veri Hızı 5) bellek ile birlikte gelir. LPDDR5, hız ve enerji verimliliği için optimize edilmiş bir RAM (Rastgele Erişimli Bellek) türüdür ve cihazın aşırı güç tüketmeden büyük veri kümelerini ve gerçek zamanlı işlemeyi işlemesine olanak tanır.
  ‍
• Bağlantı seçenekleri: Hızlı veri aktarımları için USB 3.2 bağlantı noktaları, güçlü ağ bağlantıları için bir Gigabit Ethernet bağlantı noktası ve sensörleri veya kameraları entegre etmek için kamera arayüzleri içerir.
  ‍
• Yapay zeka geliştirme araçları: Jetson Orin Nano Super, daha hızlı bilgi işlem için CUDA ve yapay zeka modellerini optimize etmek için TensorRT gibi araçlar sağlayan NVIDIA JetPack SDK ile çalışır. Bu araçlar, geliştiricilerin yapay zeka uygulamalarını hızlı ve verimli bir şekilde oluşturmasını ve dağıtmasını kolaylaştırır.

Performans kıyaslamaları: Jetson Orin Nano Super - Orin NX 16GB karşılaştırması

NVIDIA'nın çalışmalarına aşina iseniz, bu yeni sürümün mevcut NVIDIA Jetson Orin NX 16GB (süper mod olmadan) ile nasıl karşılaştırıldığını merak ediyor olabilirsiniz. Jetson Orin NX daha yüksek genel yetenekler sunarken, Jetson Orin Nano Super Geliştirme Kiti maliyetinin çok daha düşük bir kısmıyla etkileyici performans sağlar.

‍

İşte hızlı bir genel bakış:

• Yapay zeka performansı: Jetson Orin Nano Super, çoğu uç yapay zeka görevi için harika olan 67 TOPS'a kadar performans sunarken, Jetson Orin NX daha zorlu uygulamalar için 100 TOPS'a kadar performans sunar.
  ‍
• Bellek: Jetson Orin Nano Super, gerçek zamanlı görevler için yeterli olan 8 GB LPDDR5 içerirken, Orin NX bunu daha büyük iş yükleri için 16 GB'a çıkarır.
  ‍
• Güç verimliliği: Jetson Orin Nano Super, Jetson Orin NX'in daha yüksek güç taleplerine kıyasla daha enerji verimlidir ve 7W ile 25W arasında yapılandırılabilir.
  ‍
• GPU: Her ikisi de sağlam GPU performansı için 1.024 CUDA çekirdeği ve 32 Tensor Çekirdeği ile NVIDIA Ampere mimarisini paylaşır.

Jetson Orin Nano Super ile YOLO11: Görüntü işleme yapay zekasını uca taşıma

Jetson Orin Nano Super'i daha iyi anladığımıza göre, YOLO11'in Görüntü İşleme Yapay Zeka yeteneklerini uca getirmek için nasıl devreye girebileceğine bir göz atalım. YOLO11 dahil olmak üzere Ultralytics YOLO modelleri, çeşitli yapay zeka iş akışlarına uyarlanabilir olmalarını sağlayan eğitme, tahmin ve dışa aktarma gibi çok yönlü modlarla birlikte gelir. 

Örneğin, eğitim modunda, Ultralytics YOLO modelleri, benzersiz nesneleri algılama veya belirli ortamlar için optimizasyon gibi belirli uygulamalar için özel veri kümeleri üzerinde ince ayar yapılabilir ve eğitilebilir. Benzer şekilde, tahmin modu çıkarım için tasarlanmıştır ve gerçek zamanlı bilgisayarlı görü görevlerini mümkün kılar. Son olarak, dışa aktarma modu, modelleri dağıtım için optimize edilmiş biçimlere dönüştürmek için kullanılabilir.

‍

Dışa aktarma modundaki YOLO11, diğerlerinin yanı sıra çeşitli model dağıtım seçeneklerini destekler:

• NVIDIA TensorRT: Bu format, NVIDIA GPU'lar için optimize edilmiştir ve Jetson Orin Nano Super üzerinde yüksek performans ve düşük gecikmeli çıkarım sunar.
  ‍
• ONNX (Açık Nöral Ağ Değişimi): Çeşitli platformlarda uyumluluk sağlayarak farklı donanım ve yazılım ekosistemleri için çok yönlü hale getirir.
  ‍
• TorchScript: Bu format, PyTorch tabanlı uygulamalar için idealdir ve PyTorch iş akışlarına sorunsuz entegrasyona yardımcı olur.
  ‍
• TFLite (TensorFlow Lite): Hafif AI dağıtımları için tasarlanmış bir format olup, mobil ve gömülü sistemler için mükemmeldir.

Geliştiriciler, bu dağıtım formatlarını kullanarak, akıllı alanlar, robotik ve perakende otomasyonu gibi gerçek zamanlı uygulamalar için YOLO11'i çalıştırmak üzere Jetson Orin Nano Super'in donanımından tam olarak yararlanabilir. 

NVIDIA Jetson Orin Nano Super üzerinde YOLO11'in kıyaslama testleri

Ardından, YOLO11'in NVIDIA Jetson Orin Nano Super üzerinde ne kadar hızlı çalışabileceği hakkında daha iyi bir fikir edinmek için, PyTorch, ONNX ve TensorRT gibi GPU hızlandırmalı dışa aktarma formatlarını kullanarak etkileyici performansını ve kıyaslama testlerini inceleyelim. Bu testler, Jetson Orin Nano Super'in YOLO11 modelleriyle, mevcut Jetson Orin NX 16GB (süper mod olmadan) ile karşılaştırılabilir ve hatta bazen onu aşan çıkarım sürelerine ulaştığını ortaya koymaktadır.

‍

Bunu daha da dikkat çekici kılan şey, Jetson Orin Nano Super'in uygun fiyatlı olmasıdır. Jetson Orin NX 16GB'nin fiyatının yarısından daha düşük bir fiyata bu performansı sunarak, yüksek performanslı YOLO11 uygulamaları geliştiren geliştiriciler için olağanüstü bir değer sağlar. Maliyet ve performansın bu kombinasyonu, Jetson Orin Nano Super'i uçta gerçek zamanlı Görüntü AI görevleri için mükemmel bir seçim haline getirir.

‍

YOLO11 ve NVIDIA Jetson Orin Nano Super ile uygulamalı deneyim kazanın

Jetson Orin Nano Super üzerinde YOLO11'i dağıtmaya başlamak konusunda heyecanlıysanız, iyi bir haberimiz var: bu basit bir süreç. Cihazınızı NVIDIA JetPack SDK ile flaşladıktan sonra, hızlı kurulum için önceden oluşturulmuş bir Docker görüntüsü kullanabilir veya gerekli paketleri manuel olarak yükleyebilirsiniz. 

Daha hızlı ve sorunsuz bir entegrasyon arayanlar için, güncellenmiş JetPack 6 Docker konteyneri ideal çözümdür. Bir Docker konteyneri, belirli bir yazılımı çalıştırmak için gerekli tüm araçları ve bağımlılıkları içeren hafif, taşınabilir bir ortamdır. 

JetPack 6.1 için optimize edilmiş Ultralytics konteyneri, CUDA 12.6, TensorRT 10.3 ve PyTorch ve TorchVision gibi temel araçlarla önceden yüklenmiş olarak gelir ve tümü Jetson'ın ARM64 mimarisi için uyarlanmıştır. Geliştiriciler bu konteyneri kullanarak kurulumda zaman kazanabilir ve YOLO11 ile Görüntü AI uygulamalarını oluşturmaya ve optimize etmeye odaklanabilir.

NVIDIA Jetson Orin Nano Super üzerinde YOLO11 uygulamaları

Bir sonraki AI projeniz için ilham arayanlar için, etrafımızda uç tabanlı bilgisayarlı görü uygulamaları için potansiyel var. 

Günlük hayatta, uç AI, bulut işlemeye güvenmeden sistemlerin nesneleri gerçek zamanlı olarak algılamasını ve izlemesini sağlayarak akıllı alanları yeniden tanımlıyor. İster hareketli bir şehirde trafiği izlemek, ister kamusal alanlarda olağandışı etkinlikleri belirlemek olsun, uç Görüntü AI güvenliği ve verimliliği artırıyor.

Perakendeciler de uç AI ve bilgisayarlı görmeden yararlanıyor. Otomatik envanter kontrollerinden hırsızlık önlemeye kadar, YOLO11 gibi modeller işletmelerin gerçek zamanlı çözümleri doğrudan mağazalarda dağıtmasını mümkün kılıyor. 

Benzer şekilde, sağlıkta AI söz konusu olduğunda, uç tabanlı izleme hasta güvenliğini sağlar, anormallikleri tespit eder ve uyumluluğu korur - tümü bulut bağımlılığının neden olduğu gecikmeler olmadan. Jetson Orin Nano Super ve YOLO11 gibi araçlarla, Görüntü AI'nın geleceği, en çok ihtiyaç duyulduğu yerde, uçta ortaya çıkıyor.

Önemli çıkarımlar

Ultralytics YOLO modellerini (YOLO11 gibi) NVIDIA Jetson Orin Nano Super Geliştirici Kiti üzerinde dağıtmak, uç AI uygulamaları için güvenilir ve verimli bir çözüm sunar. Güçlü GPU performansı, PyTorch, ONNX ve TensorRT için sorunsuz destek ve etkileyici kıyaslama testleriyle, nesne algılama ve izleme gibi gerçek zamanlı bilgisayarlı görme görevleri için çok uygundur. 

Görüntü AI ve donanım hızlandırma gibi en son teknolojilerdeki yenilikler ve işbirlikleri, çalışma şeklimizi dönüştürüyor ve geliştiricilerin uçta ölçeklenebilir, yüksek performanslı çözümler oluşturmasını sağlıyor. AI ilerledikçe, YOLO11 ve Jetson Orin Nano Super gibi araçlar, akıllı, gerçek zamanlı çözümleri hayata geçirmeyi her zamankinden daha kolay hale getiriyor.

AI hakkında meraklı mısınız? Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret edin. Tarım ve sağlık gibi sektörlerde etki yaratmak için AI'yı nasıl kullandığımızı görün.