NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11: hızlı ve verimli

17 Aralık 2024'te piyasaya sürülen NVIDIA Jetson Orin Nano Super Geliştirici Kiti, gelişmiş yetenekleri uç bilişime getirmek için tasarlanmış kompakt ancak güçlü bir üretken yapay zeka süper bilgisayarıdır. Gerçek zamanlı işlemeyi kolaylaştırır ve bulut bilişim ihtiyacını ortadan kaldırır. NVIDIA Jetson Orin Nano Super, geliştiricilerin yerel ortamlarda verimli bir şekilde çalışan uygun fiyatlı akıllı sistemler oluşturmasına olanak tanır.

Ultralytics YOLO11 gibi Ultralytics YOLO modelleriyle eşleştirildiğinde Jetson Orin Nano Super, uçta çok çeşitli görme tabanlı yapay zeka uygulamalarının üstesinden gelebilir. Özellikle YOLO11; nesne tespiti, nesne takibi ve örnek bölütleme gibi görevlerdeki hızı ve doğruluğuyla bilinen bir bilgisayarla görü modelidir.

Ultralytics YOLO11 yeteneklerini kitin güçlü GPU (Graphics Processing Unit) birimi ve PyTorch, ONNX ve NVIDIA TensorRT gibi frameworks desteğiyle birleştirmek, yüksek performanslı dağıtımlar sağlar. Bu kombinasyon, geliştiricilere robotikte nesne tespitinden akıllı alanlar ve perakende sistemlerinde gerçek zamanlı nesne takibine kadar yapay zeka uygulamaları oluşturmak için verimli bir çözüm sunar.

Bu makalede NVIDIA Jetson Orin Nano Super Geliştirici Kiti'ni, uç yapay zeka için Ultralytics YOLO11 ile nasıl çalıştığını, performans kıyaslamalarını, gerçek dünya uygulamalarını ve geliştiricilerin görme tabanlı yapay zeka projeleri oluşturmasına nasıl yardımcı olabileceğini inceleyeceğiz. Hadi başlayalım!

NVIDIA Jetson Orin Nano Super Geliştirici Kiti nedir?#

NVIDIA Jetson Orin Nano Super Geliştirici Kiti, küçük uç cihazlar için üretken yapay zekayı yeniden tanımlayan kompakt ama güçlü bir bilgisayardır. 67 TOPS'a (saniyede trilyonlarca işlem) varan yapay zeka performansı sunarak gelişmiş yapay zeka projeleri üzerinde çalışan geliştiriciler, öğrenciler ve hobi kullanıcıları için idealdir.

İşte temel özelliklerinden bazıları:

• GPU performansı: Cihaz, 1.024 CUDA çekirdeği ve 32 Tensor Çekirdeği içeren NVIDIA Ampere mimarili bir GPU üzerine kuruludur. CUDA çekirdekleri birçok görevi aynı anda işleyerek karmaşık hesaplamaları hızlandırırken, Tensor Çekirdekleri derin öğrenme gibi yapay zeka görevleri için özelleştirilmiştir.
• Güçlü CPU: Hız ve verimlilik arasında denge kurmak için tasarlanmış 6 çekirdekli Arm Cortex-A78AE işlemciye sahiptir. Cihaz, enerji kullanımını düşük tutarken birden fazla görevi sorunsuz bir şekilde işleyebilir. Bu, büyük güç kaynaklarına erişimi olmayan yerel ortamlarda çalışan sistemler için önemlidir.
• Verimli bellek: Kit, 8 GB LPDDR5 (Low Power Double Data Rate 5) bellek ile birlikte gelir. LPDDR5, hız ve enerji verimliliği için optimize edilmiş bir RAM (Random Access Memory) türüdür; cihazın aşırı güç tüketmeden büyük veri setlerini ve gerçek zamanlı işlemeyi yönetmesine olanak tanır.
• Bağlantı seçenekleri: Hızlı veri aktarımı için USB 3.2 bağlantı noktaları, güçlü ağ bağlantıları için bir Gigabit Ethernet bağlantı noktası ve sensörleri veya kameraları entegre etmek için kamera arayüzleri içerir.
• Yapay zeka geliştirme araçları: Jetson Orin Nano Super, daha hızlı bilgi işlem için CUDA ve yapay zeka modellerini optimize etmek için TensorRT gibi araçlar sağlayan NVIDIA JetPack SDK ile çalışır. Bu araçlar, geliştiricilerin yapay zeka uygulamalarını hızlı ve verimli bir şekilde oluşturup dağıtmasını kolaylaştırır.

Performans karşılaştırmaları: Jetson Orin Nano Super ile Orin NX 16GB karşılaştırması#

NVIDIA'nın çalışmalarına aşinaysan, bu yeni sürümün mevcut NVIDIA Jetson Orin NX 16GB (süper mod olmadan) ile nasıl kıyaslandığını merak ediyor olabilirsin. Jetson Orin NX daha yüksek genel yetenekler sunsa da, Jetson Orin Nano Super Geliştirici Kiti maliyetin çok küçük bir kısmıyla etkileyici bir performans sağlar.

Şekil 2. NVIDIA Jetson Orin ekosistemine bir bakış.

İşte kısa bir özet:

• Yapay zeka performansı: Jetson Orin Nano Super, çoğu uç yapay zeka görevi için harika olan 67 TOPS'a kadar performans sağlarken, Jetson Orin NX daha zorlu uygulamalar için 100 TOPS'a kadar performans sunar.
• Bellek: Jetson Orin Nano Super, gerçek zamanlı görevler için yeterli olan 8GB LPDDR5 içerirken, Orin NX daha büyük iş yükleri için bunu 16GB'a ikiye katlar.
• Güç verimliliği: Jetson Orin Nano Super daha enerji verimlidir ve 7W ile 25W arasında yapılandırılabilir; Jetson Orin NX ise daha yüksek güç taleplerine sahiptir.
• GPU: Her ikisi de güçlü GPU performansı için 1.024 CUDA çekirdeği ve 32 Tensor Çekirdeği içeren NVIDIA Ampere mimarisini paylaşır.

Jetson Orin Nano Super ile Ultralytics YOLO11: Görsel yapay zekayı uç noktaya (edge) getirmek#

Jetson Orin Nano Super hakkında daha iyi bir anlayışa sahip olduğumuza göre, YOLO11'in görsel yapay zeka yeteneklerini uç noktaya taşımak için nasıl devreye girebileceğine bakalım. YOLO11 dahil olmak üzere Ultralytics YOLO modelleri; eğitim, tahmin ve dışa aktarma gibi çok yönlü modlarla gelir ve çeşitli yapay zeka iş akışlarına uyarlanabilir hale getirir.

Örneğin eğitim modunda Ultralytics YOLO modelleri; benzersiz nesneleri tespit etme veya belirli ortamlar için optimize etme gibi belirli uygulamalar için özel veri setleri üzerinde ince ayarlanabilir ve eğitilebilir. Benzer şekilde tahmin modu çıkarım için tasarlanmıştır ve gerçek zamanlı bilgisayarla görü görevlerini etkinleştirir. Son olarak dışa aktarma modu, modelleri dağıtım için optimize edilmiş formatlara dönüştürmek amacıyla kullanılabilir.

Şekil 3. Ultralytics YOLO modelleri çeşitli özellikler ve modları destekler.

Ultralytics YOLO11, export modunda diğerlerinin yanı sıra bir dizi model dağıtım seçeneğini destekler:

• NVIDIA TensorRT: Bu biçim, NVIDIA GPU'lar için optimize edilmiştir ve Jetson Orin Nano Super üzerinde yüksek performanslı ve düşük gecikmeli çıkarım sunar.
• ONNX (Açık Sinir Ağı Değişimi): Çeşitli platformlarda uyumluluk sağlar, bu da onu farklı donanım ve yazılım ekosistemleri için çok yönlü hale getirir.
• TorchScript: Bu format, PyTorch tabanlı uygulamalar için idealdir ve PyTorch iş akışlarıyla sorunsuz entegrasyona yardımcı olur.
• TFLite (TensorFlow Lite): Hafif yapay zeka dağıtımları için tasarlanmış bir format olup mobil ve gömülü sistemler için mükemmeldir.

Geliştiriciler, bu dağıtım formatlarını kullanarak Jetson Orin Nano Super donanımından tam olarak yararlanabilir ve akıllı alanlar, robotik ve perakende otomasyonu gibi gerçek zamanlı uygulamalar için Ultralytics YOLO11 çalıştırabilir.

NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11 kıyaslama testi (benchmarking)#

Sonraki aşamada, Ultralytics YOLO11 modelinin NVIDIA Jetson Orin Nano Super üzerinde ne kadar hızlı çalışabileceği hakkında daha iyi bir fikir edinmek için PyTorch, ONNX ve TensorRT gibi GPU hızlandırmalı dışa aktarım formatlarını kullanarak etkileyici performansını ve kıyaslama testlerini inceleyelim. Bu testler, Jetson Orin Nano Super'ın, YOLO11 modelleriyle mevcut Jetson Orin NX 16GB (super mod olmadan) ile karşılaştırılabilir ve zaman zaman onu aşan çıkarım süreleri elde ettiğini ortaya koyuyor.

Fig 4. NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11 kıyaslama testi.

Bunu daha da dikkat çekici kılan şey Jetson Orin Nano Super’in uygun fiyatlı olmasıdır. Jetson Orin NX 16GB fiyatının yarısından daha azına böyle bir performans sunarak, yüksek performanslı Ultralytics YOLO11 uygulamaları geliştiren geliştiriciler için olağanüstü bir değer sağlar. Maliyet ve performansın bu kombinasyonu, Jetson Orin Nano Super’i uçta gerçek zamanlı görüş yapay zekası görevleri için mükemmel bir seçim haline getirir.

Fig 5. Jetson Orin NX 16GB üzerinde Ultralytics YOLO11 kıyaslama testi.

Ultralytics YOLO11 ve NVIDIA Jetson Orin Nano Super ile ellerini kirletmeye başla#

Ultralytics YOLO11 modelini Jetson Orin Nano Super üzerinde getting started konusunda heyecanlıysan, iyi bir haber var; bu oldukça anlaşılır bir süreçtir. Cihazına NVIDIA JetPack SDK yükledikten sonra, hızlı kurulum için önceden oluşturulmuş bir Docker imajı kullanabilir veya gerekli paketleri manuel olarak kurabilirsin.

Daha hızlı ve daha sorunsuz bir entegrasyon arayanlar için güncellenmiş JetPack 6 Docker kapsayıcısı ideal çözümdür. Docker kapsayıcısı, belirli yazılımları çalıştırmak için gerekli tüm araçları ve bağımlılıkları içeren hafif, taşınabilir bir ortamdır.

JetPack 6.1 için optimize edilmiş Ultralytics kapsayıcısı; tamamen Jetson'ın ARM64 mimarisine uyarlanmış CUDA 12.6, TensorRT 10.3 ve PyTorch ile TorchVision gibi temel araçlarla önceden yüklenmiş olarak gelir. Geliştiriciler bu kapsayıcıyı kullanarak kurulum süresinden tasarruf edebilir ve YOLO11 ile görme tabanlı yapay zeka uygulamalarını oluşturmaya ve optimize etmeye odaklanabilir.

NVIDIA Jetson Orin Nano Super Üzerinde Ultralytics YOLO11 Uygulamaları#

Bir sonraki yapay zeka projeniz için ilham arıyorsanız, çevremizde uç tabanlı bilgisayarlı görü uygulamaları için büyük bir potansiyel var.

Günlük yaşamda uç yapay zekası, sistemlerin bulut işlemeye güvenmek zorunda kalmadan nesneleri gerçek zamanlı olarak algılamasını ve takip etmesini sağlayarak akıllı alanları yeniden tanımlıyor. İster hareketli bir şehirde trafiği izlemek ister halka açık alanlarda sıra dışı etkinlikleri belirlemek olsun, uç görsel yapay zekası güvenliği ve verimliliği artırıyor.

Perakendeciler de uç yapay zeka ve bilgisayarlı görüden yararlanıyor. Otomatik envanter kontrollerinden theft prevention özelliğine kadar Ultralytics YOLO11 gibi modeller, işletmelerin mağazalarda doğrudan gerçek zamanlı çözümler dağıtmasını mümkün kılar.

Benzer şekilde, AI in healthcare söz konusu olduğunda, uç tabanlı izleme bulut bağımlılığından kaynaklanan gecikmeler olmadan hasta güvenliğini sağlar, anomalileri tespit eder ve uyumluluğu korur. Jetson Orin Nano Super ve Ultralytics YOLO11 gibi araçlarla, görüş yapay zekasının geleceği tam da en çok ihtiyaç duyulan yerde, uçta şekilleniyor.

Öne çıkanlar#

Ultralytics YOLO modellerini YOLO11 gibi NVIDIA Jetson Orin Nano Super Geliştirici Kiti üzerinde dağıtmak, uç yapay zeka uygulamaları için güvenilir ve verimli bir çözüm sunar. Güçlü GPU performansı, PyTorch, ONNX ve TensorRT desteği ve etkileyici kıyaslamaları ile nesne algılama ve takip gibi gerçek zamanlı bilgisayarlı görü görevleri için oldukça uygundur.

Görüş yapay zekası ve donanım hızlandırma gibi çığır açan teknolojilerdeki yenilikler ve iş birlikleri, çalışma şeklimizi dönüştürerek geliştiricilerin uçta ölçeklenebilir ve yüksek performanslı çözümler oluşturmasını güçlendiriyor. Yapay zeka ilerledikçe, Ultralytics YOLO11 ve Jetson Orin Nano Super gibi araçlar akıllı, gerçek zamanlı çözümleri hayata geçirmeyi her zamankinden daha kolay hale getiriyor.

Yapay zekayı merak mı ediyorsun? Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret et. Tarım ve sağlık gibi endüstrilerde bir fark yaratmak için yapay zekayı nasıl kullandığımızı gör.