NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11: hızlı ve verimli

17 Aralık 2024'te kullanıma sunulan NVIDIA Jetson Orin Nano Super Developer Kit, gelişmiş yetenekleri uç bilişime taşımak için tasarlanmış, kompakt ama güçlü bir üretken yapay zekâ süper bilgisayarıdır. Gerçek zamanlı işlemeye olanak tanır ve bulut bilişime duyulan ihtiyacı azaltır. NVIDIA Jetson Orin Nano Super, geliştiricilerin yerel ortamlarda verimli çalışan, uygun fiyatlı akıllı sistemler oluşturmasını sağlar.

Ultralytics YOLO modelleri Ultralytics YOLO11 gibi modellerle eşleştirildiğinde Jetson Orin Nano Super, çok çeşitli görme yapay zekâsı uygulamalarını uçta çalıştırabilir. Özellikle YOLO11; nesne algılama, nesne takibi ve örnek segmentasyonu gibi görevlerdeki hızı ve doğruluğuyla bilinen bir bilgisayarlı görü modelidir.

Ultralytics YOLO11'in yeteneklerini kitin güçlü GPU'su (Grafik İşlem Birimi) ve PyTorch, ONNX ve NVIDIA TensorRT gibi çerçeveleri desteklemesiyle birleştirmek, yüksek performanslı dağıtımlara olanak tanır. Bu birleşim, geliştiricilere robotikte nesne algılamadan akıllı alanlarda ve perakende sistemlerinde gerçek zamanlı nesne takibine kadar yapay zekâ uygulamaları oluşturmak için verimli bir çözüm sunar.

Bu makalede NVIDIA Jetson Orin Nano Super Developer Kit'e, uç yapay zekâ için Ultralytics YOLO11 ile nasıl çalıştığına, performans kıyaslamalarına, gerçek dünya uygulamalarına ve geliştiricilerin görsel yapay zekâ projeleri oluşturmasına nasıl yardımcı olabileceğine bakacağız.

NVIDIA Jetson Orin Nano Super Developer Kit nedir?#

NVIDIA Jetson Orin Nano Super Developer Kit, üretken yapay zekâyı küçük uç cihazlara taşıyan kompakt ama güçlü bir bilgisayardır. Saniyede trilyonlarca işlem anlamına gelen 67 TOPS'a kadar yapay zekâ performansı sunar; bu da onu gelişmiş yapay zekâ projeleri üzerinde çalışan geliştiriciler, öğrenciler ve hobi amaçlı kullanıcılar için uygun hâle getirir.

Öne çıkan özelliklerinden bazıları şunlardır:

• GPU performansı: Cihaz, 1.024 CUDA çekirdeği ve 32 Tensor Core içeren NVIDIA Ampere mimarili GPU üzerine kuruludur. CUDA çekirdekleri birçok görevi aynı anda işleyerek karmaşık hesaplamaları hızlandırırken Tensor Core'lar derin öğrenme gibi yapay zekâ görevleri için özel olarak tasarlanmıştır.
• Güçlü CPU: Hız ile verimliliği dengelemek üzere tasarlanmış 6 çekirdekli Arm Cortex-A78AE işlemciye sahiptir. Cihaz, enerji tüketimini düşük tutarken birden fazla görevi sorunsuzca yürütebilir. Bu özellik, büyük güç kaynaklarına erişimi olmadan yerel olarak çalışan sistemler için önemlidir.
• Verimli bellek: Kit, 8 GB LPDDR5 (Düşük Güçlü Çift Veri Hızlı 5) bellekle gelir. LPDDR5, hız ve enerji verimliliği için optimize edilmiş bir RAM (Rastgele Erişimli Bellek) türüdür; cihazın aşırı güç tüketmeden büyük veri kümelerini işlemesini ve gerçek zamanlı çalışmasını sağlar.
• Bağlantı seçenekleri: Hızlı veri aktarımı için USB 3.2 bağlantı noktaları, güçlü ağ bağlantıları için Gigabit Ethernet bağlantı noktası ve sensörleri ya da kameraları entegre etmek için kamera arayüzleri içerir.
• Yapay zekâ geliştirme araçları: Jetson Orin Nano Super, daha hızlı hesaplama için CUDA ve yapay zekâ modellerini optimize etmek için TensorRT gibi araçlar sunan NVIDIA JetPack SDK ile çalışır. Bu araçlar, geliştiricilerin yapay zekâ uygulamalarını hızlı ve verimli biçimde oluşturup dağıtmasını kolaylaştırır.

Performans kıyaslamaları: Jetson Orin Nano Super ve Orin NX 16GB#

NVIDIA'nın çalışmalarına aşinaysan bu yeni sürümün mevcut NVIDIA Jetson Orin NX 16GB (Super modu olmadan) ile nasıl karşılaştırıldığını merak ediyor olabilirsin. Jetson Orin NX genel olarak daha yüksek kapasite sunsa da Jetson Orin Nano Super Developer Kit, maliyetin çok daha düşük bir kısmına etkileyici performans sağlar.

Şekil 2. NVIDIA Jetson Orin ekosistemine bir bakış.

Kısaca şöyle özetleyebiliriz:

• Yapay zekâ performansı: Jetson Orin Nano Super, çoğu uç yapay zekâ görevi için yeterli olan 67'ye kadar TOPS sunarken Jetson Orin NX daha zorlu uygulamalar için 100'e kadar TOPS sunar.
• Bellek: Jetson Orin Nano Super, gerçek zamanlı görevler için yeterli olan 8 GB LPDDR5 içerirken Orin NX daha büyük iş yükleri için bu miktarı ikiye katlayarak 16 GB'a çıkarır.
• Güç verimliliği: Jetson Orin Nano Super daha enerji verimlidir ve 7 W ile 25 W arasında yapılandırılabilir; Jetson Orin NX ise daha yüksek güç gereksinimlerine sahiptir.
• GPU: Her ikisi de güçlü GPU performansı için 1.024 CUDA çekirdeği ve 32 Tensor Core içeren NVIDIA Ampere mimarisini kullanır.

Jetson Orin Nano Super ile Ultralytics YOLO11: Görme yapay zekâsını uca taşıma#

Jetson Orin Nano Super'ı daha iyi tanıdığına göre, YOLO11'in görme yapay zekâsı özelliklerini uca nasıl taşıyabileceğine bakalım. YOLO11 dahil Ultralytics YOLO modelleri; eğitme, tahmin ve dışa aktarma gibi çok yönlü modlarla çeşitli yapay zekâ iş akışlarına uyarlanabilir.

Örneğin, eğitim modunda Ultralytics YOLO modelleri, benzersiz nesneleri algılama veya belirli ortamlar için optimizasyon gibi özel uygulamalara yönelik özel veri kümeleriyle ince ayar yapılıp eğitilebilir. Benzer şekilde tahmin modu, çıkarım için tasarlanmıştır ve gerçek zamanlı bilgisayarlı görü görevlerini mümkün kılar. Son olarak dışa aktarma modu, modelleri dağıtım için optimize edilmiş biçimlere dönüştürmek için kullanılabilir.

Şekil 3. Ultralytics YOLO modelleri çeşitli özellikleri ve modları destekler.

Ultralytics YOLO11'in dışa aktarma modu, diğer seçeneklerin yanı sıra çeşitli model dağıtım seçeneklerini destekler:

• NVIDIA TensorRT: Bu biçim NVIDIA GPU'lar için optimize edilmiştir ve Jetson Orin Nano Super'da yüksek performanslı, düşük gecikmeli çıkarım sunar.
• ONNX (Açık Sinir Ağı Değişimi): Çeşitli platformlarla uyumluluk sağlayarak farklı donanım ve yazılım ekosistemlerinde esnek kullanım sunar.
• TorchScript: Bu biçim PyTorch tabanlı uygulamalar için idealdir ve PyTorch iş akışlarına kolayca entegre edilir.
• TFLite (TensorFlow Lite): Hafif yapay zekâ dağıtımları için tasarlanmış bir biçimdir; bu nedenle mobil ve gömülü sistemler için uygundur.

Geliştiriciler bu dağıtım biçimlerinden yararlanarak Jetson Orin Nano Super'ın donanımını sonuna kadar kullanabilir ve Ultralytics YOLO11'i akıllı alanlar, robotik ve perakende otomasyonu gibi gerçek zamanlı uygulamalarda çalıştırabilir.

NVIDIA Jetson Orin Nano Super'da Ultralytics YOLO11 kıyaslaması#

Ultralytics YOLO11'in NVIDIA Jetson Orin Nano Super'da ne kadar hızlı çalışabildiğini daha iyi anlamak için şimdi PyTorch, ONNX ve TensorRT gibi GPU hızlandırmalı biçimleri kullanan performans kıyaslamalarına bakalım. Bu testler, Jetson Orin Nano Super'ın YOLO11 modelleriyle Jetson Orin NX 16GB'ın (süper modu olmadan) performansına benzer, kimi zaman da ondan daha hızlı çıkarım sürelerine ulaştığını gösteriyor.

Şekil 4. NVIDIA Jetson Orin Nano Super'da Ultralytics YOLO11 kıyaslaması.

Jetson Orin Nano Super'ı daha da etkileyici kılan şey uygun fiyatlı olmasıdır. Jetson Orin NX 16GB'ın yarısından daha düşük bir fiyatla bu performansı sunması, yüksek performanslı Ultralytics YOLO11 uygulamaları geliştiren geliştiriciler için güçlü bir değer sağlar. Maliyet ve performansın bu birleşimi, Jetson Orin Nano Super'ı uçta gerçek zamanlı görsel yapay zekâ görevleri için mükemmel bir seçenek hâline getirir.

Şekil 5. Jetson Orin NX 16GB'da Ultralytics YOLO11 kıyaslaması.

Ultralytics YOLO11 ve NVIDIA Jetson Orin Nano Super'ı deneyimle#

Jetson Orin Nano Super üzerinde Ultralytics YOLO11 dağıtımına başlamak seni heyecanlandırıyorsa süreç oldukça basit. Cihazına NVIDIA JetPack SDK'yı yükledikten sonra hızlı kurulum için önceden hazırlanmış bir Docker imajı kullanabilir veya gerekli paketleri manuel olarak yükleyebilirsin.

En hızlı kurulum için güncellenmiş JetPack 6 Docker kapsayıcısı en basit seçenektir. Docker kapsayıcısı, belirli yazılımları çalıştırmak için gereken tüm araçları ve bağımlılıkları içeren hafif ve taşınabilir bir ortamdır.

JetPack 6.1 için optimize edilmiş Ultralytics kapsayıcısı, Jetson'ın ARM64 mimarisine özel CUDA 12.6, TensorRT 10.3 ve PyTorch ile TorchVision gibi temel araçlarla önceden yüklenmiştir. Geliştiriciler bu kapsayıcıyı kullanarak kurulumda zaman kazanabilir ve YOLO11 ile görme yapay zekâsı uygulamalarını oluşturmaya ve optimize etmeye odaklanabilir.

NVIDIA Jetson Orin Nano Super'da Ultralytics YOLO11 uygulamaları#

Bir sonraki yapay zekâ projen için ilham arıyorsan çevremizde uç tabanlı bilgisayarlı görü uygulamaları için pek çok fırsat var.

Günlük yaşamda uç yapay zekâ, bulut işlemeye bağlı kalmadan sistemlerin nesneleri gerçek zamanlı olarak algılayıp izlemesini sağlayarak akıllı alanları dönüştürüyor. İster hareketli bir şehirde trafiği izlemek ister kamusal alanlardaki olağandışı etkinlikleri belirlemek olsun, uç görsel yapay zekâ güvenliği ve verimliliği artırıyor.

Perakendeciler de uç yapay zekâdan ve bilgisayarlı görüden yararlanıyor. Otomatik envanter kontrollerinden hırsızlığı önlemeye kadar Ultralytics YOLO11 gibi modeller, işletmelerin gerçek zamanlı çözümleri doğrudan mağazalarda kullanmasını mümkün kılıyor.

Benzer şekilde, sağlık hizmetlerinde yapay zekâ söz konusu olduğunda uç tabanlı izleme, buluta bağımlılığın neden olduğu gecikmeler olmadan hasta güvenliğini korumaya yardımcı olur, anormallikleri tespit eder ve mevzuata uyumu destekler. Jetson Orin Nano Super ve Ultralytics YOLO11 gibi araçlarla görsel yapay zekânın geleceği, en çok ihtiyaç duyulduğu yerde, tam da uçta şekilleniyor.

Önemli çıkarımlar#

YOLO11 gibi Ultralytics YOLO modellerini NVIDIA Jetson Orin Nano Super Developer Kit'te dağıtmak, uç yapay zekâ uygulamaları için güvenilir ve verimli bir çözüm sunar. Güçlü GPU performansı, PyTorch, ONNX ve TensorRT için yerel desteği ve etkileyici performans kıyaslamalarıyla nesne algılama ve izleme gibi gerçek zamanlı bilgisayarlı görü görevlerine çok uygundur.

Görsel yapay zekâ ve donanım hızlandırmadaki gelişmeler, çalışma biçimimizi değiştiriyor ve geliştiricilerin uçta ölçeklenebilir, yüksek performanslı çözümler oluşturmasına yardımcı oluyor. Yapay zekâ geliştikçe Ultralytics YOLO11 ve Jetson Orin Nano Super gibi araçlar, akıllı ve gerçek zamanlı çözümleri hayata geçirmeyi hiç olmadığı kadar kolaylaştırıyor.

Yapay zekâyı merak ediyor musun? Katkılarımızı keşfetmek ve topluluğumuzla etkileşime geçmek için GitHub depomuzu ziyaret et. Tarım ve sağlık hizmetleri gibi sektörlerde yapay zekâyı nasıl fark yaratan çözümler için kullandığımızı gör.