NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11: hızlı ve verimli

17 Aralık 2024'te piyasaya sürülen NVIDIA Jetson Orin Nano Super Geliştirici Kiti, gelişmiş yetenekleri uç bilişime taşımak için tasarlanmış, kompakt ancak güçlü bir üretken yapay zekâ süper bilgisayarıdır. Gerçek zamanlı işlemeyi kolaylaştırır ve bulut bilişimine duyulan ihtiyacı ortadan kaldırır. NVIDIA Jetson Orin Nano Super, geliştiricilerin yerel ortamlarda verimli şekilde çalışan uygun maliyetli akıllı sistemler oluşturmasını sağlar.

Ultralytics YOLO modelleri, örneğin Ultralytics YOLO11, ile eşleştirildiğinde Jetson Orin Nano Super, uçta çok çeşitli görsel yapay zekâ uygulamalarını çalıştırabilir. Özellikle YOLO11, nesne algılama, nesne takibi ve örnek bölütleme gibi görevlerde hızı ve doğruluğuyla bilinen bir bilgisayarlı görü modelidir.

Ultralytics YOLO11'in yeteneklerini kitin güçlü GPU'su (Grafik İşlem Birimi) ve PyTorch, ONNX ve NVIDIA TensorRT gibi framework'leri desteklemesiyle birleştirmek, yüksek performanslı dağıtımları mümkün kılar. Bu kombinasyon, geliştiricilere robotikte nesne algılamadan akıllı alanlarda ve perakende sistemlerinde gerçek zamanlı nesne takibine kadar yapay zekâ uygulamaları oluşturmak için verimli bir çözüm sunar.

Bu makalede NVIDIA Jetson Orin Nano Super Geliştirici Kitine, uç yapay zekâ için Ultralytics YOLO11 ile nasıl çalıştığına, performans karşılaştırmalarına, gerçek dünya uygulamalarına ve geliştiricilerin görsel yapay zekâ projeleri oluşturmasına nasıl yardımcı olabileceğine bakacağız. Hadi başlayalım!

NVIDIA Jetson Orin Nano Super Geliştirici Kiti nedir?#

NVIDIA Jetson Orin Nano Super Geliştirici Kiti, küçük uç cihazlar için üretken yapay zekâyı yeniden tanımlayan kompakt ancak güçlü bir bilgisayardır. Saniyede 67 TOPS'ye (trilyon işlem) kadar yapay zekâ performansı sunarak gelişmiş yapay zekâ projeleri üzerinde çalışan geliştiriciler, öğrenciler ve hobi meraklıları için ideal hâle gelir.

Öne çıkan özelliklerinden bazıları şunlardır:

• GPU performansı: Cihaz, 1.024 CUDA çekirdeği ve 32 Tensor Core içeren NVIDIA Ampere mimarisi GPU'su üzerine kuruludur. CUDA çekirdekleri birçok görevi eşzamanlı olarak işleyerek karmaşık hesaplamaları hızlandırırken Tensor Core'lar derin öğrenme gibi yapay zekâ görevleri için özelleştirilmiştir.
• Güçlü CPU: Hız ve verimlilik arasında denge kurmak üzere tasarlanmış 6 çekirdekli Arm Cortex-A78AE işlemciye sahiptir. Cihaz, enerji tüketimini düşük tutarken birden çok görevi sorunsuz şekilde gerçekleştirebilir. Bu, büyük güç kaynaklarına erişimi olmadan yerel olarak çalışan sistemler için önemlidir.
• Verimli bellek: Kit, 8 GB LPDDR5 (Düşük Güçlü Çift Veri Hızı 5) bellekle gelir. LPDDR5, hız ve enerji verimliliği için optimize edilmiş bir RAM (Rastgele Erişimli Bellek) türüdür; bu sayede cihaz, aşırı güç tüketmeden büyük veri kümelerini ve gerçek zamanlı işlemeyi yönetebilir.
• Bağlantı seçenekleri: Hızlı veri aktarımı için USB 3.2 bağlantı noktaları, güçlü ağ bağlantıları için Gigabit Ethernet bağlantı noktası ve sensörleri veya kameraları entegre etmek için kamera arabirimleri içerir.
• Yapay zekâ geliştirme araçları: Jetson Orin Nano Super, daha hızlı hesaplama için CUDA ve yapay zekâ modellerini optimize etmek için TensorRT gibi araçlar sunan NVIDIA JetPack SDK ile çalışır. Bu araçlar, geliştiricilerin yapay zekâ uygulamalarını hızlı ve verimli şekilde oluşturup dağıtmasını kolaylaştırır.

Performans karşılaştırmaları: Jetson Orin Nano Super ve Orin NX 16GB#

NVIDIA'nın çalışmalarına aşinaysan bu yeni sürümün mevcut NVIDIA Jetson Orin NX 16GB ile (süper mod olmadan) nasıl karşılaştırıldığını merak ediyor olabilirsin. Jetson Orin NX genel olarak daha yüksek yetenekler sunsa da Jetson Orin Nano Super Geliştirici Kiti, maliyetin çok daha küçük bir bölümünde etkileyici performans sağlar.

Şekil 2. NVIDIA Jetson Orin ekosistemine bakış.

İşte kısa bir genel bakış:

• Yapay zekâ performansı: Jetson Orin Nano Super, çoğu uç yapay zekâ görevi için ideal olan 67 TOPS'ye kadar performans sunarken Jetson Orin NX, daha zorlu uygulamalar için 100 TOPS'ye kadar performans sağlar.
• Bellek: Jetson Orin Nano Super, gerçek zamanlı görevler için yeterli olan 8 GB LPDDR5 içerirken Orin NX, daha büyük iş yükleri için bunu iki katına çıkararak 16 GB sunar.
• Güç verimliliği: Jetson Orin Nano Super daha enerji verimlidir ve Jetson Orin NX'in daha yüksek güç gereksinimlerine kıyasla 7 W ile 25 W arasında yapılandırılabilir.
• GPU: Her ikisi de güçlü GPU performansı için 1.024 CUDA çekirdeği ve 32 Tensor Core içeren NVIDIA Ampere mimarisini paylaşır.

Jetson Orin Nano Super ile Ultralytics YOLO11: Görsel yapay zekâyı uca taşıma#

Artık Jetson Orin Nano Super'ı daha iyi anladığımıza göre YOLO11'in görsel yapay zekâ yeteneklerini uca nasıl taşıyabileceğine bakalım. YOLO11 dahil Ultralytics YOLO modelleri; train, predict ve export gibi çok yönlü modlarla gelir ve bu sayede çeşitli yapay zekâ iş akışlarına uyarlanabilir.

Örneğin eğitim modunda Ultralytics YOLO modelleri, benzersiz nesneleri algılama veya belirli ortamlar için optimizasyon gibi özel uygulamalar için özel veri kümeleri üzerinde ince ayarlanabilir ve eğitilebilir. Benzer şekilde tahmin modu, çıkarım için tasarlanmıştır ve gerçek zamanlı bilgisayarlı görü görevlerini mümkün kılar. Son olarak dışa aktarma modu, modelleri dağıtım için optimize edilmiş biçimlere dönüştürmek amacıyla kullanılabilir.

Şekil 3. Ultralytics YOLO modelleri çeşitli özellikleri ve modları destekler.

Ultralytics YOLO11, export modunda diğerlerinin yanı sıra çeşitli model dağıtım seçeneklerini destekler:

• NVIDIA TensorRT: Bu biçim NVIDIA GPU'ları için optimize edilmiştir ve Jetson Orin Nano Super üzerinde yüksek performanslı, düşük gecikmeli çıkarım sunar.
• ONNX (Açık Sinir Ağı Değişimi): Çeşitli platformlar arasında uyumluluk sağlayarak farklı donanım ve yazılım ekosistemlerinde çok yönlü kullanım sunar.
• TorchScript: Bu biçim PyTorch tabanlı uygulamalar için idealdir ve PyTorch iş akışlarına sorunsuz entegrasyona yardımcı olur.
• TFLite (TensorFlow Lite): Hafif yapay zekâ dağıtımları için tasarlanmış bir biçimdir; mobil ve gömülü sistemler için idealdir.

Geliştiriciler bu dağıtım biçimlerini kullanarak akıllı alanlar, robotik ve perakende otomasyonu gibi gerçek zamanlı uygulamalarda Ultralytics YOLO11'i çalıştırmak için Jetson Orin Nano Super'ın donanımından tam anlamıyla yararlanabilir.

NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11 için performans karşılaştırması#

Şimdi Ultralytics YOLO11'in NVIDIA Jetson Orin Nano Super üzerinde ne kadar hızlı çalışabileceği hakkında daha iyi fikir edinmek için PyTorch, ONNX ve TensorRT gibi GPU hızlandırmalı dışa aktarma biçimlerini kullanarak etkileyici performansını ve karşılaştırma sonuçlarını inceleyelim. Bu testler, Jetson Orin Nano Super'ın YOLO11 modelleriyle elde ettiği çıkarım sürelerinin mevcut Jetson Orin NX 16GB (süper mod olmadan) ile karşılaştırılabilir olduğunu ve zaman zaman onu geride bıraktığını gösteriyor.

Şekil 4. NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11 performans karşılaştırması.

Bunu daha da dikkat çekici kılan, Jetson Orin Nano Super'ın uygun maliyetidir. Jetson Orin NX 16GB'ın fiyatının yarısından daha düşük bir fiyata bu performansı sunarak yüksek performanslı Ultralytics YOLO11 uygulamaları geliştiren geliştiriciler için olağanüstü bir değer sağlar. Maliyet ve performansın bu birleşimi, Jetson Orin Nano Super'ı uçta gerçek zamanlı görsel yapay zekâ görevleri için mükemmel bir seçenek hâline getirir.

Şekil 5. Jetson Orin NX 16GB üzerinde Ultralytics YOLO11 performans karşılaştırması.

Ultralytics YOLO11 ve NVIDIA Jetson Orin Nano Super'ı uygulamalı olarak deneyimle#

Ultralytics YOLO11'i Jetson Orin Nano Super üzerinde dağıtmaya başlamak için heyecanlıysan iyi haberlerimiz var: süreç oldukça basit. Cihazına NVIDIA JetPack SDK'yı yükledikten sonra hızlı kurulum için önceden oluşturulmuş bir Docker görüntüsü kullanabilir veya gerekli paketleri manuel olarak yükleyebilirsin.

Daha hızlı ve sorunsuz bir entegrasyon arayanlar için güncellenmiş JetPack 6 Docker container'ı ideal çözümdür. Docker container, belirli bir yazılımı çalıştırmak için gereken tüm araçları ve bağımlılıkları içeren hafif ve taşınabilir bir ortamdır.

JetPack 6.1 için optimize edilen Ultralytics container'ı, Jetson'ın ARM64 mimarisi için uyarlanmış CUDA 12.6, TensorRT 10.3 ve PyTorch ile TorchVision gibi temel araçlarla önceden yüklenmiş olarak gelir. Geliştiriciler bu container'ı kullanarak kurulum için harcanan zamandan tasarruf edebilir ve YOLO11 ile görsel yapay zekâ uygulamalarını oluşturmaya ve optimize etmeye odaklanabilir.

NVIDIA Jetson Orin Nano Super üzerinde Ultralytics YOLO11 uygulamaları#

Bir sonraki yapay zekâ projen için ilham arıyorsan uç tabanlı bilgisayarlı görü uygulamaları her yerde karşına çıkabilir.

Günlük yaşamda uç yapay zekâ, sistemlerin bulut işlemeye bağlı kalmadan nesneleri gerçek zamanlı olarak algılamasını ve takip etmesini sağlayarak akıllı alanları yeniden tanımlıyor. İster hareketli bir şehirde trafiği izlemek ister kamusal alanlardaki olağandışı etkinlikleri belirlemek olsun, uç görsel yapay zekâ güvenliği ve verimliliği artırıyor.

Perakendeciler de uç yapay zekâdan ve bilgisayarlı görüden yararlanıyor. Otomatik envanter kontrollerinden hırsızlığın önlenmesine kadar Ultralytics YOLO11 gibi modeller, işletmelerin gerçek zamanlı çözümleri doğrudan mağazalarda dağıtmasını mümkün kılıyor.

Benzer şekilde sağlık hizmetlerinde yapay zekâ söz konusu olduğunda uç tabanlı izleme, buluta bağımlılığın neden olduğu gecikmeler olmadan hasta güvenliğini sağlar, anormallikleri algılar ve uyumluluğu korur. Jetson Orin Nano Super ve Ultralytics YOLO11 gibi araçlarla görsel yapay zekânın geleceği, en çok ihtiyaç duyulduğu yerde, tam da uçta şekilleniyor.

Önemli çıkarımlar#

YOLO11 gibi Ultralytics YOLO modellerini NVIDIA Jetson Orin Nano Super Geliştirici Kiti üzerinde dağıtmak, uç yapay zekâ uygulamaları için güvenilir ve verimli bir çözüm sunar. Güçlü GPU performansı, PyTorch, ONNX ve TensorRT için sorunsuz destek ve etkileyici karşılaştırma sonuçları sayesinde nesne algılama ve takip gibi gerçek zamanlı bilgisayarlı görü görevleri için oldukça uygundur.

Görsel yapay zekâ ve donanım hızlandırma gibi ileri teknolojilerdeki yenilikler ve iş birlikleri, çalışma biçimimizi dönüştürerek geliştiricilerin uçta ölçeklenebilir, yüksek performanslı çözümler oluşturmasını sağlıyor. Yapay zekâ ilerledikçe Ultralytics YOLO11 ve Jetson Orin Nano Super gibi araçlar, akıllı ve gerçek zamanlı çözümleri hayata geçirmeyi hiç olmadığı kadar kolaylaştırıyor.

Yapay zekâyı mı merak ediyorsun? Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret et. Yapay zekâyı tarım ve sağlık hizmetleri gibi sektörlerde nasıl etki oluşturmak için kullandığımızı gör.