Uç yapay zekâ için Ultralytics YOLO modellerini Axelera AI donanımına taşıma

Ultralytics olarak, yapay zekâ daha yaygın biçimde benimsendikçe bilgisayarlı görü modellerini doğrudan uç cihazlarda çalıştırmaya yönelik ilginin arttığını görüyoruz. Bilgisayarlı görü topluluğuyla yaptığımız çevrimiçi görüşmelerde ve yakın zamanda katıldığımız teknoloji konferanslarında ekibimiz, görsel yapay zekâyı verilerin üretildiği yere daha yakın konumlandırmaya yönelik ilginin giderek arttığını gözlemledi.

Akıllı perakende ortamlarından endüstriyel otomasyona ve robotik sistemlere kadar, gerçek zamanlı içgörüler vazgeçilmez hâle geliyor ve artık yalnızca buluta güvenmek yeterli değil.

Basitçe söylemek gerekirse, uç yapay zekâ, verileri işlenmek üzere merkezi sunuculara göndermek yerine yapay zekâ modellerini yerel olarak cihazlarda çalıştırmayı içerir. Bu sayede gecikme azaltılabilir, güvenilirlik artırılabilir ve gerçek dünyadaki olaylara gerçek zamanlı yanıt verilebilir.

Ancak bu ortamlarda yüksek performanslı modelleri kullanıma almak kendine özgü zorlukları beraberinde getirir; sınırlı işlem kaynakları ve güç kısıtlamaları, modellerin hem verimli hem de çalışacakları donanım için optimize edilmiş olmasını gerektirir.

Ultralytics YOLO26 gibi Ultralytics YOLO modelleri gerçek zamanlı bilgisayarlı görü için tasarlanmıştır; ancak modellerin uçta tüm potansiyelini ortaya çıkarmak için doğru yazılım ve donanım bileşimi gerekir. Bu nedenle Axelera AI ile iş birliğimizi duyurmaktan heyecan duyuyoruz.

Axelera AI ile iş ortaklığı kurarak, Metis® Yapay Zekâ İşlem Birimlerinde (AIPU'larda) Ultralytics YOLO modellerinin verimli ve yüksek performanslı biçimde kullanıma alınmasını sağlayan güncellenmiş bir dışa aktarma entegrasyonu sunuyoruz.

Şekil 1. Metis Yapay Zekâ İşlem Birimine genel bakış (Kaynak)

Bu makalede, Ultralytics YOLO modellerinin Metis'te kullanıma alınmak üzere nasıl kolayca derlenebileceğini inceleyeceğiz. Hadi başlayalım!

Uç yapay zekâ, bilgisayarlı görünün geleceğidir#

Bilgisayarlı görü uygulamaları gelişmeye devam ettikçe, daha hızlı ve verimli işlemeye duyulan ihtiyaç giderek daha kritik hâle geliyor. Geleneksel bulut tabanlı yaklaşımlar gecikmeye yol açabilir, istikrarlı bağlantıya bağlıdır ve birçok akıllı görüntüleme kullanım senaryosunun gerçek zamanlı gereksinimlerini karşılayamayabilir.

Uç yapay zekâ, modellerin doğrudan yerel cihazlarda çalışmasını sağlayarak bu zorlukları giderir ve verilerin kaynağına daha yakın bir yerde işlenmesine olanak tanır. Örneğin, arama kurtarma operasyonlarında kullanılan görüyle güçlendirilmiş dronları ele alalım.

Bu sistemlerin; genellikle internet bağlantısının sınırlı olduğu veya hiç bulunmadığı uzak bölgelerde, insanları, engelleri ya da tehlikeleri tespit etmek için video akışlarını gerçek zamanlı analiz etmesi gerekir. Bilgisayarlı görü modellerini doğrudan drone üzerinde çalıştıran uç yapay zekâ, bulut altyapısına bağlı kalmadan daha hızlı karar alınmasını ve daha güvenilir performans sunulmasını sağlar.

Bu dönüşüm, sektörler genelinde yeni olanakların önünü açıyor. Perakendede gerçek zamanlı nesne algılama, imalatta otomatik kalite kontrolü ve robotikte algılama gibi uygulamaların tümü, daha hızlı yanıt sürelerinden ve daha yüksek güvenilirlikten yararlanıyor.

Uç yapay zekâ, gerçek dünya ortamlarında ölçeklenebilir ve duyarlı bilgisayarlı görü sistemlerini kullanıma almanın temel unsurlarından biri hâline hızla geliyor.

Axelera AI'ın Metis Yapay Zekâ İşlem Birimlerini inceleme#

Yeni dışa aktarma entegrasyonunu ayrıntılı olarak ele almadan önce, bir adım geri çekilip Axelera AI'ın Metis Yapay Zekâ İşlem Birimleri ve verimli uç yapay zekâyı mümkün kılmadaki rolleri hakkında daha fazla bilgi edinelim.

Axelera AI, özellikle uçta yapay zekâ çıkarımını hızlandırmak üzere tasarlanmış, amaca özel donanımlar geliştiriyor. Bu yaklaşımın önemli bir parçası, Metis AIPU veya Yapay Zekâ İşlem Birimi'dir; bu, sinir ağlarını uç cihazlarda verimli biçimde çalıştırmak için tasarlanmış özel bir işlemcidir.

Genel amaçlı merkezi işlem birimlerinin (CPU'ların) ve hatta grafik işlem birimlerinin (GPU'ların) aksine, AIPU'lar yapay zekâ iş yüklerinin kendine özgü hesaplama örüntülerini işlemek üzere tasarlanmıştır. Bu sayede, kaynakların genellikle sınırlı olduğu uç ortamlarda kritik önem taşıyan düşük güç tüketimini korurken yüksek performans sunarlar.

Axelera AI'ın yaklaşımını özellikle yenilikçi kılan, tam yığın tasarımıdır. Metis, uç bilişimin gerektirdiği enerji verimliliğini sunarken yüksek performans sağlamak için dijital bellek içi hesaplama (D-IMC) ve RISC-V ile geliştirilmiştir. Metis'in dört çekirdeği birbirinden bağımsız olarak programlanabilir; bu da çip başına dört modeli paralel çalıştırabileceğin anlamına gelir. Donanıma ek olarak Voyager SDK, modelleri kullanıma alınmak üzere optimize etmek için birlikte çalışan bir derleyici ve çalışma zamanı içerir.

Bu sayede geliştiriciler, eğitilmiş modellerden üretime hazır çıkarıma daha verimli biçimde geçebilir. Özellikle Metis AIPU'lar, Ultralytics YOLO modelleri gibi gelişmiş bilgisayarlı görü modellerinin kurumsal işletmeler, perakende, sağlık ve imalat ortamlarından tarım alanlarına, endüstriyel ekipmanlara ve uydulara kadar çeşitli uç cihazlarda doğrudan çalıştırılmasını mümkün kılar.

Ultralytics YOLO modellerini Metis'te kullanıma alınmak üzere dışa aktarma#

Ultralytics Python paketi, çeşitli bilgisayarlı görü görevlerinde YOLO modellerini eğitmek, değerlendirmek ve kullanıma almak için birleşik bir arayüz sunar. YOLO modelleri genellikle deneme ve model geliştirme süreçlerine uygun olan PyTorch kullanılarak geliştirilir ve eğitilir.

Ancak bu modeller özel uç donanımlarda kullanıma alınırken hedef cihaza göre optimize edilmiş bir biçime dönüştürülmeleri gerekir. Ultralytics Python paketinin desteklediği dışa aktarma entegrasyonları bu noktada devreye girer.

Ultralytics, YOLO modellerinin ONNX, TensorRT ve donanıma özgü diğer arka uçlar gibi farklı biçimlere dönüştürülmesini sağlayan çeşitli dışa aktarma seçenekleri sunar. Bu entegrasyonlar, gerekli optimizasyon ve dönüştürme adımlarını üstlenerek modelleri gerçek dünya uygulamalarına hazırlama sürecini kolaylaştırır.

Bunun üzerine Ultralytics, YOLO modellerinin Metis AIPU'larda kullanıma alınmak üzere dışa aktarılmasını sağlayan Axelera AI ile güncellenmiş bir entegrasyon sundu.

Dışa aktarma sırasında model, özellikle Axelera donanımı için tasarlanmış optimize edilmiş bir gösterime derlenir ve nicemlenir. Bu işlem, dağıtım ve çıkarım için gereken meta verilerin yanı sıra ".axm" biçiminde derlenmiş bir model oluşturur.

Şekil 2. Ultralytics YOLO modelleri Metis AIPU'larda çalıştırılabilir. (Kaynak)

Entegrasyon; Ultralytics YOLOv8, Ultralytics YOLO11 ve Ultralytics YOLO26 modellerinde nesne algılama, poz tahmini, örnek segmentasyonu, yönlendirilmiş sınırlayıcı kutu (OBB) algılama ve görüntü sınıflandırması dâhil olmak üzere çok çeşitli bilgisayarlı görü görevlerini destekler. Görevlerin çoğu doğrudan dışa aktarma iş akışı üzerinden desteklenirken, YOLO26 segmentasyonu Voyager SDK ile model hayvanat bahçesi üzerinden kullanılabilir.

Bu genişletilmiş destek, geliştiricilere uygulamalarına bağlı olarak farklı türde görsel modelleri kullanıma alma esnekliği sunar; gerçek zamanlı nesne algılamadan sahneleri anlamaya, hareketi izlemeye ve karmaşık görsel verileri analiz etmeye kadar.

Dışa aktarıldıktan sonra modeller, çıkarım sırasında PyTorch'a ihtiyaç duymadan kullanıma alınabilir ve çalıştırılabilir. Bunun yerine modeller; video işleme, gerçek zamanlı algılama ve doğrudan uç cihazlarda izleme gibi görevler için uçtan uca işlem hatları oluşturmayı destekleyen Voyager SDK çalışma zamanı aracılığıyla yürütülür.

Ultralytics YOLO modellerini dışa aktarmaya başlama#

Yeni dışa aktarma entegrasyonunu daha iyi anladığımıza göre, şimdi Ultralytics YOLO modellerini bu özel biçime nasıl aktaracağını ve uçtaki Metis donanımında nasıl çalıştıracağını adım adım inceleyelim.

adım: Ultralytics Python paketini yükle#

Başlamak için öncelikle Ultralytics Python paketini yüklemen gerekir. Bu paket, YOLO modellerini eğitmek, değerlendirmek ve dışa aktarmak için basit ve tutarlı bir arayüz sunar.

Aşağıdaki komutu terminalinde veya komut isteminde çalıştırarak pip ile yükleyebilirsin:

pip install ultralytics

Yükleme veya dışa aktarma sırasında herhangi bir sorunla karşılaşırsan, resmi Ultralytics belgeleri ve Yaygın Sorunlar kılavuzu sorun giderme için yararlı kaynaklardır.

Adım 2: Axelera sürücülerini ve Voyager SDK'yı yükle#

Modelleri Axelera donanımında dışa aktarmak ve çalıştırmak için Axelera sürücülerini ve Voyager SDK'yı da yüklemen gerekir. Bu adım, Metis AIPU ile iletişim kurulmasını sağlar ve gerekli çalışma zamanı ile derleyici araçlarını sunar.

Aşağıdaki adımlar, Axelera AI Metis donanımına erişimi olan bir Linux ortamında gerçekleştirilmelidir. Sisteminde bir terminal aç veya uyumlu bir yerel kurulumda Jupyter Notebook çalıştırıyorsan bir not defteri hücresi kullan ve aşağıdaki komutları çalıştır.

Öncelikle Axelera depo anahtarını aşağıdaki gibi ekle:

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

Ardından, aşağıda gösterildiği gibi Axelera deposunu sistemine ekle:

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Sonra Voyager SDK'yı yükle ve Metis sürücüsünü aşağıdaki gibi yükle:

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

Bu adımlar tamamlandığında sistemin, Axelera AI Metis cihazlarında Ultralytics YOLO modellerini dışa aktarmaya ve çalıştırmaya hazır olur.

Adım 3: Ultralytics YOLO modellerini dışa aktarma#

Ultralytics paketi yüklendikten sonra YOLO modelini yükleyebilir ve Metis için derlenmiş bir paket olarak dışa aktarabilirsin. Bu işlem, modeli Axelera AI Metis donanımında kullanıma alınmak üzere optimize edilmiş bir biçime dönüştürür.

Aşağıdaki örnekte, önceden eğitilmiş bir YOLO26 nano modelini kullanıp Metis için dışa aktarıyoruz. Dışa aktarılan model, "/yolo26n_axelera_model" adlı bir dizine kaydedilir.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Adım 4: Dışa aktarılan modelle çıkarım çalıştırma#

Modeli dışa aktardıktan sonra modeli yükleyebilir ve daha önce görülmemiş görüntüler veya video akışları üzerinde çıkarım çalıştırabilirsin. Bu sayede gerçek zamanlı bilgisayarlı görü görevleri doğrudan Axelera AI Metis cihazlarında gerçekleştirilebilir.

Örneğin, aşağıdaki kod parçacığı dışa aktarılan modelin nasıl yükleneceğini ve herkese açık bir URL üzerinde nasıl çıkarım çalıştırılacağını gösteriyor.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

Bu durumda model, girdi görüntüsünü analiz edip nesneleri tespit eder ve sonuçları "runs/detect/predict" dizinine kaydeder.

Ultralytics YOLO ve Axelera AI donanımının etki yaratabileceği alanlar#

Şimdi, Ultralytics YOLO modellerinin gerçek dünya senaryolarında Axelera AI donanımında kullanıma alınabileceği bazı yaygın uç yapay zekâ uygulamalarını ele alalım.

Axelera AI'ın Metis AIPU'ları, gömülü sistemlerden ve endüstriyel bilgisayarlardan robotik sistemlere ve uç sunuculara kadar çeşitli kullanım ortamları için tasarlanmıştır. Yüksek performanslı ve enerji verimli çıkarım sayesinde bilgisayarlı görü uygulamalarının farklı sektörlerde doğrudan cihaz üzerinde çalışmasını sağlarlar. Voyager SDK ayrıca makine öğrenimi ve uygulama mühendislerinin modelleri uçta ürüne dönüştürmesi için bir işlem hattı oluşturucu içerir.

Uçta çalışan perakende akıllı görü sistemleri#

Perakende ortamlarında müşteri davranışını gerçek zamanlı anlamak büyük fark yaratabilir.

Axelera AI donanımında çalışan Ultralytics YOLO modellerini kullanan mağazalar, müşteri trafiğini izleyebilir, kişi sayabilir ve mağaza içindeki hareket düzenlerini anlık olarak analiz edebilir. Her şey cihaz üzerinde çalıştığından içgörüler, bulut bağlantısına ihtiyaç duyulmadan anında üretilebilir; böylece ekipler veri gizliliğini korurken daha hızlı yanıt verebilir.

Şekil 3. Ultralytics YOLO26 kullanarak bir alışveriş merkezindeki kişileri algılama ve sayma

Kamu hizmetleri ve altyapı denetiminde uç yapay zekâ kullanımı#

Elektrik hatları gibi büyük ölçekli altyapıların bakımını yapmak karmaşık ve kaynak yoğun bir iştir. Bu ağlar genellikle çok geniş alanlara yayılır; bu da denetimleri zaman alıcı, maliyetli ve potansiyel olarak tehlikeli hâle getirir. Arızalar veya ilk yıpranma belirtileri tespit edilemediğinde kesintilere, ekipman hasarına ya da güvenlik risklerine yol açabilir.

Denetim verimliliğini artırmak için dronlar giderek daha fazla kullanılıyor. Dronlar uzun mesafeleri katedebilir, erişilmesi zor bölgelere ulaşabilir ve kritik varlıkların yüksek çözünürlüklü görüntülerini çekebilir.

Dronları uç yapay zekâyla bir araya getirmek bu iş akışlarını daha da iyileştirir. Axelera AI donanımında çalışan Ultralytics YOLO modelleri, denetimler sırasında gerçek zamanlı analiz yaparak arızaları belirler, bileşenleri sınıflandırır ve anormallikleri yerinde tespit eder. Bu, manuel inceleme ihtiyacını azaltır ve altyapının daha hızlı ve güvenilir biçimde izlenmesini destekler.

Şekil 4. Ultralytics YOLO26 ile bir elektrik hattının çeşitli bileşenlerini algılama

Gerçek zamanlı görsel yapay zekâ içgörüleriyle robotları güçlendirme#

Robotik sistemlerde hız ve tepki verme kabiliyeti kritik önem taşır. İster bir depoda yön bulsun ister dinamik endüstriyel ortamlarda çalışsın, robotların çevrelerini anında yorumlaması gerekir.

Axelera AI donanımında çalışan Ultralytics YOLO modelleri, robotların engelleri algılamaktan insanları izlemeye ve nesneleri tanımaya kadar çevrelerini gerçek zamanlı yorumlamasını sağlar. Böylece sistemler daha güvenli hareket edebilir, dinamik koşullara uyum sağlayabilir ve sürekli bulut bağlantısına bağlı kalmadan daha özerk çalışabilir.

Ultralytics YOLO modellerini Metis AIPU'larda çalıştırmanın temel avantajları#

Yeni entegrasyonla Ultralytics YOLO modellerini Axelera AI'ın Metis donanımında kullanıma almanın temel avantajlarından bazıları şunlardır:

• Ultralytics iş akışıyla sorunsuz entegrasyon: YOLO modellerini Metis'te kullanıma alınmak üzere dışa aktarmak, Ultralytics Python paketinin iş akışına doğal biçimde uyum sağlar ve eğitimden çıkarıma geçişi kolaylaştırır.
• Birden fazla bilgisayarlı görü görevi desteği: YOLOv8, YOLO11 ve YOLO26 modelleriyle nesne algılama, poz tahmini, segmentasyon, sınıflandırma ve daha fazlası için modelleri kullanıma alabilirsin.
• Modelleri paralel çalıştırma: Metis AIPU'lar, ihtiyaçlarına uygun olarak birbirinden bağımsız programlanabilen ve dört ayrı modeli paralel çalıştırabilen dört çekirdekle tasarlanmıştır.
• Uç yapay zekâ uygulamalarında ölçeklenebilirlik: Perakende analitiğinden endüstriyel denetime, robotik sistemlerden akıllı altyapıya kadar entegrasyon, çok çeşitli gerçek dünya kullanım senaryolarını destekler.

Önemli çıkarımlar#

Ultralytics YOLO modelleri ve Axelera AI'ın Metis AIPU'ları, yüksek performanslı bilgisayarlı görü teknolojisini uca taşımayı kolaylaştırır. Kullanıma alma sürecini basitleştirip modelleri özel donanım için optimize eden bu entegrasyon, geliştirme ile gerçek dünya uygulamaları arasındaki boşluğun kapatılmasına yardımcı olur.

Uç yapay zekâ büyümeye devam ederken verimli ve ölçeklenebilir kullanıma alma seçenekleri, duyarlı ve güvenilir sistemler geliştirmede kilit rol oynayacak. Bu iş birliği, gelişmiş görsel yapay zekâyı sektörler genelinde daha erişilebilir kılma yolunda atılmış bir adımdır.

Yapay zekâ hakkında daha fazla bilgi edinmek ister misin? GitHub depomuzu keşfet, topluluğumuza katıl ve bilgisayarlı görü projene başlamak için lisans seçeneklerimize göz at. Perakendede yapay zekâ ve sağlık hizmetlerinde bilgisayarlı görü gibi yeniliklerin geleceği nasıl şekillendirdiğini öğren.