Ultralytics YOLO modellerini uç yapay zekâ için Axelera AI donanımına taşıma

Ultralytics'te, yapay zekâ daha yaygın olarak benimsendikçe doğrudan uç cihazlarda çalışan bilgisayarlı görü modellerine yönelik ilginin arttığını görüyoruz. Bilgisayarlı görü topluluğuyla hem çevrimiçi ortamda hem de yakın tarihli teknoloji konferanslarında yüz yüze yaptığımız görüşmelerde ekibimiz, görüntü yapay zekâsını verinin üretildiği yere daha yakın konumda dağıtmaya yönelik ilginin giderek arttığını gözlemledi.

Akıllı perakende ortamlarından endüstriyel otomasyona ve robotiğe kadar pek çok alanda gerçek zamanlı içgörüler vazgeçilmez hâle geliyor; yalnızca buluta güvenmek artık yeterli değil.

Basitçe ifade etmek gerekirse, uç yapay zekâ, verileri işlenmek üzere merkezi sunuculara göndermek yerine yapay zekâ modellerini doğrudan cihazlarda çalıştırmayı içerir. Bu sayede gecikme azaltılabilir, güvenilirlik artırılabilir ve gerçek dünya olaylarına gerçek zamanlı yanıt verilebilir.

Ancak bu ortamlarda yüksek performanslı modelleri dağıtmanın kendine özgü zorlukları vardır; sınırlı hesaplama kaynakları ve güç kısıtlamaları, modellerin hem verimli olmasını hem de çalışacakları donanım için optimize edilmesini gerektirir.

Ultralytics YOLO26 gibi Ultralytics YOLO modelleri gerçek zamanlı bilgisayarlı görü için tasarlanmıştır; ancak bu modellerin uçta tam potansiyelini açığa çıkarmak, doğru yazılım ve donanım bileşimini gerektirir. Bu nedenle Axelera AI ile iş birliğimizi duyurmaktan heyecan duyuyoruz.

Axelera AI ile ortaklık kurarak, Ultralytics YOLO modellerinin Metis® Yapay Zekâ İşlem Birimlerinde (AIPUs) verimli ve yüksek performanslı şekilde dağıtılmasını sağlayan güncellenmiş bir dışa aktarma entegrasyonu sunuyoruz.

Şekil 1. Metis Yapay Zekâ İşlem Birimine yakından bakış (Kaynak)

Bu makalede, Ultralytics YOLO modellerinin Metis'e dağıtılmak üzere nasıl derlenebileceğini inceleyeceğiz.

Uç yapay zekâ, bilgisayarlı görünün geleceğidir#

Bilgisayarlı görü uygulamaları gelişmeye devam ettikçe daha hızlı ve verimli işlemeye duyulan ihtiyaç giderek daha kritik hâle geliyor. Geleneksel bulut tabanlı yaklaşımlar gecikmeye yol açabilir, istikrarlı bağlantıya bağlıdır ve akıllı görü uygulamalarının çoğunun gerçek zamanlı gereksinimlerini karşılayamayabilir.

Uç yapay zekâ, modellerin doğrudan yerel cihazlarda çalışmasını ve verilerin kaynağına daha yakın işlenmesini sağlayarak bu zorlukları giderir. Örneğin, arama ve kurtarma çalışmalarında kullanılan görü destekli dronları ele alalım.

Bu sistemlerin, genellikle internet bağlantısının sınırlı olduğu veya hiç bulunmadığı uzak bölgelerde insanları, engelleri ya da tehlikeleri tespit etmek için video akışlarını gerçek zamanlı analiz etmesi gerekir. Bilgisayarlı görü modellerini doğrudan dronda çalıştıran uç yapay zekâ, bulut altyapısına bağlı kalmadan daha hızlı karar alınmasını ve daha güvenilir performans elde edilmesini sağlar.

Bu değişim, sektörlerde yeni olanakların önünü açıyor. Perakendede gerçek zamanlı nesne tespiti, üretimde otomatik kalite denetimi ve robotikte algılama gibi uygulamaların tümü daha hızlı yanıt sürelerinden ve daha yüksek güvenilirlikten fayda sağlıyor.

Uç yapay zekâ, gerçek dünya ortamlarında ölçeklenebilir ve hızlı yanıt veren bilgisayarlı görü sistemlerini dağıtmanın temel bileşenlerinden biri hâline hızla geliyor.

Axelera AI'ın Metis Yapay Zekâ İşlem Birimlerini keşfetme#

Yeni dışa aktarma entegrasyonuna geçmeden önce bir adım geriye gidip Axelera AI'ın Metis Yapay Zekâ İşlem Birimleri hakkında daha fazla bilgi edinelim ve verimli uç yapay zekâyı mümkün kılmadaki rollerini inceleyelim.

Axelera AI, uçta yapay zekâ çıkarımını hızlandırmak için özel olarak tasarlanmış donanımlar geliştirir. Bu donanımın temel parçalarından biri, Metis AIPU veya Yapay Zekâ İşlem Birimidir; uç cihazlarda sinir ağlarını verimli şekilde çalıştırmak üzere geliştirilmiş özel bir işlemcidir.

Genel amaçlı merkezi işlem birimlerinin (CPUs) ve hatta grafik işlem birimlerinin (GPUs) aksine AIPU'lar, yapay zekâ iş yüklerinin kendine özgü hesaplama örüntülerini işlemek üzere tasarlanmıştır. Bu sayede, kaynakların genellikle sınırlı olduğu uç ortamlarda kritik önem taşıyan düşük güç tüketimini korurken yüksek performans sunabilirler.

Axelera AI'ın yaklaşımını farklı kılan, tam yığın tasarımıdır. Metis, yüksek performans ve uç bilişimin gerektirdiği enerji verimliliğini sağlamak için bellek içi dijital hesaplama (D-IMC) ve RISC-V ile tasarlanmıştır. Metis'in dört çekirdeği birbirinden bağımsız olarak programlanabilir; yani her çipte paralel olarak dört model çalıştırabilirsin. Donanıma ek olarak Voyager SDK, modelleri dağıtım için optimize etmek üzere birlikte çalışan bir derleyici ve çalışma zamanı içerir.

Bu sayede geliştiriciler, eğitilmiş modellerden üretime hazır çıkarıma daha verimli biçimde geçebilir. Özellikle Metis AIPU'lar, Ultralytics YOLO modelleri gibi gelişmiş bilgisayarlı görü modellerini kurumsal, perakende, sağlık ve üretim ortamlarından tarım ve endüstriyel ekipmanlara, hatta uydulara kadar çeşitli uç cihazlarda doğrudan çalıştırmayı mümkün kılar.

Metis dağıtımı için Ultralytics YOLO modellerini dışa aktarma#

Ultralytics Python paketi, çeşitli bilgisayarlı görü görevlerinde YOLO modellerini eğitmek, değerlendirmek ve dağıtmak için birleşik bir arayüz sunar. YOLO modelleri genellikle denemeler ve model geliştirme için uygun olan PyTorch kullanılarak geliştirilip eğitilir.

Ancak bu modelleri özel uç donanımlarında dağıtırken hedef cihaza göre optimize edilmiş bir biçime dönüştürmek gerekir. Ultralytics Python paketinin desteklediği dışa aktarma entegrasyonları bu noktada devreye girer.

Ultralytics, dağıtım hedefine bağlı olarak YOLO modellerini ONNX, TensorRT ve donanıma özgü diğer arka uçlar gibi farklı biçimlere dönüştürmeyi sağlayan çeşitli dışa aktarma seçenekleri sunar. Bu entegrasyonlar, gerekli optimizasyon ve dönüştürme adımlarını üstlenerek modelleri gerçek dünya uygulamalarına hazırlama sürecini kolaylaştırır.

Bunun üzerine Ultralytics, YOLO modellerinin Metis AIPU'larda dağıtılmak üzere dışa aktarılmasını sağlayan, Axelera AI ile güncellenmiş bir entegrasyon sundu.

Dışa aktarma sırasında model, Axelera donanımı için özel olarak tasarlanmış optimize edilmiş bir gösterime derlenir ve nicemlenir. Bu işlem, dağıtım ve çıkarım için gereken meta verilerle birlikte ".axm" biçiminde derlenmiş bir model üretir.

Şekil 2. Ultralytics YOLO modelleri Metis AIPU'larda çalıştırılabilir. (Kaynak)

Entegrasyon; nesne tespiti, örnek segmentasyonu, görüntü sınıflandırması, poz tahmini ve yönlendirilmiş sınırlayıcı kutu (OBB) tespiti dâhil çeşitli bilgisayarlı görü görevlerini Ultralytics YOLOv8, Ultralytics YOLO11 ve Ultralytics YOLO26 modellerinde destekler. Güncel sürümler, YOLO26 anlamsal segmentasyonu ve derinlik tahmini dâhil olmak üzere tüm Ultralytics görevlerini doğrudan dışa aktarır; ayrıntılar için desteklenen görevlere bak. Voyager SDK model hayvanat bahçesinde kullanıma hazır YOLO modelleri de bulunur.

Bu genişletilmiş destek, geliştiricilere uygulamalarına göre farklı türde görü modelleri dağıtma esnekliği sağlar. Bu modeller gerçek zamanlı nesne tespitinden sahneleri anlamaya, hareketi izlemeye ve karmaşık görsel verileri analiz etmeye kadar çeşitli amaçlarla kullanılabilir.

Dışa aktarıldıktan sonra modeller, çıkarım sırasında PyTorch'a bağlı kalmadan dağıtılıp çalıştırılabilir. Bunun yerine modeller; doğrudan uç cihazlarda video işleme, gerçek zamanlı tespit ve takip gibi görevler için uçtan uca iş akışları oluşturmayı destekleyen Voyager SDK çalışma zamanı kullanılarak yürütülür.

Ultralytics YOLO modellerini dışa aktarmaya başlama#

Yeni dışa aktarma entegrasyonunu artık daha iyi anladığımıza göre, Ultralytics YOLO modellerini bu özel biçime nasıl aktaracağımızı ve uçta Metis donanımında nasıl çalıştıracağımızı adım adım inceleyelim.

Adım 1: Ultralytics Python paketini yükleme#

Başlamak için öncelikle Ultralytics Python paketini yüklemen gerekir. Bu paket, YOLO modellerini eğitmek, değerlendirmek ve dışa aktarmak için basit ve tutarlı bir arayüz sunar.

Paketi, terminalinde veya komut isteminde aşağıdaki komutu çalıştırarak pip ile yükleyebilirsin:

pip install ultralytics

Yükleme veya dışa aktarma sırasında herhangi bir sorunla karşılaşırsan resmi Ultralytics belgeleri ve Yaygın Sorunlar kılavuzu sorun giderme için harika kaynaklardır.

Adım 2: Axelera sürücülerini ve Voyager SDK'yı yükle#

Modelleri Axelera donanımında dışa aktarmak ve çalıştırmak için Axelera sürücülerini ve Voyager SDK'yı da yüklemen gerekir. Bu adım, Metis AIPU ile iletişim kurulmasını sağlar ve gerekli çalışma zamanı ile derleyici araçlarını sunar.

Aşağıdaki adımlar, Axelera AI Metis donanımına erişimi olan bir Linux ortamında gerçekleştirilmelidir. Sisteminde bir terminal aç veya Jupyter Notebook'u uyumlu bir yerel kurulumda çalıştırıyorsan bir not defteri hücresi kullan ve aşağıdaki komutları yürüt.

Önce Axelera depo anahtarını aşağıdaki gibi ekle:

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

Ardından, aşağıda gösterildiği gibi Axelera deposunu sistemine ekle:

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Sonra Voyager SDK'yı yükle ve Metis sürücüsünü aşağıdaki gibi etkinleştir:

sudo apt update
sudo apt install -y metis-dkms
sudo modprobe metis

Bu adımlar tamamlandığında sistemin, Ultralytics YOLO modellerini Axelera AI Metis cihazlarında dışa aktarmaya ve çalıştırmaya hazır olur.

Adım 3: Ultralytics YOLO modellerini dışa aktarma#

Ultralytics paketi yüklendikten sonra YOLO modelini yükleyip Metis için derlenmiş bir paket olarak dışa aktarabilirsin. Bu işlem, modeli Axelera AI Metis donanımında dağıtıma uygun biçime dönüştürür.

Aşağıdaki örnekte, önceden eğitilmiş bir YOLO26 nano modeli kullanıp Metis için dışa aktarıyoruz. Dışa aktarılan model "yolo26n_axelera_model" adlı bir dizine kaydedilir.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Adım 4: Dışa aktarılan modelle çıkarım çalıştır#

Modeli dışa aktardıktan sonra yükleyip daha önce görülmemiş görüntüler veya video akışları üzerinde çıkarım çalıştırabilirsin. Böylece gerçek zamanlı bilgisayarlı görü görevlerini doğrudan Axelera AI Metis cihazlarında gerçekleştirebilirsin.

Örneğin, aşağıdaki kod parçacığı dışa aktarılan modelin nasıl yükleneceğini ve herkesin erişimine açık bir URL üzerinde nasıl çıkarım çalıştırılacağını gösterir.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

Bu örnekte model, giriş görüntüsünü analiz edip nesneleri tespit eder ve sonuçları "runs/detect/predict" dizinine kaydeder.

Ultralytics YOLO ve Axelera AI donanımının fark yaratabileceği alanlar#

Şimdi, Ultralytics YOLO modellerinin gerçek dünya senaryolarında Axelera AI donanımına dağıtılabileceği yaygın uç yapay zekâ uygulamalarından bazılarını ele alalım.

Axelera AI'ın Metis AIPU'ları; gömülü sistemlerden endüstriyel bilgisayarlara, robotik sistemlerden uç sunuculara kadar çeşitli dağıtım ortamları için tasarlanmıştır. Yüksek performanslı ve enerji tasarruflu çıkarım özellikleri sayesinde bilgisayarlı görü uygulamalarının farklı sektörlerde doğrudan cihaz üzerinde çalışmasını sağlar. Voyager SDK ayrıca makine öğrenmesi ve uygulama mühendislerinin modelleri uçta kullanıma hazır hâle getirmesine yardımcı olan bir işlem hattı oluşturucu içerir.

Uçta çalışan akıllı perakende görü sistemleri#

Perakende ortamlarında müşteri davranışını gerçek zamanlı anlamak önemli bir fark yaratabilir.

Axelera AI donanımında çalışan Ultralytics YOLO modellerini kullanan mağazalar, mağaza trafiğini izleyebilir, kişi sayabilir ve mağaza içindeki hareket örüntülerini anlık olarak analiz edebilir. Her şey cihaz üzerinde çalıştığından içgörüler bulut bağlantısına ihtiyaç duymadan anında üretilebilir. Bu da ekiplerin veri gizliliğini korurken daha hızlı yanıt vermesine yardımcı olur.

Şekil 3. Ultralytics YOLO26 kullanarak bir alışveriş merkezindeki kişileri tespit etme ve sayma

Kamu hizmetleri ve altyapı denetiminde uç yapay zekâ kullanımı#

Elektrik hatları gibi büyük ölçekli altyapıların bakımı karmaşık ve kaynak yoğundur. Bu ağlar genellikle çok geniş alanlara yayıldığından denetimler zaman alır, maliyetlidir ve tehlike oluşturabilir. Arızalar veya erken aşınma belirtileri fark edilmediğinde kesintilere, ekipman hasarına ya da güvenlik risklerine yol açabilir.

Denetim verimliliğini artırmak için dronlar giderek daha fazla kullanılıyor. Dronlar uzun mesafeleri kapsayabilir, erişilmesi zor bölgelere ulaşabilir ve kritik varlıkların yüksek çözünürlüklü görüntülerini çekebilir.

Drone’ları uç bilişim yapay zekâsıyla birleştirmek bu iş akışlarını daha da geliştirir. Axelera AI donanımında çalışan Ultralytics YOLO modelleri, denetimler sırasında gerçek zamanlı analiz yaparak arızaları belirler, bileşenleri sınıflandırır ve anormallikleri sahada tespit eder. Bu, manuel inceleme ihtiyacını azaltır ve altyapının daha hızlı ve güvenilir biçimde izlenmesini sağlar.

Şekil 4. Ultralytics YOLO26 ile bir elektrik hattının çeşitli parçalarını tespit etme

Gerçek zamanlı görsel yapay zekâ içgörüleriyle robotik sistemlere güç katma#

Robotik sistemlerde hız ve yanıt verme yeteneği kritik önem taşır. İster bir depoda yol alsın ister dinamik endüstriyel ortamlarda çalışsın, robotların çevrelerini anında yorumlaması gerekir.

Axelera AI donanımında çalışan Ultralytics YOLO modelleri, robotların engelleri tespit etmekten insanları izlemeye ve nesneleri tanımaya kadar çevrelerini gerçek zamanlı yorumlamasını sağlar. Böylece sistemler daha güvenli hareket edebilir, dinamik koşullara uyum sağlayabilir ve sürekli bulut bağlantısına ihtiyaç duymadan daha özerk çalışabilir.

Ultralytics YOLO modellerini Metis AIPU’larda çalıştırmanın başlıca avantajları#

Yeni entegrasyon sayesinde Ultralytics YOLO modellerini Axelera AI’nın Metis donanımında dağıtmanın başlıca avantajlarından bazıları şunlardır:

• Ultralytics iş akışıyla entegrasyon: YOLO modellerini Metis'e dağıtmak üzere dışa aktarma, Ultralytics Python paketine doğal olarak uyum sağlar ve eğitimden çıkarıma geçişi kolaylaştırır.
• Birden fazla bilgisayarlı görü görevi desteği: YOLOv8, YOLO11 ve YOLO26 ile nesne tespiti, segmentasyon, sınıflandırma, poz tahmini ve daha fazlası için modeller dağıtabilirsin.
• Modelleri paralel çalıştırma: Metis AIPU’lar, ihtiyaçlarına uygun olarak dört ayrı modeli paralel çalıştırabilen, birbirinden bağımsız programlanabilir dört çekirdekle tasarlanmıştır.
• Uç yapay zekâ uygulamalarında ölçeklenebilirlik: Perakende analitiği ve endüstriyel denetimden robotik sistemlere ve akıllı altyapıya kadar entegrasyon, çok çeşitli gerçek dünya kullanım alanlarını destekler.

Önemli çıkarımlar#

Ultralytics YOLO modelleri ve Axelera AI’nın Metis AIPU’ları, yüksek performanslı bilgisayarlı görü çözümlerini uca taşımayı kolaylaştırır. Dağıtımı basitleştirip modelleri özel donanım için optimize eden bu entegrasyon, geliştirme ile gerçek dünya uygulamaları arasındaki boşluğu kapatmaya yardımcı olur.

Uç yapay zekâ büyümeye devam ederken verimli ve ölçeklenebilir dağıtım seçenekleri, hızlı yanıt veren ve güvenilir sistemler oluşturmanın anahtarı olacak. Bu iş birliği, gelişmiş görsel yapay zekâyı farklı sektörlerde daha erişilebilir kılma yolunda atılmış bir adımdır.

Yapay zekâ hakkında daha fazla bilgi edinmek ister misin? Bilgisayarlı görü projen için başlangıç noktası olarak GitHub depomuzu incele, topluluğumuza katıl ve lisanslama seçeneklerimize göz at. Perakendede yapay zekâ ve sağlık hizmetlerinde bilgisayarlı görü gibi yeniliklerin geleceği nasıl şekillendirdiğini keşfet.