"Tüm Çerezleri Kabul Et" seçeneğine tıklayarak, sitede gezinmeyi geliştirmek, site kullanımını analiz etmek ve pazarlama çabalarımıza yardımcı olmak için cihazınızda çerezlerin saklanmasını kabul edersiniz. Daha fazla bilgi
Çerez Ayarları
"Tüm Çerezleri Kabul Et" seçeneğine tıklayarak, sitede gezinmeyi geliştirmek, site kullanımını analiz etmek ve pazarlama çabalarımıza yardımcı olmak için cihazınızda çerezlerin saklanmasını kabul edersiniz. Daha fazla bilgi
Verimli ve yüksek performanslı uç yapay zeka için Axelera AI ile işbirliği içinde Ultralytics Python tarafından desteklenen yeni dışa aktarma entegrasyonu hakkında bilgi edinin.
Ultralytics ile bilgisayar görme projelerinizi ölçeklendirin
Ultralytics olarak, yapay zekanın giderek daha yaygın bir şekilde benimsenmesiyle birlikte, bilgisayar görme modellerinin doğrudan uç cihazlarda çalıştırılmasına yönelik bir eğilim gözlemliyoruz. Hem çevrimiçi ortamda hem de son zamanlarda düzenlenen teknoloji konferanslarında bilgisayar görme topluluğuyla yaptığımız görüşmelerde, ekibimiz verilerin üretildiği yere daha yakın konumlarda görme yapay zekası çözümlerinin devreye alınmasına yönelik ilginin giderek arttığını gördü.
Akıllı perakende ortamlarından endüstriyel otomasyona ve robotik alanına kadar, gerçek zamanlı içgörüler giderek daha önemli hale geliyor ve artık sadece buluta güvenmek yeterli olmuyor.
Basitçe ifade etmek gerekirse, uç yapay zeka, verilerin işlenmek üzere merkezi sunuculara gönderilmesi yerine, yapay zeka modellerinin cihazlarda yerel olarak çalıştırılmasını içerir. Bu sayede gecikme süresi azaltılabilir, güvenilirlik artırılabilir ve gerçek dünyadaki olaylara anında yanıt verilebilir.
Ancak, bu ortamlarda yüksek performanslı modelleri devreye almak kendine özgü zorluklar barındırmaktadır; zira sınırlı hesaplama kaynakları ve güç kısıtlamaları, modellerin hem verimli olmasını hem de üzerinde çalıştıkları donanıma göre optimize edilmiş olmasını gerektirmektedir.
Ultralytics Ultralytics gibi Ultralytics YOLO , gerçek zamanlı bilgisayar görme için tasarlanmıştır; ancak bu modellerin uç cihazlarda tam potansiyelini ortaya çıkarmak için yazılım ve donanımın doğru bir şekilde bir araya getirilmesi gerekir. Bu nedenle, Axelera AI ile yaptığımız işbirliğini duyurmaktan büyük heyecan duyuyoruz.
Axelera AI ile iş birliği yaparak, Ultralytics YOLO Metis® AI İşlem Birimleri (AIPU'lar) üzerinde verimli ve yüksek performanslı bir şekilde devreye alınmasını sağlayan güncellenmiş bir dışa aktarma entegrasyonu sunuyoruz.
Şekil 1. Metis AI İşlem Birimi’ne genel bir bakış (Kaynak)
Bu makalede, Ultralytics YOLO Metis dağıtımı için nasıl kolayca derlenebileceğini inceleyeceğiz. Hadi başlayalım!
Edge AI, bilgisayar görmenin geleceğidir
Bilgisayar görme uygulamaları gelişmeye devam ettikçe, daha hızlı ve daha verimli işleme ihtiyacı giderek daha kritik hale geliyor. Geleneksel bulut tabanlı yaklaşımlar gecikmeye yol açabilir, istikrarlı bir bağlantıya bağlı olabilir ve birçok akıllı görme kullanım senaryosunun gerçek zamanlı taleplerini karşılayamayabilir.
Edge AI, modellerin doğrudan yerel cihazlarda çalıştırılmasını sağlayarak ve verilerin kaynağına daha yakın bir yerde işlenmesine olanak tanıyarak bu zorlukları ortadan kaldırır. Örneğin, arama ve kurtarma operasyonlarında kullanılan görüntü işleme teknolojisine dayalı insansız hava araçlarını ele alalım.
Bu sistemler, genellikle internet bağlantısının sınırlı olduğu veya hiç bulunmadığı uzak bölgelerde, detect , engelleri veya tehlikeleri detect için video akışlarını gerçek zamanlı olarak analiz etmelidir. Bilgisayar görme modellerini doğrudan drone üzerinde çalıştırarak, uç yapay zeka, bulut altyapısına bağımlı kalmadan daha hızlı karar alma ve daha güvenilir performans sağlar.
Bu dönüşüm, farklı sektörlerde yeni imkânlar yaratıyor. Perakende sektöründe gerçek zamanlı nesne algılama, imalat sektöründe otomatik kalite kontrol ve robotik alanında algılama gibi uygulamaların tümü, daha hızlı tepki süreleri ve daha yüksek güvenilirlikten yararlanıyor.
Edge AI, gerçek dünya ortamlarında ölçeklenebilir ve hızlı tepki veren bilgisayar görme sistemlerinin kurulmasında hızla kilit bir etken haline geliyor.
Axelera AI’nın Metis AI İşlem Birimlerini Keşfetmek
Yeni dışa aktarma entegrasyonunu detaylı olarak incelemeden önce, bir adım geriye gidip Axelera AI’nın Metis AI İşlem Birimleri hakkında daha fazla bilgi edelim ve bunların verimli uç yapay zekanın hayata geçirilmesinde üstlendikleri rolü inceleyelim.
Axelera AI, uç cihazlarda yapay zeka çıkarımını hızlandırmak üzere özel olarak tasarlanmış donanımlar geliştiriyor. Bunun önemli bir parçası, uç cihazlarda sinir ağlarını verimli bir şekilde çalıştırmak üzere tasarlanmış özel bir işlemci olan Metis AIPU (Yapay Zeka İşlem Birimi)dir.
Genel amaçlı merkezi işlem birimleri (CPU'lar) veya hatta grafik işlem birimleri (GPU'lar) aksine, AIPU'lar yapay zeka iş yüklerinin kendine özgü hesaplama modellerini işlemek üzere tasarlanmıştır. Bu sayede, kaynakların genellikle sınırlı olduğu uç ortamlar için hayati önem taşıyan düşük güç tüketimini korurken yüksek performans sunabilmektedirler.
Axelera AI’nın yaklaşımını özellikle yenilikçi kılan şey, tam yığın (full-stack) tasarımıdır. Metis, uç bilgi işlem uygulamalarının gerektirdiği enerji verimliliği ve yüksek performansı sağlamak üzere dijital bellek içi hesaplama (D-IMC) teknolojisi ve RISC-V ile geliştirilmiştir. Metis’in dört çekirdeği bağımsız olarak programlanabilir; bu sayede her bir yonga üzerinde dört modeli aynı anda çalıştırabilirsiniz. Donanımın yanı sıra, Voyager SDK’sı, modelleri dağıtım için optimize etmek üzere birlikte çalışan bir derleyici ve çalışma zamanı ortamı içerir.
Bu, geliştiricilerin eğitilmiş modellerden üretim ortamına hazır çıkarımlara daha verimli bir şekilde geçmelerini sağlar. Özellikle Metis AIPU’lar, Ultralytics YOLO gibi gelişmiş bilgisayar görme modellerinin, kurumsal, perakende, sağlık ve üretim ortamlarından tarım ve endüstriyel ekipmanlara ve uydulara kadar uzanan uç cihazlarda doğrudan çalıştırılmasını mümkün kılar.
Metis'te kullanıma sunmak üzere Ultralytics YOLO dışa aktarılması
Ultralytics Python , çeşitli bilgisayar görme görevlerinde YOLO eğitilmesi, değerlendirilmesi ve devreye alınması için tek bir arayüz sunar. YOLO genellikle deneysel çalışmalar ve model geliştirme için son derece uygun olan PyTorch kullanılarak geliştirilir ve eğitilir.
Ancak, bu modelleri özel uç donanımlara dağıtırken, hedef cihaza göre optimize edilmiş bir biçime dönüştürülmeleri gerekir. İşte burada, Ultralytics Python tarafından desteklenen dışa aktarma entegrasyonları devreye girer.
Ultralytics , YOLO dağıtım hedefine bağlı olarak ONNX, TensorRT ve diğer donanım özel arka uçları gibi farklı biçimlere dönüştürülmesini sağlayan çeşitli dışa aktarma seçenekleri Ultralytics . Bu entegrasyonlar, gerekli optimizasyon ve dönüştürme adımlarını üstlenerek modelleri gerçek dünya uygulamaları için hazırlama sürecini basitleştirir.
Buna dayanarak Ultralytics , Axelera AI ile güncellenmiş bir dışa aktarma entegrasyonu Ultralytics YOLO Metis AIPU'larda kullanıma sunulmak üzere dışa aktarılmasını mümkün Ultralytics .
Dışa aktarım sırasında model derlenir ve Axelera donanımı için özel olarak tasarlanmış optimize edilmiş bir temsil biçimine dönüştürülür. Bu işlem sonucunda, dağıtım ve çıkarım işlemleri için gerekli meta verilerle birlikte ".axm" biçiminde derlenmiş bir model elde edilir.
Bu entegrasyon, aşağıdakiler dahil olmak üzere çok çeşitli bilgisayar görme görevlerini desteklemektedir Ultralytics YOLOv8, Ultralytics YOLO11ve Ultralytics modelleri, nesne algılama, poz tahmini, örnek segmentasyonu, yönlendirilmiş sınırlayıcı kutu (OBB) algılama ve görüntü sınıflandırmasını içerir. Çoğu görev, dışa aktarma iş akışı aracılığıyla doğrudan desteklenirken, YOLO26 segmentasyonu Voyager SDK ile model zoo aracılığıyla kullanılabilir.
Bu genişletilmiş destek, geliştiricilere uygulamalarına bağlı olarak gerçek zamanlı nesne algılamadan sahne anlamaya, hareket izlemeye ve karmaşık görsel verilerin analizine kadar farklı türde görsel modelleri devreye alma esnekliği sunuyor.
Dışa aktarıldıktan sonra modeller, çıkarım PyTorch bağlı kalınmadan devreye alınabilir ve çalıştırılabilir. Bunun yerine, modeller Voyager SDK çalışma zamanı kullanılarak yürütülür; bu çalışma zamanı, video işleme, gerçek zamanlı algılama ve izleme gibi görevler için uç cihazlarda doğrudan uçtan uca iş akışları oluşturulmasını destekler.
Ultralytics YOLO dışa aktarmaya başlama
Yeni dışa aktarma entegrasyonunu daha iyi anladığımıza göre, şimdi Ultralytics YOLO bu özel biçime nasıl dışa aktaracağımızı ve bunları uçtaki Metis donanımında nasıl çalıştıracağımızı adım adım inceleyelim.
Adım 1: Ultralytics Python paketini yükleyin
Başlamak için öncelikle Ultralytics Python yüklemeniz gerekir. Bu paket, YOLO eğitmek, değerlendirmek ve dışa aktarmak için basit ve tutarlı bir arayüz sunar.
Terminalinizde veya komut isteminde aşağıdaki komutu çalıştırarak pip ile yükleyebilirsiniz:
2. Adım: Axelera sürücülerini ve Voyager SDK'sını yükleyin
Modelleri Axelera donanımına aktarmak ve çalıştırmak için Axelera sürücülerini ve Voyager SDK'sını da yüklemeniz gerekir. Bu adım, Metis AIPU ile iletişimi sağlar ve gerekli çalışma zamanı ve derleyici araçlarını sunar.
Aşağıdaki adımlar, Axelera AI Metis donanımına erişim imkanı olan bir Linux ortamında gerçekleştirilmelidir. Sisteminizde bir terminal açın veya uyumlu bir yerel kurulumda Jupyter Notebook kullanıyorsanız bir notebook hücresi açın ve aşağıdaki komutları çalıştırın.
Öncelikle Axelera depo anahtarını aşağıdaki şekilde ekleyin:
Ardından Voyager SDK'sını yükleyin ve Metis sürücüsünü aşağıdaki şekilde yükleyin:
sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis
Bu adımlar tamamlandığında, sisteminiz Ultralytics YOLO Axelera AI Metis cihazlarına aktarmaya ve çalıştırmaya hazır hale gelecektir.
3. Adım: Ultralytics YOLO dışa aktarma
Ultralytics yüklendikten sonra, YOLO yükleyebilir ve Metis için derlenmiş bir paket olarak dışa aktarabilirsiniz. Bu işlem, modeli Axelera AI Metis donanımında kullanıma uygun hale getirilmiş bir biçime dönüştürür.
Aşağıdaki örnekte, önceden eğitilmiş bir YOLO26 nano modeli kullanıyor ve bunu Metis için dışa aktarıyoruz. Dışa aktarılan model, "/yolo26n_axelera_model" adlı bir dizine kaydedilecektir.
from ultralytics YOLO
model = YOLO("yolo26n.pt")
model.export(format="axelera")
4. Adım: Dışa aktarılan model ile tahmin işlemini çalıştırın
Modeli dışa aktardıktan sonra, onu yükleyebilir ve daha önce görülmemiş görüntüler veya video akışları üzerinde çıkarım işlemi gerçekleştirebilirsiniz. Bu sayede, Axelera AI Metis cihazlarında doğrudan gerçek zamanlı bilgisayar görme görevleri yürütülmesi mümkün olur.
Örneğin, aşağıdaki kod parçacığı, dışa aktarılan modelin nasıl yükleneceğini ve herkese açık bir URL üzerinde çıkarım işleminin nasıl yürütüleceğini göstermektedir.
Bu durumda model, girdi görüntüsünü analiz edip nesneleri tespit eder ve sonuçları "detect" dizinine kaydeder.
Ultralytics YOLO Axelera AI donanımlarının etkili olabileceği alanlar
Şimdi, Ultralytics YOLO Axelera AI donanımı üzerinde gerçek dünya senaryolarında kullanılabileceği bazı yaygın uç AI uygulamalarını ele alalım.
Axelera AI’nın Metis AIPU’ları, gömülü sistemler ve endüstriyel bilgisayarlar ile robotik ve uç sunucular arasında uzanan geniş bir yelpazedeki kurulum ortamları için tasarlanmıştır. Yüksek performanslı ve enerji verimli çıkarım yetenekleri sayesinde, bilgisayar görme uygulamalarının çeşitli sektörlerde doğrudan cihaz üzerinde çalıştırılmasını sağlar. Voyager SDK ayrıca, makine öğrenimi ve uygulama mühendislerinin uç cihazlar için modelleri ürün haline getirmelerine olanak tanıyan bir iş akışı oluşturucu içerir.
Perakende sektöründe uç cihazlarda çalışan akıllı görüntü işleme sistemleri
Perakende sektöründe, müşteri davranışını gerçek zamanlı olarak anlamak büyük bir fark yaratabilir.
Axelera AI donanımı üzerinde çalışan Ultralytics YOLO kullanarak mağazalar, müşteri trafiğini izleyebilir, kişi sayısını belirleyebilir ve mağaza içi hareket kalıplarını anlık olarak analiz edebilir. Her şey cihaz üzerinde çalıştığı için, bulgular bulut bağlantısına ihtiyaç duymadan anında elde edilebilir; bu da ekiplerin veri gizliliğini korurken daha hızlı tepki vermesine yardımcı olur.
Şekil 3. YOLO26 kullanarak bir alışveriş merkezinde insanları algılama ve sayma
Kamu hizmetleri ve altyapı denetimlerinde uç yapay zeka kullanımı
Elektrik hatları gibi büyük ölçekli altyapının bakımı karmaşık ve yoğun kaynak gerektiren bir iştir. Bu şebekeler genellikle çok geniş bir alana yayıldığından, denetimler zaman alıcı, maliyetli ve potansiyel olarak tehlikeli hale gelmektedir. Arızalar veya aşınmanın ilk belirtileri fark edilmediğinde, bunlar kesintilere, ekipman hasarlarına veya güvenlik risklerine dönüşebilir.
Denetim verimliliğini artırmak için insansız hava araçları giderek daha fazla kullanılmaktadır. Bu araçlar uzun mesafeleri kat edebilir, ulaşılması zor alanlara erişebilir ve kritik varlıkların yüksek çözünürlüklü görüntülerini yakalayabilir.
Dronların uç yapay zeka ile birleştirilmesi, bu iş akışlarını daha da geliştiriyor. Axelera AI donanımı üzerinde çalışan Ultralytics YOLO , denetimler sırasında gerçek zamanlı analiz yapmayı mümkün kılıyor; bu sayede arızaları tespit ediyor, bileşenleri sınıflandırıyor ve sahada anormallikleri saptıyor. Bu durum, manuel inceleme ihtiyacını azaltıyor ve altyapı izlemesinin daha hızlı ve güvenilir bir şekilde gerçekleştirilmesini sağlıyor.
Şekil 4. YOLO26 ile bir elektrik hattının çeşitli bölümlerinin tespit edilmesi
Robotik teknolojisine gerçek zamanlı görüntü işleme ve yapay zeka analizleriyle güç katmak
Robotik alanında hız ve tepki verme yeteneği hayati önem taşır. İster bir depoda yol bulsunlar ister dinamik endüstriyel ortamlarda çalışsınlar, robotların çevrelerini anında algılamaları gerekir.
Axelera AI donanımı üzerinde çalışan Ultralytics YOLO , robotların engelleri algılamaktan insanları takip etmeye ve nesneleri tanımlamaya kadar çevrelerini gerçek zamanlı olarak yorumlamasını sağlar. Bu sayede sistemler, sürekli bulut bağlantısına bağlı kalmadan daha güvenli bir şekilde hareket edebilir, dinamik koşullara uyum sağlayabilir ve daha fazla özerklikle çalışabilir.
Metis AIPU'larda Ultralytics YOLO çalıştırmanın başlıca avantajları
İşte yeni entegrasyonu kullanarak Axelera AI’nın Metis donanımında Ultralytics YOLO devreye almanın başlıca avantajlarından bazıları:
Ultralytics ışıyla sorunsuz entegrasyon: Metis dağıtımı için YOLO dışa aktarılması , Ultralytics Python doğal bir şekilde uyum sağlar ve eğitimden çıkarım aşamasına geçişi kolaylaştırır.
Çeşitli bilgisayar görme görevleri için destek: YOLOv8, YOLO11 ve YOLO26 modellerini nesne algılama, duruş tahmini, segmentasyon, sınıflandırma ve daha pek çok görev için kullanabilirsiniz .
Modelleri paralel olarak çalıştırın: Metis AIPU'lar, ihtiyaçlarınıza uygun olarak dört ayrı modeli paralel olarak çalıştırabilen, bağımsız olarak programlanabilir dört çekirdek ile tasarlanmıştır.
Uç yapay zeka uygulamalarında ölçeklenebilir: Perakende analitiği ve endüstriyel denetimden robotik ve akıllı altyapıya kadar , bu entegrasyon çok çeşitli gerçek dünya kullanım senaryolarını desteklemektedir.
Önemli çıkarımlar
Ultralytics YOLO ve Axelera AI’nın Metis AIPU’ları, yüksek performanslı bilgisayar görme teknolojisini uç cihazlara taşımayı kolaylaştırıyor. Bu entegrasyon, dağıtımı basitleştirerek ve modelleri özel donanımlara göre optimize ederek, geliştirme aşaması ile gerçek dünya uygulamaları arasındaki uçurumu kapatmaya yardımcı oluyor.
Kenar yapay zekası (Edge AI) büyümeye devam ettikçe, verimli ve ölçeklenebilir dağıtım seçeneklerine sahip olmak, hızlı tepki veren ve güvenilir sistemler oluşturmanın anahtarı olacaktır. Bu işbirliği, gelişmiş görüntü işleme yapay zekasını farklı sektörlerde daha erişilebilir hale getirme yolunda atılmış bir adımdır.
