Axelera AI, Ultralytics YOLO kullanarak 34 FPS uç AI çıkarımı sunar

Axelera AI, uçta bilgisayarlı görü çalıştırmak için güçlü, enerji tasarruflu yapay zeka çipleri üreten bir Avrupalı yarı iletken şirketidir. Örneğin, Metis AI Processing Units (AIPU) ürünleri perakende, güvenlik ve üretim gibi sektörlerde kullanılmaktadır.

Müşterilerin yapay zeka uygulamaları oluşturmasını ve dağıtmasını kolaylaştırmak için Axelera, gerçek zamanlı Vision AI'ı daha hızlı, daha basit ve daha ölçeklenebilir hale getiren, Metis AIPU üzerinde model optimizasyonunu, dağıtımını ve hızlandırmayı kolaylaştıran bir yazılım platformu olan Voyager SDK'larına Ultralytics YOLO modellerini entegre etti.

Link to this sectionVision AI donanım hızlandırmasını yeniden tanımlamak#

2021 yılında kurulan ve merkezi Hollanda'da bulunan Axelera AI, temel bir sorunu çözmek için yola çıktı: geleneksel yapay zeka donanımı bulut için inşa edilmişti, uç için değil. Bu boşluğu kapatmak için şirket Metis AIPU'yu geliştirdi.

Bu, özellikle uç iş yükleri için tasarlanmış yüksek performanslı, düşük güçlü bir çiptir - hız, gizlilik ve enerji verimliliğinin kritik olduğu cihazlarda yerel olarak çalışan yapay zeka görevleri.

Verilerin depolandığı yerde doğrudan işlenmesini sağlayan ve gecikme ile enerji kullanımını önemli ölçüde azaltan tescilli Digital In-Memory Compute (D-IMC) teknolojisi ile desteklenmektedir. Tam entegre bir yazılım yığını ve yapay zekayı demokratikleştirme misyonuyla Axelera, yüksek performanslı yapay zekayı daha erişilebilir hale getiriyor.

Link to this sectionUç yapay zeka donanımında modelleri çalıştırmanın zorluğu#

Uçta kesintisiz bir yapay zeka deneyimi sunmak için Axelera AI, yüksek performanslı donanımdan fazlasını sağlamayı amaçladı. Müşteriler ayrıca karmaşık araçlar veya zaman alıcı özelleştirmeler gerektirmeyen, gerçek zamanlı bilgisayarlı görü çözümleri çalıştırmanın basit ve güvenilir bir yoluna ihtiyaç duyuyordu. Mevcut birçok model çok büyük, çok yavaştı veya kaynak kısıtlı ortamlar için iyi tasarlanmamıştı.

Perakende analitiği, fabrika otomasyonu ve gözetim sistemleri genellikle operasyonları desteklemek için hızlı ve doğru görsel içgörülere güvenir. Ancak, geleneksel modeller ve bulut tabanlı çözümler genellikle bu uç yapay zeka uygulamalarının düşük gecikme, enerji verimliliği ve cihaz içi işleme gereksinimlerini karşılayamaz.

Axelera, doğru, uygulaması kolay ve Metis AI Processing Units üzerinde verimli bir şekilde çalışabilen bir model paketi aramaya başladı. Doğru çözüm, donanım yeteneklerini tamamlarken aynı zamanda geliştirmeyi basitleştirecek ve çok çeşitli uç yapay zeka kullanım durumlarında dağıtımı hızlandıracaktır.

Link to this sectionUltralytics YOLO ile uçta hızlandırılmış yapay zeka çıkarımları#

Axelera AI, uç yapay zeka uygulamaları oluşturmayı ve dağıtmayı daha hızlı, daha kolay ve daha ölçeklenebilir hale getirmek için Ultralytics YOLO modellerini Voyager SDK ürünlerine entegre etti. SDK, kullanıma hazır YOLO modellerini içeren bir Model Zoo içerir ve Metis AI Processing Units için optimize edilmiş ön işleme, çıkarım ve son işleme dahil olmak üzere tüm işlem hattını otomatikleştirir.

Şekil 1. Metis AI Processing Unit (AIPU).

Bu entegrasyon, müşterilerin önceden eğitilmiş Ultralytics YOLO modellerini kutudan çıkar çıkmaz kullanmalarını veya kendilerininkini getirmelerini sağlar; üstelik uç donanımda kesintisiz hızlandırma ile. Paralel ve kademeli model yürütme desteğiyle Metis AIPU'lar, poz kestiriminin ardından segmentasyon gibi gelişmiş çoklu model kurulumlarına olanak tanır. Bu, perakende, güvenlik ve endüstriyel otomasyondaki karmaşık görevler için idealdir.

Ultralytics YOLO modelleri tarafından desteklenen gerçek zamanlı bilgisayarlı görü görevleri ile Axelera'nın verimli donanım ve yazılım yığınının birleşimi, watt başına ve dolar başına olağanüstü bir performans sunar. Müşteriler için bu, daha doğru sonuçlar, daha hızlı dağıtım ve uçta Vision AI'ı ölçeklendirmenin önünde daha düşük bir engel anlamına gelir.

Link to this sectionNeden Ultralytics YOLO modellerini seçmelisin?#

Axelera AI, doğruluk, hız ve kullanım kolaylığı arasındaki olağanüstü dengeleri nedeniyle Ultralytics YOLO modellerini platformuna entegre etmek için Ultralytics ile ortaklık kurdu. Birden fazla Ultralytics YOLO varyantı desteğiyle, Axelera AI müşterileri Metis AIPU üzerinde çok çeşitli iş yüklerini ve performans ihtiyaçlarını değerlendirebilirler.

Bir Ultralytics Enterprise License aracılığıyla Axelera, değerlendirme ve geliştirme için tüm YOLO modelleri paketine erişim sağlar. Ticari dağıtım için müşterilerin uyumluluğu sağlamak ve uçta Vision AI'da ölçeklenebilir inovasyonu desteklemek adına doğrudan lisans formu aracılığıyla Ultralytics'ten kendi lisanslarını almaları gerekir.

Link to this sectionAxelera AI'nın Voyager SDK'sı ile Ultralytics YOLO modellerinden ölçekli bir şekilde yararlanma#

Ultralytics YOLO modelleri ve Axelera AI'nın Voyager SDK'sı ile kullanıcılar, doğru ve düşük gecikmeli bilgisayarlı görü uygulamalarını doğrudan Metis AI Processing Units üzerinde dağıtabilirler. Ayrıca, birden fazla YOLO varyantına erişim, müşterilerin performanslarını uygulamalarının özel ihtiyaçlarına göre ayarlamalarına olanak tanır.

Örneğin, Axelera AI, müşterilerinin YOLO destekli çözümleri aşağıdakiler gibi çeşitli alanlarda test ettiğini görmüştür:

• Perakende: Poz kestirimi, segmentasyon ve nesne algılamayı birleştiren çoklu model işlem hatları, kayıp azaltma ve envanter takibi gibi görevleri desteklemek için kullanılabilir. Bu dağıtımlar, Metis AIPU ile eşleştirilmiş Raspberry Pi 5 gibi gömülü platformlarda verimli bir şekilde çalışır.
• Üretim: Müşteriler, verimi artırmak ve donanım maliyetlerini düşürmek için tek bir çip üzerinde kusur tespiti, ürün sınıflandırma ve poz kestirimi gibi eş zamanlı görevleri gerçekleştirmek için paralel model yürütmeyi kullanabilirler.
• Gözetim: YOLO'nun gerçek zamanlı nesne algılama yetenekleri, 4K ve 8K video akışlarını tam çözünürlükte analiz etmek için kullanılabilir ve kritik ortamlarda yüksek doğruluklu güvenlik izleme ve durumsal farkındalık sağlar. Bu, yüksek çözünürlüklü kameralarda geleneksel küçültmeden çok daha iyi bir çözümdür.
• Sağlık: Optimize edilmiş YOLO işlem hatları, cihaz içi tıbbi görüntüleme için yüksek çıkarım hızı ve güvenilir doğruluk sunarak tümör tanımlamayı destekleyebilir.

Bu kullanım durumları, Axelera AI'nın uç yapay zeka donanımının ve Ultralytics YOLO modellerinin sektörler genelinde yüksek performanslı, enerji tasarruflu Vision AI inovasyonlarını nasıl güçlendirdiğini göstermektedir.

Link to this sectionUltralytics YOLO ile uç yapay zekanın bir sonraki dalgasına öncülük etmek#

Axelera AI, yüksek performanslı uç yapay zekaya erişimi genişletmeye odaklanmaya devam ederken, müşterilerin daha akıllı, daha hızlı uygulamalar oluşturmasına yardımcı olmak için güçlü donanımları ve güvenilir görüntü modellerini bir araya getiriyor.

Voyager SDK ve Metis AIPU donanımı aracılığıyla sunulan Ultralytics YOLO modelleri ile kullanıcılar, sektörler genelinde gerçek zamanlı bilgisayarlı görü çözümlerini kolayca geliştirebilir ve ölçeklendirebilirler. Bu iş birliği, yapay zekayı verilerin oluşturulduğu yere yaklaştırmak için çalışan, uçta verimliliği, yanıt verebilirliği ve inovasyonu artıran büyüyen bir geliştirici ve işletme topluluğunu desteklemektedir.

Ready to accelerate your edge AI journey? Explore our GitHub repository to see how YOLO models are powering innovations like AI in retail and computer vision in logistics. Get hands-on with our Vision AI tools, learn about licensing options, and discover how you can unlock high-performance, energy-efficient computer vision at the edge.