Axelera AI, Ultralytics YOLO kullanarak 34 FPS uç AI çıkarımı sunar

Axelera AI, uçta bilgisayarlı görü çalıştırmak için güçlü, enerji verimli yapay zeka çipleri üreten Avrupalı bir yarı iletken şirketidir. Örneğin, Metis Yapay Zeka İşleme Birimleri (AIPU'lar) perakende, güvenlik ve üretim gibi sektörlerde kullanılmaktadır.

Müşterilerin yapay zeka uygulamaları oluşturmasını ve dağıtmasını kolaylaştırmak için Axelera, Ultralytics YOLO modellerini Metis AIPU'larda model optimizasyonunu, dağıtımını ve hızlandırmasını kolaylaştıran bir yazılım platformu olan Voyager SDK'ya entegre etti; bu da gerçek zamanlı Vision AI'ı daha hızlı, daha basit ve daha ölçeklenebilir hale getirdi.

Vision AI donanım hızlandırmasını yeniden tanımlamak#

2021 yılında kurulan ve merkezi Hollanda'da bulunan Axelera AI, temel bir sorunu çözmek için yola çıktı: geleneksel yapay zeka donanımı uç için değil, bulut için tasarlanmıştı. Bu boşluğu kapatmak için şirket Metis AIPU'yu geliştirdi.

Bu, özellikle uç iş yükleri için tasarlanmış yüksek performanslı, düşük güçlü bir çiptir - hız, gizlilik ve enerji verimliliğinin kritik olduğu cihazlarda yerel olarak çalışan yapay zeka görevleri.

Verilerin depolandığı yerde doğrudan işlenmesini sağlayan ve gecikme ile enerji kullanımını önemli ölçüde azaltan tescilli Digital In-Memory Compute (D-IMC) teknolojisi ile desteklenmektedir. Tam entegre bir yazılım yığını ve yapay zekayı demokratikleştirme misyonuyla Axelera, yüksek performanslı yapay zekayı daha erişilebilir hale getiriyor.

Uç yapay zeka donanımında modelleri çalıştırmanın zorluğu#

Uçta kesintisiz bir yapay zeka deneyimi sunmak amacıyla Axelera AI, yüksek performanslı donanımdan fazlasını sağlamayı hedefledi. Müşteriler ayrıca karmaşık araçlar veya zaman alıcı özelleştirmeler gerektirmeyen, gerçek zamanlı computer vision çözümlerini çalıştırmanın basit ve güvenilir bir yoluna ihtiyaç duyuyordu. Mevcut birçok model çok büyük, çok yavaş veya kaynak kısıtlı ortamlar için uygun değildi.

Perakende analitiği, fabrika otomasyonu ve gözetim sistemleri genellikle operasyonları desteklemek için hızlı ve doğru görsel içgörülere güvenir. Ancak, geleneksel modeller ve bulut tabanlı çözümler genellikle bu uç yapay zeka uygulamalarının düşük gecikme, enerji verimliliği ve cihaz içi işleme gereksinimlerini karşılayamaz.

Axelera, doğru, uygulaması kolay ve Metis AI Processing Units üzerinde verimli bir şekilde çalışabilen bir model paketi aramaya başladı. Doğru çözüm, donanım yeteneklerini tamamlarken aynı zamanda geliştirmeyi basitleştirecek ve çok çeşitli uç yapay zeka kullanım durumlarında dağıtımı hızlandıracaktır.

Ultralytics YOLO ile uçta hızlandırılmış yapay zeka çıkarımları#

Axelera AI, uç yapay zeka uygulamaları oluşturmayı ve dağıtmayı daha hızlı, daha kolay ve daha ölçeklenebilir hale getirmek için Ultralytics YOLO modellerini Voyager SDK içine entegre etti. SDK, kullanıma hazır YOLO modellerine sahip bir Model Zoo içerir ve Metis AI İşleme Birimleri için optimize edilmiş ön işleme, çıkarım ve son işleme dahil olmak üzere tüm işlem hattını otomatikleştirir.

Şekil 1. Metis AI Processing Unit (AIPU).

Bu entegrasyon, müşterilerin önceden eğitilmiş Ultralytics YOLO modellerini kutudan çıkar çıkmaz kullanmalarını veya kendilerininkini getirmelerini sağlar; üstelik uç donanımda kesintisiz hızlandırma ile. Paralel ve kademeli model yürütme desteğiyle Metis AIPU'lar, poz kestiriminin ardından segmentasyon gibi gelişmiş çoklu model kurulumlarına olanak tanır. Bu, perakende, güvenlik ve endüstriyel otomasyondaki karmaşık görevler için idealdir.

Ultralytics YOLO modelleri tarafından desteklenen gerçek zamanlı computer vision tasks ile Axelera'nın verimli donanım ve yazılım yığınının birleşimi, watt ve dolar başına olağanüstü performans sunar. Müşteriler için bu, daha doğru sonuçlar, daha hızlı dağıtım ve uçta Vision AI'ı ölçeklendirmede daha düşük bir engel anlamına gelir.

Neden Ultralytics YOLO modellerini seçmelisin?#

Axelera AI, doğruluk, hız ve kullanım kolaylığı arasındaki olağanüstü dengeleri nedeniyle Ultralytics YOLO modellerini platformuna entegre etmek için Ultralytics ile ortaklık kurdu. Birden fazla Ultralytics YOLO varyantı desteğiyle, Axelera AI müşterileri Metis AIPU üzerinde çok çeşitli iş yüklerini ve performans ihtiyaçlarını değerlendirebilirler.

Bir Ultralytics Enterprise License aracılığıyla Axelera, değerlendirme ve geliştirme için YOLO modellerinin tüm paketine erişim sağlar. Ticari dağıtım için müşterilerin uyumluluğu sağlamak ve uçta Vision AI'da ölçeklenebilir inovasyonu desteklemek amacıyla lisans formu aracılığıflarla doğrudan Ultralytics'ten kendi lisanslarını almaları gerekmektedir.

Axelera AI'nın Voyager SDK'sı ile Ultralytics YOLO modellerinden ölçekli bir şekilde yararlanma#

Ultralytics YOLO modelleri ve Axelera AI'nın Voyager SDK'sı ile kullanıcılar, doğru ve düşük gecikmeli bilgisayarlı görü uygulamalarını doğrudan Metis AI Processing Units üzerinde dağıtabilirler. Ayrıca, birden fazla YOLO varyantına erişim, müşterilerin performanslarını uygulamalarının özel ihtiyaçlarına göre ayarlamalarına olanak tanır.

Örneğin, Axelera AI, müşterilerinin YOLO destekli çözümleri aşağıdakiler gibi çeşitli alanlarda test ettiğini görmüştür:

• Perakende: Poz kestirimi, segmentasyon ve nesne algılamayı birleştiren çoklu model işlem hatları, kayıp azaltma ve envanter takibi gibi görevleri desteklemek için kullanılabilir. Bu dağıtımlar, Metis AIPU ile eşleştirilmiş Raspberry Pi 5 gibi gömülü platformlarda verimli bir şekilde çalışır.
• Üretim: Müşteriler, verimi artırmak ve donanım maliyetlerini düşürmek için tek bir çip üzerinde kusur tespiti, ürün sınıflandırma ve poz kestirimi gibi eş zamanlı görevleri gerçekleştirmek için paralel model yürütmeyi kullanabilirler.
• Gözetim: YOLO'nun gerçek zamanlı object detection yetenekleri, 4K ve 8K video akışlarını tam çözünürlükte analiz etmek için kullanılabilir ve kritik ortamlarda yüksek doğruluklu güvenlik izleme ve durumsal farkındalık sağlar. Bu, yüksek çözünürlüklü kameralarda geleneksel ölçek küçültmeden çok daha iyi bir çözümdür.
• Sağlık: Optimize edilmiş YOLO işlem hatları, cihaz içi tıbbi görüntüleme için yüksek çıkarım hızı ve güvenilir doğruluk sunarak tümör tanımlamayı destekleyebilir.

Bu kullanım durumları, Axelera AI'nın uç yapay zeka donanımının ve Ultralytics YOLO modellerinin sektörler genelinde yüksek performanslı, enerji tasarruflu Vision AI inovasyonlarını nasıl güçlendirdiğini göstermektedir.

Ultralytics YOLO ile uç yapay zekanın bir sonraki dalgasına öncülük etmek#

Axelera AI, yüksek performanslı uç yapay zekaya erişimi genişletmeye odaklanmaya devam ederken, müşterilerin daha akıllı, daha hızlı uygulamalar oluşturmasına yardımcı olmak için güçlü donanımları ve güvenilir görüntü modellerini bir araya getiriyor.

Voyager SDK ve Metis AIPU hardware aracılığıyla sunulan Ultralytics YOLO modelleriyle kullanıcılar, sektörler genelinde gerçek zamanlı bilgisayarlı görü çözümlerini kolayca geliştirebilir ve ölçeklendirebilir. Bu işbirliği, yapay zekayı verilerin üretildiği yere daha yakına getirmek, uçta verimliliği, yanıt verebilirliği ve inovasyonu geliştirmek için çalışan büyüyen bir geliştirici ve işletme topluluğunu destekler.

Uç yapay zeka yolculuğunuzu hızlandırmaya hazır mısınız? YOLO modellerinin perakendede yapay zeka ve lojistikte bilgisayarlı görü gibi yenilikleri nasıl güçlendirdiğini görmek için GitHub repository alanımızı keşfedin. Vision AI araçlarımızla uygulamalı olarak çalışın, licensing options hakkında bilgi edinin ve uçta yüksek performanslı, enerji verimli bilgisayarlı görü kilidini nasıl açabileceğinizi keşfedin.