Edge AI

Edge AI, merkezi olmayan bir bilgi işlem ortamı yaratır. yapay zeka (AI) ve makine öğrenimi (ML) algoritmaları işlenir Uzak sunuculara güvenmek yerine doğrudan yerel bir cihazda. Veri işlemeyi kaynağın yakınında gerçekleştirerek - örneğin sensörlerde, kameralarda veya IoT ağ geçitlerinde olduğu gibi-Edge AI gecikme süresini ve bant genişliği kullanımını önemli ölçüde azaltır. Bu yaklaşım gerektiren uygulamalar için gereklidir Milisaniyelerin önemli olduğu yerlerde gerçek zamanlı çıkarım, veya internet bağlantısının istikrarsız olduğu ortamlarda. Merkezi işlemlerden uç noktalara geçiş güçlendiriyor cihazların bağımsız kararlar almasını sağlayarak hassas bilgileri saklayarak veri gizliliği yerel donanım.

Edge AI Nasıl Çalışır

Tipik bir Edge AI iş akışında, fiziksel bir cihaz giriş sensörleri aracılığıyla veri toplar. Ham veri iletmek yerine bir bulut bilişim merkezine bağlandığında, cihaz bir gömülü mikroişlemci veya özel bir hızlandırıcı - örneğin NVIDIA Jetson modülü veya bir Google Coral Edge TPUML modellerini yerel olarak çalıştırmak TPU.

Kısıtlı kaynaklara sahip cihazlarda etkin bir şekilde çalışabilmek için modeller genellikle optimizasyon süreçlerinden geçer. Gibi teknikler model kuantizasyonu ve model budama, dosya boyutunu ve hesaplama işlemini azaltır olmadan sinir ağlarının karmaşıklığı doğruluktan önemli ölçüde ödün vermek. Optimize edilmiş çerçeveler, gibi TensorRT ve Intel OpenVINOolarak hareket eder. bu modelleri hızlandırmak için çıkarım motoru belirli donanım mimarileri.

Edge AI - Edge Computing Karşılaştırması

Sıklıkla birlikte kullanılsa da, bu iki ilgili kavramı birbirinden ayırmak faydalı olacaktır:

• Uç Bilişim: Bu şu anlama gelir bilgi işlem gücünü ve veri depolamayı kullanıcılara yaklaştıran daha geniş fiziksel mimari ve altyapı ihtiyaç duyulan yere yerleştirir. Donanım ve ağ topolojisini kapsar.
• Edge AI: Bu, edge bilişimin özel bir uygulamasıdır. Akıllı bir şekilde çalışmayı içerir bilgisayarla görme (CV) gibi algoritmalar veya Tahmine dayalı analitik, bu uç altyapının üstünde.

Gerçek Dünya Uygulamaları

Edge AI'ın yaygınlaşması, otonom operasyonları ve daha akıllı analitiği mümkün kılarak sektörleri dönüştürüyor.

• Otonom Sistemler: Sürücüsüz araçlar işlemek için Edge AI kullanıyor LiDAR, radar ve kameralardan gelen girdiler anında. Yayaları detect etmeli, trafik işaretlerini okumalı ve şeritleri gerçek zamanlı olarak. Buluta güvenmek tehlikeli bir gecikmeye yol açacaktır; bu nedenle nesne algılama işlemi tamamen aracın yerleşik bilgisayarı.
• Akıllı Üretim: İçinde endüstriyel otomasyon, Edge AI görselliğe güç veriyor montaj hatlarında denetim sistemleri. Aşağıdaki gibi modellerle donatılmış kameralar Ultralytics YOLO11 ürün kusurlarını veya güvenlik sorunlarını tespit edebilir tehlikeleri hemen ortadan kaldırır. Bu yerel işleme hızlı bir şekilde anomali tespiti ve robotik ile entegrasyon üretimi durdurmadan kusurlu ürünleri çıkarmak için kollar.
• Akıllı Şehirler: Belediyeler Edge Yapay Zekayı akıllı trafik yönetimi. Trafik ışıkları, yerel olarak trafik kontrol noktalarında gerçekleştirilen araç akışı analizine dayalı olarak zamanlamayı dinamik olarak ayarlayabilir. kavşak, sıkışıklığı azaltmak ve kentsel hareketliliği optimize etmek.

Modelleri Uç Noktaya Dağıtma

Bir modelin bir uç cihaza dağıtılması genellikle eğitilmiş bir modelin donanımdan bağımsız bir formata aktarılmasını içerir. Bu ONNX (Açık Sinir Ağı Borsası) formatı, modellerin çeşitli platformlarda çalışmasına olanak tanıyan bir standarttır.

Aşağıdaki örnekte, aşağıdaki özellikleri nedeniyle uç dağıtım için ideal olan hafif bir YOLO11 modelinin nasıl dışa aktarılacağı gösterilmektedir hızı ve verimliliği:

from ultralytics import YOLO

# Load a lightweight YOLO11 nano model
model = YOLO("yolo11n.pt")

# Export the model to ONNX format for edge deployment
# The 'dynamic' argument allows for variable input sizes
model.export(format="onnx", dynamic=True)

Zorluklar ve Gelecekteki Eğilimler

Uç Yapay Zekanın uygulanması, öncelikle uç cihazların sınırlı güç ve bellek kaynakları ile ilgili zorlukları beraberinde getirir büyük veri merkezlerine kıyasla. Geliştiriciler, model performansı ile enerji tüketimini dengelemeli ve genellikle gibi şirketlerin çip üzerinde sistem (SoC) tasarımları Qualcomm veya Ambarella.

İleriye dönük olarak, 5G ağlarının entegrasyonu Edge'i daha da geliştirecektir Sürü zekası olarak bilinen cihaz koordinasyonu için gereken yüksek hızlı bağlantıyı sağlayarak yapay zeka. Ayrıca, federe öğrenme gibi teknikler uç noktalara izin verir Ham verileri merkezi olmayan ve gizli tutarken küresel modelleri işbirliği içinde geliştirmek için cihazlar.