Edge AI

Edge AI, merkezi cloud computing merkezlerine güvenmek yerine, artificial intelligence (AI) algoritmalarının ve modellerinin akıllı telefonlar, IoT sensörleri, dronlar ve bağlı araçlar gibi yerel donanım cihazları üzerinde doğrudan çalıştırılmasını ifade eder. Bu merkeziyetsiz yaklaşım, verilerin üretildiği kaynakta işlenmesine olanak tanır ve uzak sunuculara bilgi gönderip alırken oluşan gecikmeyi (latency) önemli ölçüde azaltır. machine learning (ML) görevlerini yerel olarak yürüterek cihazlar anlık kararlar alabilir, internet bağlantısı olmadan güvenilir bir şekilde çalışabilir ve hassas bilgileri doğrudan cihazda tutarak data privacy güvenliğini artırabilir.

Edge AI Nasıl Çalışır#

Edge AI'ın özü, gömülü bir sistem üzerinde bir inference engine çalıştırmayı içerir. Kenar (edge) cihazlar genellikle bulut sunucularına kıyasla sınırlı pil ömrüne ve hesaplama gücüne sahip olduğundan, AI modellerinin son derece verimli olması gerekir. Geliştiriciler, büyük neural networks yapılarını önemli bir doğruluk kaybı olmadan sıkıştırmak için genellikle model quantization veya model pruning gibi teknikler kullanır.

Bu iş yüklerini verimli bir şekilde yönetmek için genellikle özelleşmiş donanım hızlandırıcıları kullanılır. Örnekler arasında robotik için NVIDIA Jetson platformu ve düşük güçte çıkarım için Google Coral Edge TPU yer alır. Yazılım çerçeveleri de hayati bir rol oynamaktadır; TensorRT ve TFLite gibi araçlar, modelleri özellikle bu kısıtlı ortamlar için optimize ederek hızlı real-time inference sağlar.

Edge AI ile Edge Computing Arasındaki Fark#

Terimler genellikle birbirinin yerine kullanılsa da, aralarındaki farkı anlamak faydalıdır:

• Edge Computing: Bu, veri işleme sürecinin veri kaynağına yakın bir yerde gerçekleştiği daha geniş fiziksel altyapıyı ve ağ topolojisini tanımlar. Bu, denklemin "nerede" sorusunun karşılığıdır.
• Edge AI: Bu, özellikle bu altyapı üzerinde çalışan akıllı uygulamaları ifade eder. Bu, "ne" sorusunun karşılığıdır. Örneğin, bir güvenlik kamerası bir edge computing cihazı olarak işlev görür, ancak belirli bir kişiyi tanımak için computer vision (CV) kullandığında Edge AI gerçekleştiriyor demektir.

Gerçek Dünya Uygulamaları#

Edge AI, kritik senaryolarda otonom karar vermeyi mümkün kılarak endüstrileri dönüştürüyor:

• Otonom Araçlar: Kendi kendine giden arabalar günlük olarak terabaytlarca veri üretir. Sinyal gecikmesi nedeniyle yayaları veya engelleri belirlemek için buluta güvenemezler. Bunun yerine, yolcu güvenliğini sağlamak için anlık object detection amacıyla yerleşik Edge AI kullanırlar.
• Akıllı Üretim: Industrial IoT (IIoT) alanında, fabrika zeminlerindeki sensörler kestirimci bakım için Edge AI kullanır. Titreşim ve sıcaklık verilerini yerel olarak analiz ederek sistem, anormallikleri tespit edebilir ve ekipman arızalarını gerçek zamanlı olarak öngörebilir, böylece maliyetli kesinti sürelerini önleyebilir.
• Sağlık: Vision AI ile donatılmış taşınabilir tıbbi cihazlar, tıbbi görüntüleri veya hasta bulgularını doğrudan bakım noktasında analiz ederek zayıf bağlantıya sahip uzak bölgelerde anında teşhis desteği sağlayabilir.

Modelleri Uca Dağıtma#

Bir modeli uca (edge) dağıtmak genellikle yüksek hesaplama gücüne sahip bir ortamda model eğitilmesini ve ardından bunu ONNX veya OpenVINO gibi edge cihazlarıyla uyumlu bir biçime aktarmayı içerir. Ultralytics Platform bu iş akışını basitleştirerek kullanıcıların çeşitli edge hedefleri için modelleri eğitmesini ve otomatik olarak dışarı aktarmasını sağlar.

Aşağıdaki örnek, özellikle verimlilik için tasarlanmış hafif bir YOLO26 modelinin mobil ve edge dağıtımına uygun bir formatta nasıl dışarı aktarılacağını göstermektedir.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Gelişmiş edge dağıtımları genellikle Raspberry Pi birimlerinden endüstriyel geçitlere kadar farklı cihaz mimarilerinde tutarlı bir şekilde çalışmalarını sağlamak amacıyla uygulamaları paketlemek için Docker gibi containerization teknolojilerinden yararlanır.