Edge AI

Edge AI refers to the deployment of artificial intelligence (AI) algorithms and models directly on local hardware devices—such as smartphones, IoT sensors, drones, and connected vehicles—rather than relying on centralized cloud computing centers. This decentralized approach allows data to be processed at the source of its creation, significantly reducing the latency involved in sending information back and forth to remote servers. By executing machine learning (ML) tasks locally, devices can make instantaneous decisions, operate reliably without internet connectivity, and enhance data privacy by keeping sensitive information on the device itself.

Link to this sectionEdge AI Nasıl Çalışır#

The core of Edge AI involves running an inference engine on an embedded system. Because edge devices typically have limited battery life and computational power compared to cloud servers, the AI models must be highly efficient. Developers often employ techniques like model quantization or model pruning to compress large neural networks without sacrificing significant accuracy.

Bu iş yüklerini verimli bir şekilde yönetmek için genellikle özelleşmiş donanım hızlandırıcıları kullanılır. Örnekler arasında robotik için NVIDIA Jetson platformu ve düşük güçlü çıkarım için Google Coral Edge TPU bulunur. Yazılım çerçeveleri de hayati bir rol oynar; TensorRT ve TFLite gibi araçlar, modelleri bu kısıtlı ortamlar için özel olarak optimize ederek hızlı gerçek zamanlı çıkarım sağlar.

Link to this sectionEdge AI ile Edge Computing Arasındaki Fark#

Terimler genellikle birbirinin yerine kullanılsa da, aralarındaki farkı anlamak faydalıdır:

• Edge Computing: Bu, veri işlemenin veri kaynağına yakın gerçekleştiği daha geniş fiziksel altyapıyı ve ağ topolojisini tanımlar. Denklemin "nerede" kısmıdır.
• Edge AI: Bu, özellikle bu altyapı üzerinde çalışan akıllı uygulamaları ifade eder. Denklemin "ne" kısmıdır. Örneğin, bir güvenlik kamerası bir uç bilişim cihazı olarak hareket eder, ancak belirli bir kişiyi tanımak için bilgisayarlı görü (CV) kullandığında, Edge AI gerçekleştirmiş olur.

Link to this sectionGerçek Dünya Uygulamaları#

Edge AI, kritik senaryolarda otonom karar vermeyi mümkün kılarak endüstrileri dönüştürüyor:

• Otonom Araçlar: Kendi kendine giden araçlar günlük olarak terabaytlarca veri üretir. Sinyal gecikmesi nedeniyle yayaları veya engelleri belirlemek için buluta güvenemezler. Bunun yerine, yolcu güvenliğini sağlamak için anlık nesne tespiti amacıyla yerleşik Edge AI kullanırlar.
• Akıllı Üretim: Endüstriyel IoT (IIoT) alanında, fabrika zeminlerindeki sensörler kestirimci bakım için Edge AI kullanır. Titreşim ve sıcaklık verilerini yerel olarak analiz ederek, sistem anormallikleri tespit edebilir ve ekipman arızasını gerçek zamanlı olarak tahmin ederek maliyetli duruş sürelerini önleyebilir.
• Sağlık Hizmetleri: Vision AI ile donatılmış taşınabilir tıbbi cihazlar, tıbbi görüntüleri veya hasta değerlerini doğrudan bakım noktasında analiz edebilir ve bağlantının zayıf olduğu uzak bölgelerde anında teşhis desteği sağlayabilir.

Link to this sectionModelleri Uca Dağıtma#

Bir modeli uca dağıtmak genellikle yüksek hesaplama gücüne sahip bir ortamda model eğitmeyi ve ardından ONNX veya OpenVINO gibi uç cihazlarla uyumlu bir formata aktarmayı içerir. Ultralytics Platform, bu iş akışını basitleştirerek kullanıcıların çeşitli uç hedefleri için modelleri eğitmesine ve otomatik olarak dışa aktarmasına olanak tanır.

The following example demonstrates how to export a lightweight YOLO26 model—specifically designed for efficiency—to a format suitable for mobile and edge deployment.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Advanced edge deployments often utilize containerization technologies like Docker to package applications, ensuring they run consistently across different device architectures, from Raspberry Pi units to industrial gateways.