Edge Yapay Zeka

Edge AI Nasıl Çalışır?

Süreç tipik olarak, genellikle güçlü bulut kaynakları veya yerel sunucular kullanılarak bir yapay zeka modelinin eğitilmesini içerir. Model eğitildikten sonra, boyutunu ve hesaplama gereksinimlerini azaltmak için model nicelleştirme veya model budama gibi optimizasyon tekniklerinden geçer. Bu optimizasyon, genellikle sınırlı işlem gücüne sahip olan kaynak kısıtlı uç cihazlarda modelleri verimli bir şekilde çalıştırmak için çok önemlidir (CPU/GPU), bellek ve pil ömrü. Optimize edilen model daha sonra TensorFlow Lite, PyTorch Mobile, ONNX Runtime gibi çerçeveler veya Intel'in OpenVINO'su gibi özel SDK'lar kullanılarak uç cihaza dağıtılır. Cihaz daha sonra verileri işlemek ve sürekli internet bağlantısına ihtiyaç duymadan içgörüler veya eylemler oluşturmak için yerel sensörlerini (ör. kameralar, mikrofonlar) kullanarak gerçek zamanlı çıkarım yapabilir. Bu dağıtımları yönetmek Ultralytics HUB gibi platformlar kullanılarak kolaylaştırılabilir.

Uç Yapay Zeka ve Bulut Yapay Zeka

Temel fark, YZ hesaplamasının nerede gerçekleştiğidir. Bulut YZ, verileri merkezi sunucularda işleyerek karmaşık modeller ve büyük ölçekli eğitim verileri için uygun geniş hesaplama kaynakları sunar. Bununla birlikte, veri aktarımı nedeniyle gecikmeye neden olur ve güvenilir internet bağlantısı gerektirir. Edge AI ise tam tersine verileri cihaz üzerinde yerel olarak işler. Bu, gecikmeyi en aza indirir, hassas bilgilerin cihazdan ayrılmasına gerek olmadığından veri gizliliğini artırır ve çevrimdışı veya düşük bant genişliğine sahip ortamlarda çalışmayı sağlar. Uç cihazların sınırlı kaynaklara sahip olması, dağıtılabilir modellerin karmaşıklığını kısıtlamaktadır. Edge AI vs Cloud AI hakkında daha fazla bilgi edinin.

Uç Bilişim ile İlişki

Edge AI, daha geniş bir alan olan edge computing içinde özel bir uygulamadır. Uç bilişim, hesaplama görevlerinin merkezi veri merkezlerinden ağın "ucuna", kullanıcılara ve veri kaynaklarına daha yakın bir yere kaydırılmasına yönelik genel paradigmayı ifade eder. Edge AI, bu kavramı özellikle AI ve ML iş yüklerine uygulayarak akıllı işlemenin doğrudan uç cihazlarda yapılmasını sağlar. Uç bilişim çeşitli işleme türlerini içerebilirken, Edge AI, AI modellerini yerel olarak dağıtmaya ve çalıştırmaya odaklanır. Uç bilişim hakkında daha fazla bilgiyi buradan edinebilirsiniz.

Edge Yapay Zekanın Faydaları

• Düşük Gecikme Süresi: Otonom araçlar ve gerçek zamanlı kontrol sistemleri gibi uygulamalar için kritik olan neredeyse anlık yanıtlar sağlar.
• Gelişmiş Gizlilik ve Güvenlik: Verilerin yerel olarak işlenmesi, hassas bilgilerin ağlar üzerinden iletilmesiyle ilişkili riski azaltır. Ultralytics , sorumlu yapay zekaya öncelik verir.
• Geliştirilmiş Güvenilirlik: Uygulamalar kararsız veya internet bağlantısı yokken bile güvenilir bir şekilde çalışabilir.
• Bant Genişliği Verimliliği: Buluta gönderilmesi gereken veri miktarını önemli ölçüde azaltarak bant genişliği maliyetlerini düşürür.
• Gerçek Zamanlı Karar Verme: Dinamik ortamlar için gerekli olan yerel veri analizine dayalı acil eylemleri kolaylaştırır. Bu, gerçek zamanlı yapay zeka gücü için çok önemlidir.

Uygulamalar ve Örnekler

Edge AI, başta bilgisayarla görme (CV) olmak üzere çok sayıda sektörü dönüştürüyor. Artan talep, büyüyen Edge AI pazar büyüklüğüne de yansımaktadır.

1. Akıllı Güvenlik Kameraları: Aşağıdaki gibi modellerle donatılmış kameralar Ultralytics YOLO11 sürekli olarak buluta video akışı yapmadan insanları, araçları veya belirli olayları gerçek zamanlı olarak tanımlamak için cihaz üzerinde nesne algılama gerçekleştirebilir. Bu, daha hızlı uyarılar sağlar ve gizlilik endişelerini azaltır. Yapay zekanın güvenlik kameralarını nasıl geliştirdiğini görün.
2. Otonom Sistemler: Kendi kendine giden arabalar ve insansız hava araçları, güvenlik için hayati önem taşıyan anlık navigasyon, engellerden kaçınma ve kontrol kararları için sensör verilerini (kameralar, LiDAR) yerel olarak işlemek üzere büyük ölçüde Edge AI'ya güvenir. Bunun için genellikle NVIDIA Jetson gibi platformlar kullanılır.
3. Endüstriyel Otomasyon: Üretimde Edge AI, sensör verilerini doğrudan fabrika zemininde analiz ederek üretim hatlarında gerçek zamanlı kalite denetimi, makineler için öngörücü bakım uyarıları ve robotik otomasyon sağlar.
4. Sağlık hizmetleri: Giyilebilir cihazlar ve hasta başı monitörleri, gerçek zamanlı hasta sağlığı izleme, düşme tespiti(poz tahmini) ve uzmanları dahil etmeden önce ön tıbbi görüntü analizi için Edge AI kullanır.
5. Akıllı Perakende: Edge AI, otomatik ödeme sistemleri, gerçek zamanlı envanter yönetimi ve doğrudan mağazaların içinde müşteri davranış analizi gibi uygulamaları mümkün kılar.

Uç Yapay Zekanın Zorlukları

Edge AI, faydalarına rağmen uç cihazların sınırlı hesaplama kaynakları(işlem gücü etkisi), yüksek düzeyde optimize edilmiş modellere duyulan ihtiyaç (YOLOv9'un verimliliği gibi), çok sayıda dağıtılmış cihazda model dağıtımını ve güncellemelerini yönetme (genellikle Docker gibi araçlar kullanarak) ve değişen gerçek dünya koşullarında model performansını sağlama gibi zorluklarla karşı karşıyadır. Google Edge TPU gibi özel donanımlar ve Sony IMX500 gibi sensörler bu donanım sınırlamalarının bazılarını gidermeye yardımcı olur. Çerçeveler gibi NVIDIA TensorRT optimizasyona da yardımcı olur.

Edge AI, zekayı merkezi bulutlardan yerel cihazlara taşıyarak AI yeteneklerinin nasıl sunulduğu konusunda önemli bir değişimi temsil ediyor. Bu, ağın ucunda etkili bir şekilde çalışabilen ve tüketici elektroniğinden kritik endüstriyel sistemlere kadar her şeyi etkileyen yeni nesil duyarlı, özel ve güvenilir yapay zeka uygulamalarını mümkün kılmaktadır.