Edge AI

Uç Yapay Zekâ, merkezi bulut bilişim merkezlerine güvenmek yerine yapay zekâ (AI) algoritmalarının ve modellerinin akıllı telefonlar, IoT sensörleri, dronlar ve bağlantılı araçlar gibi yerel donanım cihazlarında doğrudan çalıştırılmasını ifade eder. Bu merkeziyetsiz yaklaşım, verilerin oluşturulduğu kaynağında işlenmesini sağlayarak bilgilerin uzak sunuculara gönderilmesi ve bu sunuculardan alınması sırasında oluşan gecikmeyi önemli ölçüde azaltır. Makine öğrenimi (ML) görevlerini yerel olarak yürüten cihazlar anında karar verebilir, internet bağlantısı olmadan güvenilir şekilde çalışabilir ve hassas bilgileri cihazın kendisinde tutarak veri gizliliğini güçlendirebilir.

Uç Yapay Zekâ Nasıl Çalışır?#

Uç Yapay Zekânın temelinde, gömülü bir sistem üzerinde çalışan bir çıkarım motoru bulunur. Uç cihazların pil ömrü ve işlem gücü genellikle bulut sunucularına kıyasla sınırlı olduğundan, yapay zekâ modellerinin son derece verimli olması gerekir. Geliştiriciler, büyük sinir ağlarını doğrulukta önemli bir kayıp olmadan sıkıştırmak için genellikle model niceleme veya model budama gibi tekniklerden yararlanır.

Bu iş yüklerini verimli şekilde işlemek için sıklıkla özel donanım hızlandırıcıları kullanılır. Örnekler arasında robotik uygulamalar için NVIDIA Jetson platformu ve düşük güç tüketimli çıkarım için Google Coral Edge TPU yer alır. Yazılım çerçeveleri de önemli bir rol oynar; TensorRT ve TFLite gibi araçlar modelleri bu kısıtlı ortamlar için özel olarak optimize ederek hızlı gerçek zamanlı çıkarım sağlar.

Uç Yapay Zekâ ve Uç Bilişim#

Bu terimler genellikle birbirinin yerine kullanılsa da aralarındaki farkı ayırt etmek faydalıdır:

• Uç Bilişim: Bu terim, veri işlemenin veri kaynağının yakınında gerçekleştiği daha geniş fiziksel altyapıyı ve ağ topolojisini tanımlar. Denklemin “neresi” olduğunu ifade eder.
• Uç Yapay Zekâ: Bu terim, söz konusu altyapı üzerinde çalışan akıllı uygulamaları ifade eder. Denklemin “ne” olduğunu belirtir. Örneğin bir güvenlik kamerası uç bilişim cihazı görevi görür; ancak belirli bir kişiyi tanımak için bilgisayarlı görü (CV) kullandığında Uç Yapay Zekâ gerçekleştirir.

Gerçek Dünya Uygulamaları#

Uç Yapay Zekâ, kritik senaryolarda otonom karar almayı mümkün kılarak sektörleri dönüştürüyor:

• Otonom Araçlar: Otonom araçlar her gün terabaytlarca veri üretir. Sinyal gecikmesi nedeniyle yayaları veya engelleri tanımlamak için buluta güvenemezler. Bunun yerine yolcu güvenliğini sağlamak amacıyla anında nesne algılama gerçekleştirmek için araç üzerindeki Uç Yapay Zekâdan yararlanırlar.
• Akıllı Üretim: Endüstriyel IoT (IIoT) kapsamında fabrika sahalarındaki sensörler kestirimci bakım için Uç Yapay Zekâ kullanır. Sistem, titreşim ve sıcaklık verilerini yerel olarak analiz ederek anormallikleri tespit edebilir ve ekipman arızasını gerçek zamanlı olarak öngörebilir; böylece maliyetli duruşların önüne geçer.
• Sağlık Hizmetleri: Görsel Yapay Zekâ ile donatılmış taşınabilir tıbbi cihazlar, tıbbi görüntüleri veya hasta hayati bulgularını doğrudan bakım noktasında analiz ederek bağlantının zayıf olduğu uzak bölgelerde anında tanısal destek sağlayabilir.

Modelleri Edge Ortamına Dağıtma#

Bir modeli uca dağıtmak genellikle yüksek işlem gücüne sahip bir ortamda model eğitmeyi ve ardından modeli ONNX veya OpenVINO gibi uç cihazlarla uyumlu bir biçime aktarmayı içerir. Ultralytics Platformu bu iş akışını kolaylaştırarak kullanıcıların çeşitli uç hedefleri için modelleri eğitmesine ve otomatik olarak dışa aktarmasına olanak tanır.

Aşağıdaki örnek, özellikle verimlilik için tasarlanmış hafif bir YOLO26 modelinin mobil ve uç dağıtımına uygun bir biçime nasıl aktarılacağını gösterir.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Gelişmiş uç dağıtımları, uygulamaları paketlemek için sıklıkla Docker gibi konteynerleştirme teknolojilerinden yararlanır ve uygulamaların Raspberry Pi birimlerinden endüstriyel ağ geçitlerine kadar farklı cihaz mimarilerinde tutarlı şekilde çalışmasını sağlar.