Sözlük

Gerçek Zamanlı Çıkarım

Ultralytics YOLO ile gerçek zamanlı çıkarımın otonom sürüş ve güvenlik sistemleri gibi yapay zeka uygulamaları için nasıl anlık tahminler sağladığını keşfedin.

YOLO modellerini Ultralytics HUB ile basitçe
eğitin

Daha fazla bilgi edinin

Gerçek zamanlı çıkarım, eğitimli bir makine öğrenimi (ML) modelinin yeni veriler geldiğinde hemen tahminlerde bulunduğu veya kararlar aldığı süreci ifade eder. Zaman içinde toplanan verileri gruplar halinde işleyen toplu çıkarımın aksine, gerçek zamanlı çıkarım düşük gecikme süresine ve anlık yanıtlara öncelik verir. Bu özellik, canlı veri akışlarına dayalı olarak anında geri bildirim veya eylem gerektiren uygulamalar için gereklidir ve sistemlerin değişen koşullara dinamik olarak tepki vermesini sağlayarak gerçek zamanlı bilgi işlem ilkeleriyle uyumludur.

Gerçek Zamanlı Çıkarsamayı Anlama

Pratikte, gerçek zamanlı çıkarım, bir makine öğrenimi modelinin, örneğin Ultralytics YOLObilgisayarla görme (CV) modeli, böylece bireysel veri girdilerini (video kareleri veya sensör okumaları gibi) analiz edebilir ve minimum gecikmeyle çıktılar üretebilir. Temel performans ölçütü, bir girdinin alınmasından bir tahminin oluşturulmasına kadar geçen süre olan çıkarım gecikmesidir. Düşük gecikme süresine ulaşmak genellikle modelin kendisini optimize etmek ve özel donanım ve yazılımlardan yararlanmak gibi çeşitli stratejileri içerir.

Gerçek Zamanlı Çıkarım ve Toplu Çıkarım

Temel fark, verilerin nasıl işlendiği ve ilgili gecikme gereksinimlerinde yatmaktadır:

  • Gerçek Zamanlı Çıkarım: Her tahmin için gecikmeyi en aza indirmeye odaklanarak verileri geldikçe nokta nokta işler. Etkileşimli sistemler veya anında yanıt gerektiren uygulamalar için gereklidir. Kendi kendine giden bir araba için bir engel tespit etmeyi düşünün.
  • Toplu Çıkarım: Verileri genellikle periyodik olarak planlanan büyük parçalar veya gruplar halinde işler. Gecikmeden ziyade verim (büyük hacimli verilerin verimli bir şekilde işlenmesi) için optimize edilmiştir. Günlük raporlar oluşturma veya büyük veri kümelerini çevrimdışı analiz etme gibi görevler için uygundur. Google Cloud, toplu tahmine ilişkin içgörüler sunar.

Gerçek Zamanlı Çıkarım Uygulamaları

Gerçek zamanlı çıkarım, anlık karar vermenin çok önemli olduğu birçok modern Yapay Zeka (AI) uygulamasına güç verir:

  • Otonom Sistemler: Kendi kendine giden arabalar ve robotik için yapay zekada, gerçek zamanlı çıkarım, ortamlarda gezinmek, engelleri tespit etmek(nesne algılama) ve anlık sürüş kararları vermek için kritik öneme sahiptir.
  • Güvenlik ve Gözetim: Güvenlik sistemleri, izinsiz girişleri tespit etmek, şüpheli faaliyetleri belirlemek veya kalabalıkları anında izlemek için gerçek zamanlı çıkarım kullanır.
  • Sağlık Hizmetleri: Prosedürler veya teşhis sırasında anında tıbbi görüntü analizine olanak sağlamak, hasta sonuçlarını ve teşhis doğruluğunu önemli ölçüde iyileştirebilir.
  • Üretim: Üretimde gerçek zamanlı kalite kontrolü, üretim hattındaki kusurların anında tespit edilmesini sağlayarak israfı azaltır ve verimliliği artırır.
  • Etkileşimli Uygulamalar: Sanal asistanlar, gerçek zamanlı dil çevirisi ve içerik öneri sistemleri, sorunsuz kullanıcı deneyimleri sağlamak için düşük gecikmeli çıkarıma dayanır.

Gerçek Zamanlı Performans Elde Etme

Modellerin gerçek zamanlı uygulamalar için yeterince hızlı çalışmasını sağlamak genellikle önemli optimizasyon gerektirir:

  • Model Optimizasyonu: Model niceleme (model ağırlıklarının hassasiyetini azaltma) ve model budama (modelin gereksiz kısımlarını kaldırma) gibi teknikler hesaplama yükünü ve bellek kullanımını azaltır.
  • Donanım Hızlandırma: Uç cihazlarda GPU'lar, TPU'lar ( Tensor İşleme Birimleri) veya özel yapay zeka hızlandırıcıları (ör. NVIDIA Jetson, Google Coral Edge TPU) gibi özel donanımların kullanılması hesaplamaları önemli ölçüde hızlandırabilir. Uç bilişimin kendisi, verilerin yerel olarak minimum gecikmeyle işlenmesi için çok önemlidir.
  • Verimli Çıkarım Motorları: Yazılım kütüphaneleri ve çalışma zamanları TensorRT, OpenVINO, ONNX Runtime ve aşağıdaki gibi çerçeveler PyTorch veya TensorFlow eğitilmiş modeller için optimize edilmiş yürütme yolları sağlar. Bir çıkarım motoru, modelleri tahmin için verimli bir şekilde çalıştırmak üzere özel olarak tasarlanmıştır.

Gibi modeller Ultralytics YOLO11 verimlilik ve doğruluk göz önünde bulundurularak tasarlanmıştır, bu da onları gerçek zamanlı nesne algılama görevleri için çok uygun hale getirir. Ultralytics HUB gibi platformlar eğitmek, optimize etmek (örn. ONNX veya TensorRT formatları) ve modelleri dağıtarak çeşitli dağıtım seçeneklerinde gerçek zamanlı çıkarım çözümlerinin uygulanmasını kolaylaştırır.

Tümünü okuyun