Görsel yapay zekâ çözümlerindeki gerçek zamanlı çıkarımlar fark yaratıyor

Yavaş internet bağlantısının yol açabileceği sıkıntıları hepimiz zaman zaman yaşadık. Peki ya bu gecikme, otonom bir aracın engele tepki vermesi veya bir doktorun kritik bir taramayı analiz etmesi gibi yüksek riskli bir durumda yaşansaydı? Fazladan birkaç saniye ciddi sonuçlara yol açabilir.

Gerçek zamanlı yapay zekâ çıkarımı tam da bu noktada fark yaratabilir. Hızlı işleme ve gerçek zamanlı tahminler, bilgisayarlı görü çözümlerinin görsel verileri anında işlemesini ve bunlara tepki vermesini sağlar. Saniyenin çok küçük bir bölümünde alınan bu kararlar güvenliği, verimliliği ve günlük yaşam konforunu artırabilir.

Örneğin robotik bir asistan yardımıyla hassas bir işlem gerçekleştiren bir cerrahı düşün. Her hareket yüksek hızlı bir bağlantı üzerinden kontrol edilir ve robotun görüntü sistemi ameliyat alanını gerçek zamanlı işler, böylece cerrah anında görsel geri bildirim alır. Bu geri bildirim döngüsündeki en küçük bir gecikme bile ciddi hatalara yol açarak hastayı riske atabilir. Bu, gerçek zamanlı çıkarımların neden çok önemli olduğuna dair kusursuz bir örnektir; gecikmeye yer yoktur.

Gerçek dünyadaki uygulamalarda yapay zekâ çıkarımı üç temel kavrama dayanır: çıkarım motorları (yapay zekâ modellerini verimli şekilde çalıştıran yazılım veya donanım), çıkarım gecikmesi (girdi ile çıktı arasındaki gecikme) ve gerçek zamanlı çıkarım (yapay zekâ sisteminin en az gecikmeyle işlem yapıp tepki verme kapasitesi).

Bu makalede, bu temel kavramları ve Ultralytics YOLO11 gibi bilgisayarlı görü modellerinin anında tahminlere dayanan uygulamaları nasıl mümkün kıldığını inceleyeceğiz.

Yapay zekâ çıkarımı nedir?#

Çıkarım çalıştırma, eğitilmiş bir yapay zekâ modelini kullanarak yeni verileri analiz etme ve tahminde bulunma ya da bir görevi çözme sürecidir. Bir modelin büyük miktarda etiketli veriyi işleyerek eğitilmesini içeren eğitimden farklı olarak çıkarım, önceden eğitilmiş bir modeli kullanarak hızlı ve doğru sonuçlar üretmeye odaklanır.

Şekil 1. Çıkarımın ne olduğunu anlama.

Örneğin yaban hayatını koruma çalışmalarında yapay zekâ kameraları, hayvanları gerçek zamanlı olarak tanımlamak ve sınıflandırmak için bilgisayarlı görü modellerinden yararlanır. Bir kamera hareket algıladığında yapay zekâ modeli bunun bir geyik, yırtıcı hayvan, hatta kaçak avcı olup olmadığını anında tanır; böylece araştırmacılar insan müdahalesi olmadan hayvan popülasyonlarını takip edebilir ve nesli tükenmekte olan türleri koruyabilir. Bu hızlı tanımlama, gerçek zamanlı izlemeyi ve olası tehditlere daha çabuk tepki vermeyi mümkün kılar.

Çıkarım motorlarını anlama#

Eğitilmiş bir makine öğrenimi modeli, ham hâliyle kullanıma hazır olmayabilir. Çıkarım motoru, makine öğrenimi modellerini verimli şekilde çalıştırmak ve gerçek dünyada kullanıma göre optimize etmek için tasarlanmış özel bir yazılım veya donanım aracıdır. Model sıkıştırma, niceleme ve grafik dönüşümleri gibi optimizasyon tekniklerinden yararlanarak performansı artırır ve kaynak tüketimini azaltır; böylece model farklı ortamlarda kullanılabilir.

Çıkarım motoru özünde, hızlı ve doğru tahminler yapılmasını sağlamak için hesaplama yükünü ve gecikmeyi azaltmaya, verimliliği artırmaya odaklanır. Motor optimize edildikten sonra modeli yeni veriler üzerinde çalıştırarak gerçek zamanlı çıkarımların verimli biçimde üretilmesini sağlar. Bu optimizasyon, yapay zekâ modellerinin hem yüksek performanslı bulut sunucularında hem de akıllı telefonlar, IoT cihazları ve gömülü sistemler gibi kaynakları sınırlı uç cihazlarda sorunsuz çalışmasına olanak tanır.

Çıkarım gecikmesinden kaynaklanan sorunlar#

Çıkarım gecikmesi, yapay zekâ sisteminin girdi verilerini (örneğin kameradan alınan bir görüntüyü) aldığı an ile çıktı ürettiği an (örneğin görüntüdeki nesneleri tespit etmesi) arasındaki süredir. Küçük bir gecikme bile gerçek zamanlı yapay zekâ uygulamalarının performansını ve kullanılabilirliğini önemli ölçüde etkileyebilir.

Çıkarım gecikmesi üç temel aşamada ortaya çıkar:

• Ön işleme süresi: Girdi verilerinin modele verilmeden önce hazırlanması için gereken süre. Buna görüntüleri modelin girdi boyutlarına uyacak şekilde yeniden boyutlandırma, daha iyi doğruluk için piksel değerlerini normalize etme ve biçimleri dönüştürme (ör. RGB'yi gri tonlamaya veya videoyu kare dizilerine dönüştürme) dahildir.
• Hesaplama süresi: Modelin çıkarım yapmak için harcadığı gerçek süre. Buna derin ağlardaki katman bazlı hesaplamalar, matris çarpımları, evrişimler ve bellek ile işlem birimleri arasındaki veri aktarımı gibi işlemler dahildir.
• Son işleme süresi: Ham model çıktılarını anlamlı sonuçlara dönüştürmek için gereken süre. Bu süre; nesne tespitinde sınırlayıcı kutular çizme, görüntü tanımada yanlış pozitifleri filtreleme veya anomali tespitinde eşikler uygulama işlemlerini içerebilir. Ultralytics YOLO26 gibi bazı tespit modelleri bu aşamayı kısaltmak için maksimum olmayan bastırma (NMS) adımını kaldırır.

Çıkarım gecikmesi, gerçek zamanlı uygulamalar için kritik önem taşır. Örneğin montaj hattında otomatik kusur tespiti için ürünler konveyör bandında ilerlerken ürünleri incelemek üzere bilgisayarlı görü kullanılabilir.

Sistem, ürünler sonraki aşamaya geçmeden kusurları hızla belirleyip işaretlemelidir. Model görüntüleri işlemek için çok uzun sürerse kusurlu ürünler zamanında yakalanamayabilir; bu da malzeme israfına, maliyetli yeniden işleme çalışmalarına veya hatalı ürünlerin müşterilere ulaşmasına yol açabilir. Üreticiler gecikmeyi azaltarak kalite kontrolünü iyileştirebilir, verimliliği artırabilir ve kayıpları düşürebilir.

Çıkarım gecikmesi nasıl azaltılır?#

Çıkarım gecikmesini en aza indirmek birçok bilgisayarlı görü uygulaması için çok önemlidir. Bunu başarmak için çeşitli teknikler kullanılabilir. Çıkarım gecikmesini azaltmakta en sık kullanılan tekniklerden bazılarını ele alalım.

Model budama#

Model budama, gereksiz bağlantıları (ağırlıkları) kaldırarak sinir ağını basitleştirir ve modeli küçültüp hızlandırır. Bu işlem modelin hesaplama yükünü azaltır ve doğruluğu çok fazla etkilemeden hızı artırır.

Budama, yalnızca en önemli bağlantıları koruyarak verimli çıkarım ve daha iyi performans sağlar; özellikle işlem gücü sınırlı cihazlarda etkilidir. Güvenilirliği korurken verimliliği artırmak için mobil yapay zekâ, robotik ve uç bilişim gibi gerçek zamanlı uygulamalarda yaygın olarak kullanılır.

Şekil 2. Model budama kullanarak daha az etkili bağlantıları kaldırma.

Model niceleme#

Model niceleme, hesaplamalarda kullanılan sayıları basitleştirerek yapay zekâ modellerinin daha hızlı çalışmasını ve daha az bellek kullanmasını sağlayan bir tekniktir. Normalde bu modeller, çok hassas olan ancak yüksek işlem gücü gerektiren 32 bit kayan noktalı sayılarla çalışır. Niceleme, bu sayıları işlenmesi daha kolay ve daha az yer kaplayan 8 bit tam sayılara dönüştürür.

Şekil 3. Kayan noktalı değerleri tam sayı gösterimlerine dönüştürmek için model niceleme kullanımı.

Verimli modeller kullanma#

Bir yapay zekâ modelinin tasarımı, ne kadar hızlı tahminde bulunabileceğini büyük ölçüde etkiler. Verimli çıkarım için tasarlanan Ultralytics YOLO11 gibi modeller, işlem hızının kritik olduğu uygulamalar için idealdir.

Bir yapay zekâ çözümü geliştirirken mevcut kaynaklara ve performans gereksinimlerine göre doğru modeli seçmek önemlidir. Çok ağır bir modelle başlarsan yavaş işlem süreleri, yüksek güç tüketimi ve kaynakları sınırlı cihazlarda dağıtım zorluğu gibi sorunlarla karşılaşma olasılığın artar. Hafif bir model, özellikle gerçek zamanlı ve uç uygulamalarda sorunsuz performans sağlar.

Hız ve doğruluk: gerçek zamanlı çıkarımları optimize etme#

Gecikmeyi azaltmak için çeşitli teknikler olsa da gerçek zamanlı çıkarımların önemli bir unsuru hız ile doğruluğu dengelemektir. Modelleri hızlandırmak tek başına yeterli değildir; çıkarım hızını doğruluktan ödün vermeden optimize etmek gerekir. Hızlı ama yanlış tahminler üreten bir sistem etkisizdir. Bu nedenle modellerin gerçek dünya koşullarında iyi performans gösterdiğinden emin olmak için kapsamlı testler yapmak hayati önem taşır. Test sırasında hızlı görünen ancak gerçek koşullarda başarısız olan bir sistem gerçekten optimize edilmiş sayılmaz.

Gerçek zamanlı çıkarımlardan yararlanan görsel yapay zekâ uygulamaları#

Şimdi, görsel girdilere anında yanıt verilmesini sağlayarak sektörleri dönüştüren gerçek zamanlı çıkarımın kullanıldığı bazı gerçek dünya uygulamalarına göz atalım.

Perakende mağazalarında self servis ödeme sistemleri#

Ultralytics YOLO11 gibi bilgisayarlı görü modelleri, ürün tanımayı daha hızlı ve daha doğru hâle getirerek self servis ödeme sistemlerini iyileştirmeye yardımcı olabilir. YOLO11'in nesne algılama ve örnek segmentasyonu gibi çeşitli bilgisayarlı görü görevlerini desteklemesi, barkodlar eksik veya hasarlı olsa bile ürünlerin tanınmasını mümkün kılar. Görsel yapay zekâ, manuel veri girişi ihtiyacını azaltabilir ve ödeme sürecini hızlandırabilir.

Bilgisayarlı görü, ürünleri tanımanın yanı sıra fiyatları doğrulamak, dolandırıcılığı önlemek ve müşterilere kolaylık sağlamak için self servis ödeme sistemlerine de entegre edilebilir. Yapay zekâ destekli kameralar, benzer ürünleri otomatik olarak ayırt edebilir ve ödeme sırasında şüpheli davranışları tespit edebilir. Buna, müşterinin veya kasiyerin bir ürünü istemeden atladığı "taranmayan ürünlerin" yanı sıra, daha ucuz bir barkodun daha pahalı bir ürünün üzerine yerleştirildiği "ürün değiştirme" gibi kasıtlı dolandırıcılık girişimlerinin belirlenmesi de dahildir.

Şekil 4. Yapay zekâ, self servis ödeme noktalarını iyileştirebilir.

Bunun harika bir örneği, bilgisayarlı görü ve yapay zekâyı self servis ödeme sistemlerine entegre etmiş büyük bir ABD perakendecisi olan Kroger. Kroger, gerçek zamanlı video analizi kullanarak ödeme hatalarının %75'inden fazlasını otomatik olarak düzeltebildi ve hem müşteri deneyimini hem de mağaza operasyonlarını iyileştirdi.

Bilgisayarlı görüyle kalite denetimi#

Kalite kontrolü için ürünleri manuel olarak denetlemek yavaş olabilir ve her zaman doğru sonuç vermez. Bu nedenle giderek daha fazla üretici, üretim sürecinin önceki aşamalarında kusurları tespit etmek için bilgisayarlı görü kullanan görsel denetim iş akışlarına geçiyor.

Yüksek çözünürlüklü kameralar ve görsel yapay zekâ, insanların gözden kaçırabileceği küçük kusurları tespit edebilir. Ultralytics YOLO11 gibi modeller, gerçek zamanlı kalite kontrolleri, ayıklama ve sayım işlemlerine yardımcı olarak müşterilere yalnızca kusursuz ürünlerin ulaşmasını sağlayabilir. Bu süreci otomatikleştirmek zamandan tasarruf sağlar, maliyetleri düşürür ve israfı azaltır; böylece üretim daha sorunsuz ve verimli hâle gelir.

Şekil 5. Montaj hattındaki ürünleri saymak için Ultralytics YOLO11 kullanımına bir örnek.

Önemli çıkarımlar#

Gerçek zamanlı çıkarım, yapay zekâ modellerinin anında karar vermesine yardımcı olur ve bu, birçok sektörde kritik öneme sahiptir. İster kazadan kaçınan otonom bir otomobil, ister tıbbi görüntüleri hızla analiz eden bir doktor, ister ürün kusurlarını tespit eden bir fabrika olsun, yapay zekânın hızlı ve doğru yanıtları büyük fark yaratır.

Yapay zekâ modellerinin hızını ve verimliliğini artırarak gerçek dünya koşullarında güvenilir biçimde çalışan daha akıllı ve güvenilir sistemler oluşturabiliriz. Teknoloji ilerledikçe gerçek zamanlı yapay zekâ çözümleri geleceği şekillendirmeyi sürdürecek; gündelik süreçleri daha hızlı, daha güvenli ve daha verimli hâle getirecek.

Daha fazla bilgi edinmek için GitHub depomuzu ziyaret et ve topluluğumuza katıl. Çözüm sayfalarımızda otonom araçlarda yapay zekâ ve tarımda bilgisayarlı görü gibi sektörlerdeki yenilikleri keşfet. Lisans seçeneklerimize göz at ve görsel yapay zekâ projelerini hayata geçir.