Bilgisayarlı Görüyü Pilot Aşamadan Üretime Ölçeklendirme

Bilgisayarlı görü çözümlerini pilot çalışmadan üretime ölçeklemek, bir model gösterimini sahipliği tanımlanmış bir işletim sistemine dönüştürmeyi gerektirir. Kurum; ölçülebilir bir karar tanımlamalı, bunu temsili verilerle doğrulamalı, üretim veri yolunu tasarlamalı, hizmet sahipliğini atamalı, model değişikliklerini denetlemeli ve hem teknik hem de iş sonuçlarını izlemelidir. Pilot, bir modelin çalışabileceğini kanıtlar. Üretim ise sistemin tamamının gerçek çalışma koşullarında çalışmaya devam edebileceğini kanıtlar.

En güvenilir yol, aşama kapılarıyla ilerleyen bir süreçtir. Her aşama bir çıktıyla ve devam et, gözden geçir veya durdur kararıyla sona ermelidir. Böylece umut vadeden bir not defterinin yanlışlıkla desteksiz bir hizmete dönüşmesi önlenir.

Bilgisayarlı görü pilotları neden tıkanıyor?#

Başarısızlıkların çoğu model eğitiminin dışında gerçekleşir. Bir pilotta özenle seçilmiş görüntüler, sabit bir kamera, manuel dosya yüklemeleri ve her tahmini izleyen bir geliştirici bulunabilir. Üretimde ise değişen ışık, lens kirlenmesi, yeni ürün çeşitleri, ağ kesintileri, birden çok saha, operatör iş akışları, erişim denetimleri ve model güncellemeleri kuyruğu devreye girer.

Yaygın eksiklikler şunlardır:

• İş eylemi belirsizdir: ekip, modelin desteklediği kararı değil model doğruluğunu ölçer.
• Doğrulama verileri zorlu vardiyaları, sahaları, mevsimleri veya donanım koşullarını kapsamaz.
• Pilot çalışmada belirsiz tahminler veya sistem kesintileri için tanımlanmış bir davranış yoktur.
• Kameralar, veriler, modeller, uygulamalar ve olay müdahalesinden birlikte sorumlu olan kimse yoktur.
• Yeniden eğitim, kontrollü bir değişiklik süreci yerine tek seferlik bir proje olarak ele alınır.
• İzleme, sunucu çalışma süresini kapsar ancak girdi kaymasını, tahmin kalitesini veya operasyonel etkiyi kapsamaz.

Çözüm otomatik olarak daha büyük bir model değildir. Çözüm; insanları, süreçleri, verileri, yazılımları ve donanımı bir araya getiren bir üretim tasarımıdır.

Üretime geçişin altı aşama kapısı#

Kapı 1: yalnızca tespiti değil, kararı tanımla#

Operasyonel zinciri tek cümlede yaz: “Sistem Y koşulları altında X'i gözlemlediğinde, Z'yi belirlenmiş bir role gönderir ve bu rol kararlaştırılan süre içinde A eylemini gerçekleştirir.” Böylece eksik iş akışı kararları erken ortaya çıkar.

Teknik metriği bir iş metriğiyle eşleştir. Kalite denetim sistemi, kesinlik ve duyarlılığın yanı sıra yanlış retleri ve gözden kaçan kusurları izleyebilir. Sayım sistemi, yalnızca tespit doğruluğunu değil, konum ve saate göre karar hatasını izleyebilir. İyileşme iddiasında bulunmadan önce mevcut manuel veya kural tabanlı başlangıç değerini belirle.

Ayrıca hedef dışı noktaları tanımla. Eksik bileşenleri işaretleyen bir model; torku, malzeme bileşimini veya örtülmüş bir özelliği doğrulamayabilir. Açıkça belirtilen kapsam dışı noktalar, pilotun test edilemez bir vaade dönüşmesini önler.

Kapı 2: üretim kapsam matrisi oluştur#

Verileri görüntüyü veya kararı değiştirebilecek koşullara göre düzenle: saha, kamera, açı, mesafe, aydınlatma, hat hızı, ürün ailesi, arka plan, örtülme, vardiya ve nadir hata türü. İlgili her hücredeki örnek sayısını ve kaynağını kaydet.

Aynı videodan neredeyse aynı kareler geldiğinde rastgele eğitim-test bölmeleri yeterli olmaz. Genelleme performansını test etmek için tüm zaman aralıklarını, kameraları, üretim partilerini veya sahaları test verisi olarak ayır. Maliyetli hatalara en çok yol açabilecek koşullar için ayrı bir zorluk kümesi tut.

Belirsiz durumları açıklayan ve anlaşmazlıkların gözden geçirilmesini sağlayan etiketleme kuralları kullan. Ultralytics Platform, veri kümesi yönetimini, etiketlemeyi, eğitimi ve model yönetimini tek bir iş akışında bir araya getirir; etiketleme ve yeniden eğitimin eğitimle aynı yerde tutulması, belirsiz örneklerin incelemeye yönlendirilmesini pratik hale getirir. Hangi aracı seçersen seç, verileri, etiketleri, sınıf tanımlarını ve bölme mantığını birlikte sürümlendir.

Kapı 3: iş akışı performansını doğrula#

Eşikleri varsayılan bir değere göre değil, her hatanın maliyetine göre seç. Aynı model, kaçırılan olayları önlemek veya gereksiz duruşları azaltmak üzere optimize edildiğinde farklı davranabilir. Güçlü bir ortalamanın zayıf bir gece vardiyasını ya da ürün ailesini gizlememesi için performansı operasyonel segmentlere göre değerlendir.

Çıktı sözleşmesinin tamamını test et: sınıf, konum, güven skoru, izleme kimliği, olay mantığı ve tüm son işlem adımları. Güven skoru düşük olduğunda, nesneler üst üste geldiğinde, kamera hareket ettiğinde veya girdi boş olduğunda ne olacağını sorgula. Açık bir “inceleme” veya “karar yok” durumu, her kareyi zorla kesin bir yanıtla eşleştirmekten daha güvenli olabilir.

Onaylanan modeli, veri kümesi sürümünü, eşikleri, ön işlemeyi, dışa aktarma biçimini ve ortamı kaydet. Bu paket üretim adayı olur.

Kapı 4: uçtan uca hizmeti tasarla#

Çıkarımın nerede çalışacağına gecikme, bağlantı, veri yerelliği, donanım ve destek gereksinimlerine göre karar ver. Uçta çıkarım, anlık kararları kameranın yakınında tutabilir. Yönetilen bulut uç noktaları dağıtımı ve merkezi izlemeyi kolaylaştırabilir. Hibrit tasarımlar, yerel kararlar alırken seçili üst verileri veya incelenmiş örnekleri merkezi bir iş akışına gönderebilir.

Ultralytics Platform dağıtımı, tarayıcıda test, paylaşımlı çıkarım, yönetilen özel uç noktalar, izleme ve diğer çalışma ortamları için model dışa aktarımını destekler. Doğru yol, genel bir bulut-uca kuralına değil, hizmet sınırına bağlıdır.

Üretimi temsil eden girdilerle tüm yolu yük testine tabi tut. Görüntü yakalama, kod çözme, ön işleme, çıkarım, son işleme, uygulama kuralları, depolama ve bildirimi dahil et. Ani yük, boşta kalma, bozulmuş ağ ve bağımlılık arızası testleri gerçekleştir. Arabelleğe alma ve yeniden deneme davranışlarının eski kararlar üretmediğini doğrula.

Kapı 5: hizmet ve model operasyonlarını oluştur#

Üretim ortamında en az beş katmanın sorumluları olmalı: görüntü yakalama donanımı, ağ/işlem gücü, model ve veri, uygulama entegrasyonu ve iş yanıtı. Bir kişi birden fazla katmanın sorumluluğunu üstlenebilir ancak sorumluluk örtük kalmamalıdır.

İşletim kılavuzu şunları kapsamalıdır:

• Kamera ve girdi sağlığının nasıl denetleneceği.
• Hangi gecikme, hata, kuyruk ve kaynak sinyallerinin eylemi tetiklediği.
• Gereksiz kaynak verilerini açığa çıkarmadan yakın tarihli tahminlerin nasıl inceleneceği.
• Dağıtımın nasıl durdurulacağı, değiştirileceği veya geri alınacağı.
• Şüpheli model hatalarını kimin inceleyeceği ve etiketleri kimin güncelleyeceği.
• Olayların ve model değişikliklerinin nasıl kaydedileceği.

Ultralytics Platform izleme, yönetilen dağıtımlar için istek, gecikme, hata, günlük ve sağlık bilgilerini sunar. Uygulama ekipleri inceleme hacmi, müdahale oranı, yanlış duruşlar veya doğrulanmış kusurlar gibi iş düzeyindeki sinyalleri eklemelidir.

Kapı 6: hevesle değil, saha hazırlığıyla ölçekle#

İlk dağıtımı her yere kopyalama. Kamera yerleşimini, aydınlatmayı, ağı, işlem gücünü, ürün karmasını, iş akışı sahipliğini, yerel gizlilik incelemesini ve destek kapsamını içeren bir saha hazırlık kontrol listesi kullan. Yeni bir saha, özgün kapsam matrisinin dışındaki koşulları getiriyorsa modeli yeniden doğrula.

Yeniden kullanılabilir bileşenleri sahaya özgü yapılandırmadan ayır. Model paketleme, olay şemaları, panolar ve işletim kılavuzları standartlaştırılabilir. Kamera kalibrasyonu, ilgi alanları, eşikler, entegrasyonlar ve eskalasyon yolları farklılık gösterebilir.

Üretim puan kartı, temsilî bir dönem boyunca istikrarlı teknik performans ve sürdürülebilir operasyonel değer gösterdikten sonra ölçeklemeyi onayla.

Üretim veri döngüsünü oluştur#

Yararlı bir geri bildirim döngüsü, her kareyi gelişigüzel saklamadan zor örnekleri yakalar:

1. Düşük güven skoru, bir kuralla uyuşmazlık, operatör düzeltmesi veya değişen ortam gibi tetikleyiciler tanımla.
2. Seçilen örnekleri erişim denetimli bir inceleme kuyruğuna yönlendir.
3. Bunları, özgün veri kümesi için kullanılan sürümlü yönergeler doğrultusunda etiketle.
4. Onaylanan örnekleri aday veri kümesi sürümüne ekle.
5. Aday modeli, sabit regresyon ve zorluk kümeleri üzerinde mevcut modelle eğitip karşılaştır.
6. Geri alma seçeneğini hazır tutarak kontrollü bir dağıtımla yayınla.

Sırf yeni veriler var diye otomatik olarak yeniden eğitim yapma. Veri kalitesi, sınıf dengesi, haklar ve regresyon riski incelenmelidir. Veri döngüsü yalnızca daha fazla veri değil, daha iyi kanıt üretmelidir.

Dört katmanı izle#

Girdi ve tahmin kaymaları, doğruluğun azaldığının kanıtı değil, inceleme sinyalleridir. Performans düşüşü şüphesini incelenmiş temel doğrularla doğrula. Öte yandan, sağlıklı bir uç nokta sistemin yararlı kararlar ürettiğini kanıtlamaz.

Teslimatı destekleyen yönetişim#

Her üretim sürümü için amacını, sorumlusunu, eğitim verilerinin kapsamını, değerlendirme dilimlerini, bilinen sınırlamaları, onaylı ortamı, bağımlılıkları, eşikleri, yayın tarihini ve geri alma hedefini içeren kısa bir kayıt tut. Görüntülere, etiketlere, model yapıtlarına, uç noktalara, günlük kayıtlarına ve dışa aktarımlara erişimi hassasiyetlerine göre denetle.

Gerçek kullanım senaryosu ve yargı alanı için insanlara etkisini ve geçerli yasal gereklilikleri incele. Operasyonel karar için gerekli olmayan özellikleri toplama. Dağıtımdan önce saklama süresini belirle ve hata ayıklama iş akışlarının da aynı kurallara uyduğunu doğrula.

Uygulanabilir bir 90 günlük yaygınlaştırma planı#

İlk aşamayı sonucu, başlangıç değerini, kapsam matrisini ve sorumluları kesinleştirmek için kullan. İkinci aşamada veri hattını sağlamlaştır, segmentlere ayrılmış hata analizini gerçekleştir ve hata işleme sürecini test et. Üçüncü aşamada sınırlı bir üretim yayını yap, sonuçları ölç, olay müdahalesi ve geri alma tatbikatlarını tamamla, ardından sahanın sürekli işletime veya ölçeklemeye hazır olup olmadığına karar ver.

Kesin takvim, entegrasyona ve riske bağlıdır. Önemli olan, üretime hazır olmanın geçen haftalarla değil, geçilen kapılarla kanıtlanmasıdır.