Ultralytics Platform İzleme: Görsel yapay zekâ dağıtımlarını yolunda tut

Bilgisayarlı görü modelini dağıtmak önemli bir dönüm noktasıdır, ancak üretimdeki başarı bundan sonra olanlara bağlıdır. Trafik arttıkça ve gerçek dünya koşulları değiştikçe ekiplerin uç noktaların yanıt vermeye, güvenilir ve yararlı olmaya devam edip etmediğini bilmesi gerekir.

İzleme, Ultralytics Platform içinde ekiplere dağıtılmış Ultralytics YOLO modellerini; veri, eğitim ve dağıtımı yönetmek için kullandıkları aynı ortamdan izleme olanağı sunar. Operasyonel durumu takip et, tahmin eğilimlerini incele, sorunları gider ve üretimdeki yararlı örnekleri gelecekteki model iyileştirmeleri için veriye dönüştür.

Görüntü yapay zekâsı model izleme nedir?#

Görüntü yapay zekâsı model izleme, ekiplerin dağıtılmış uç noktaların ve bu uç noktalardaki tahminlerin üretimde nasıl davrandığını anlamasına yardımcı olur.

Ultralytics Platform iki önemli soruya yanıt verir:

• Uç nokta güvenilir biçimde çalışıyor mu? İstekleri, P95 gecikmesini, hata oranlarını, sistem durumunu ve günlükleri takip et.
• Model ne görüyor ve ne tahmin ediyor? Örnek tahminleri ve sınıf sayıları, güven, çıkarım süresi ve desteklenen durumlarda tahmin konumları gibi istatistikleri incele.

Bu içgörüler birlikte, yalnızca uç noktanın kullanılabilirliğini izlemekten daha net bir tablo sunar. Trafik örüntüleri, yanıt süreleri veya tahmin dağılımları değişirken bir uç nokta çevrimiçi kalabilir. İzleme, bu sinyalleri araştırmayı kolaylaştırır.

Dağıtım durumunu bir bakışta anla#

Deploy sayfası, uç noktaların için merkezi bir izleme panosu görevi görür. Genel bakış kartları, önceki 24 saatteki HTTP isteklerini, etkin dağıtımları, hata oranlarını ve P95 gecikmesini özetler.

Bu metriklerle ekipler şunları yapabilir:

• Talebi anla: Uç nokta trafiğinin artıp artmadığını, azalıp azalmadığını veya beklenmedik biçimde değişip değişmediğini gör.
• Performans sorunlarını belirle: Bir uygulamayı etkileyebilecek yavaş yanıtları araştırmak için P95 gecikmesini kullan.
• Hataları ortaya çıkar: Yükselen HTTP hata oranlarını fark et ve nedeni teşhis etmek için dağıtım günlüklerini kullan.
• Kullanılabilirliği denetle: Her bir uç noktanın sağlıklı olup olmadığını ve yanıt verip vermediğini doğrula.
• Dağıtımları karşılaştır: Uç noktaları kart, kompakt veya sıralanabilir tablo görünümlerinde incele.

Hata oranı %5'i aştığında hata oranı kartı vurgulanır; böylece ekiplerin her uç noktayı tek tek incelemesine gerek kalmadan operasyonel sorunlar öne çıkar.

Durum denetimleri ve günlüklerle sorunları daha hızlı gider#

Bir uç noktada sorun yaşandığında ekiplerin üst düzey bir metrikten fazlasına ihtiyacı vardır. Hazır durumdaki her dağıtımda bir durum göstergesi ve son günlüklere erişim bulunur.

Durum denetimleri, bir uç noktanın yanıt verip vermediğini gösterir ve yanıt gecikmesini bildirir. Üretim trafiği gönderilmeden önce sıfıra ölçeklenmiş bir uç noktanın yeniden çalışmaya başlamasına da yardımcı olabilir.

Günlükler; zaman damgaları, önem düzeyleri, iletiler ve HTTP ayrıntılarıyla ek bağlam sağlar. Bu sayede ekipler ayrı bir günlük arayüzüne geçmeden başarısız istekleri, beklenmedik yanıtları veya performans değişikliklerini araştırabilir.

Ultralytics Platform, metrikleri, durum denetimlerini ve günlükleri her dağıtıma bağlayarak bir sorunu belirlemekten anlamaya uzanan daha doğrudan bir yol sunar.

Canlı tahmin davranışını incele#

İzleme özellikli bir çalışma zamanı kullanan, ücretli ve çalışma süresine göre ücretlendirilen özel uç noktalar; geçici örneklerin ve tahmin istatistiklerinin yer aldığı ek bir Monitoring sekmesi sunar.

Geçici örnekler galerisi, tahmin katmanlarıyla işlenmiş görüntülerden sürekli güncellenen bir örnek kümesi sunar. Ekipler bu örneklerle modelin ne gördüğünü gözden geçirebilir, çıktılarını inceleyebilir ve daha ayrıntılı incelenmesi gereken girdileri belirleyebilir.

Mevcut tahmin istatistikleri model görevine bağlıdır ve şunları içerebilir:

• Zaman içindeki işlenmiş görüntüler ve tahminler
• Ortalama model çıkarım süresi
• En sık tahmin edilen sınıflar
• Görüntü başına tahmin sayısı
• Tahmin güveni ve güven eğilimleri
• Tahmin boyutları
• Tahmin konumlarının uzamsal ısı haritaları

Bu sinyaller, güvenin düşmesi, sınıf dağılımındaki beklenmedik bir değişim veya tahminlerin görüntünün alışılmadık bölgelerinde ortaya çıkması gibi araştırılmaya değer değişiklikleri açığa çıkarabilir.

Güven, modelin emin olma düzeyini gösterir; doğruluğu değil. Ekipler model doğruluğunu değerlendirirken örnekleri incelemeli ve tahminleri gözden geçirilmiş etiketlerle karşılaştırmalıdır.

Üretim örneklerini daha iyi eğitim verilerine dönüştür#

Üretimden elde edilen içgörüler bir sonraki geliştirme döngüsünü besleyebildiğinde izleme daha değerli hâle gelir.

Bir örnek zor bir koşulu, alışılmadık bir nesneyi veya olası bir kapsama açığını ortaya çıkarırsa, gerekli izinlere sahip çalışma alanı üyeleri bu örneği doğrudan uyumlu bir veri kümesine kaydedebilir. Görüntü ve tahminleri standart veri kümesi alım iş akışından geçer; veriler eğitimde kullanılmadan önce etiketler gözden geçirilebilir.

Böylece birbirine bağlı bir iyileştirme döngüsü oluşur:

1. Veri kümeni kullanarak bir Ultralytics YOLO modelini eğit.
2. Modeli özel bir uç noktaya dağıt.
3. Uç nokta durumunu ve tahmin davranışını izle.
4. Üretimdeki yararlı veya sorunlu örnekleri incele.
5. Seçilen örnekleri bir veri kümesine kaydet ve gözden geçir.
6. Gerçek dünya koşullarından gelen verileri kullanarak modeli yeniden eğit ve yeniden dağıt.

Üretim gözlemlerini başka bir sistemde yalıtılmış bırakmak yerine ekipler, bu gözlemleri Ultralytics Platform'da zaten yönettikleri veri kümelerine ve modellere bağlayabilir.

Ek karmaşıklık yaratmadan operasyonel görünürlük için tasarlandı#

Üretim bilgisayarlı görü iş akışlarında genellikle dağıtım, metrikler, günlükler, model incelemesi ve veri yönetimi için ayrı sistemler kullanılır. Bu sistemler arasında geçiş yapmak incelemeleri yavaşlatabilir ve model davranışını gelecekteki iyileştirmelerle ilişkilendirmeyi zorlaştırabilir.

Ultralytics Platform bu aşamaları bir araya getirir. Ekipler, bağlamı birden fazla araçta yeniden oluşturmaya gerek kalmadan eğitimden dağıtıma geçebilir, uç nokta durumunu gözden geçirebilir, örneklenmiş tahminleri inceleyebilir ve yararlı örnekleri kaydedebilir.

Örneğin bir üretim ekibi, kusur tahminlerinin görüntünün beklenen bölgelerinde ortaya çıkıp çıkmadığını inceleyebilir. Bir lojistik ekibi, operasyonel koşullar değiştikçe sık tespit edilen sınıflardaki değişimleri gözden geçirebilir. Bir perakende ekibi, gecikmedeki artışı araştırıp uç nokta yapılandırmasının mı yoksa gelen görüntü boyutunun mu ilgilenilmesi gerektiğini belirleyebilir.

Her durumda izleme, ekiplerin “bir şey değişti” noktasından daha bilinçli bir sonraki adıma geçmesine yardımcı olur.

İzleme verileri ve uygunluk#

İstekler, gecikme, hatalar, durum denetimleri ve günlükler dâhil olmak üzere operasyonel izleme, dağıtım deneyiminden kullanılabilir.

Canlı tahmin istatistikleri ve geçici örnekler için izleme özellikli çalışma zamanı kullanan, hazır ve ücretli özel bir uç nokta gerekir. İzleme sekmesinin kullanılabilmesi için eski uç noktaların güncellenmesi gerekebilir.

Tahmin örnekleri ve istatistikleri sunum örneğinin belleğinde tutulur. Uç nokta durduğunda, yeniden başladığında, yeniden dağıtıldığında, kaynakları değiştiğinde veya modeli değiştirildiğinde bu veriler silinebilir. Uç noktayı değiştirmeden önce saklamak istediğin örnekleri bir veri kümesine kaydet.

Dağıtılmış modellerini izlemeye başla#

Ultralytics Platform Monitoring, ekiplere dağıtımın ötesindeki görüntü yapay zekâsını yönetmek için gereken görünürlüğü sağlar. Uç nokta metriklerini, günlükleri, durum denetimlerini, tahmin içgörülerini ve veri kümesi geri bildirimlerini tek bir iş akışında bir araya getirerek ekiplerin sorunları daha hızlı belirlemesine ve güvenilir üretim sistemlerine giden daha net bir yol oluşturmasına yardımcı olur.

Ultralytics Platform hesabında oturum aç, Deploy bölümünü aç ve durumunu ve performansını incelemek için hazır bir uç nokta seç. Özelliklerin kullanılabilirliği, tahmin istatistikleri ve veri saklama ayrıntılarını İzleme belgelerinde keşfet.