Ultralytics Platform İzleme: Görü yapay zekası dağıtımlarını yolunda tut

Bir bilgisayarlı görü modelini dağıtmak önemli bir dönüm noktasıdır ancak üretim başarısı bundan sonra ne olacağına bağlıdır. Trafik arttıkça ve gerçek dünya koşulları değiştiğinde ekipler, uç noktaların duyarlı, güvenilir ve yararlı kalmaya devam edip etmediğini bilmek zorundadır.

İzleme, Ultralytics Platform içinde ekiplere, verileri, eğitimi ve dağıtımı yönetmek için kullanılan aynı ortamdan dağıtılmış Ultralytics YOLO modelleri hakkında görünürlük sağlar. Operasyonel sağlığı takip et, tahmin eğilimlerini incele, sorunları gider ve yararlı üretim örneklerini gelecekteki model iyileştirmeleri için veriye dönüştür.

Görsel yapay zeka modeli izleme nedir?#

Görsel yapay zeka modeli izleme, ekiplerin dağıtılmış uç noktaların ve bunların tahminlerinin üretimde nasıl davrandığını anlamasına yardımcı olur.

Ultralytics Platform iki önemli soruyu ele alır:

• Uç nokta güvenilir bir şekilde çalışıyor mu? İstekleri, P95 gecikmesini, hata oranlarını, sağlık durumunu ve günlükleri takip et.
• Model ne görüyor ve ne tahmin ediyor? Örnek tahminleri ve desteklenen durumlarda sınıf sayıları, güven, çıkarım süresi ve tahmin konumları gibi istatistikleri incele.

Bu içgörüler birlikte, yalnızca uç nokta kullanılabilirliğinden daha net bir resim sunar. Trafik kalıpları, yanıt süreleri veya tahmin dağılımları değişirken bir uç nokta çevrimiçi kalmaya devam edebilir. İzleme, bu sinyallerin incelenmesini kolaylaştırır.

Dağıtım sağlığını bir bakışta anla#

Dağıt sayfası, uç noktaların için merkezi bir izleme paneli görevi görür. Genel bakış kartları, önceki 24 saat içindeki HTTP isteklerini, etkin dağıtımları, hata oranlarını ve P95 gecikmesini özetler.

Ekipler bu metriklerle şunları yapabilir:

• Talebi anla: Uç nokta trafiğinin artıp artmadığını, azalıp azalmadığını veya beklenmedik şekilde değişip değişmediğini gör.
• Performans sorunlarını belirle: Bir uygulamayı etkileyebilecek daha yavaş yanıtları araştırmak için P95 gecikmesini kullan.
• Hataları ortaya çıkar: Yüksek HTTP hata oranlarını tespit et ve nedenini teşhis etmek için dağıtım günlüklerini kullan.
• Kullanılabilirliği kontrol et: Tekil uç noktaların sağlıklı olup olmadığını ve yanıt verip vermediğini onayla.
• Dağıtımları karşılaştır: Uç noktaları kart, kompakt veya sıralanabilir tablo görünümleri aracılığıyla gözden geçir.

Hata oranı kartı, oran %5'i aştığında vurgulanır; bu da ekiplerin her uç noktayı ayrı ayrı incelemesini gerektirmeden operasyonel sorunların öne çıkmasına yardımcı olur.

Sağlık kontrolleri ve günlükler ile daha hızlı sorun gider#

Bir uç nokta sorunlar yaşadığında ekiplerin üst düzey bir metrikten fazlasına ihtiyacı vardır. Her hazır dağıtım bir sağlık göstergesi ve son günlüklere erişim içerir.

Sağlık kontrolleri, bir uç noktanın yanıt verip vermediğini gösterir ve yanıt gecikmesini bildirir. Ayrıca, üretim trafiği gönderilmeden önce sıfıra ölçeklenen bir uç noktanın ısınmasına yardımcı olabilirler.

Günlükler; zaman damgaları, önem düzeyleri, mesajlar ve HTTP ayrıntıları aracılığıyla ek bağlam sağlar. Bu, ekiplerin ayrı bir günlük kaydı arayüzüne hemen geçmeden başarısız istekleri, beklenmeyen yanıtları veya performans değişikliklerini araştırmasına yardımcı olur.

Metrikleri, sağlık kontrollerini ve günlükleri her dağıtıma bağlayarak Ultralytics Platform, bir sorunu tanımlamaktan onu anlamaya kadar daha doğrudan bir yol oluşturur.

Canlı tahmin davranışını incele#

İzleme yeteneğine sahip bir çalışma zamanı çalıştıran ücretli, çalışma süresiyle faturalandırılan özel uç noktalar, geçici örnekler ve tahmin istatistikleri içeren ek bir İzleme sekmesi sağlar.

Geçici örnekler galerisi, tahmin katmanlarıyla işlenmiş görüntülerin kayan bir örneğini sunar. Ekipler bu örnekleri, bir modelin ne gördüğünü hızlıca kontrol etmek, çıktılarını incelemek ve daha fazla incelemeyi hak eden girdileri belirlemek için kullanabilir.

Mevcut tahmin istatistikleri model görevine bağlıdır ve şunları içerebilir:

• Zaman içinde işlenen görüntüler ve tahminler
• Ortalama model çıkarım süresi
• Sık tahmin edilen sınıflar
• Görüntü başına tahminler
• Tahmin güveni ve güven eğilimleri
• Tahmin boyutları
• Tahmin konumlarının uzamsal ısı haritaları

Bu sinyaller; düşen güven, sınıf dağılımında beklenmeyen bir kayma veya bir görüntünün olağandışı kısımlarında görünen tahminler gibi incelemeye değer değişiklikleri ortaya çıkarabilir.

Güven, doğruluğu değil model kesinliğini gösterir. Ekipler model doğruluğunu değerlendirirken örnekleri incelemeli ve tahminleri incelenen etiketlerle karşılaştırmalıdır.

Üretim örneklerini daha iyi eğitim verilerine dönüştür#

İzleme, üretim içgörüleri bir sonraki geliştirme döngüsünü bilgilendirebildiğinde daha değerli hale gelir.

Bir örnek zorlu bir koşulu, olağandışı bir nesneyi veya potansiyel bir kapsam boşluğunu ortaya çıkarırsa uygun izinlere sahip çalışma alanı üyeleri bunu doğrudan uyumlu bir veri setine kaydedebilir. Görüntü ve tahminleri, veriler eğitim için kullanılmadan önce etiketlerin incelenebileceği standart veri seti alım iş akışından geçer.

Bu, bağlantılı bir iyileştirme döngüsü oluşturur:

1. Veri setini kullanarak bir Ultralytics YOLO modeli eğit.
2. Modeli özel bir uç noktaya dağıt.
3. Uç nokta sağlığını ve tahmin davranışını izle.
4. Yararlı veya sorunlu üretim örneklerini incele.
5. Seçilen örnekleri bir veri setinde kaydet ve gözden geçir.
6. Gerçek dünya koşullarının bilgilendirdiği verileri kullanarak yeniden eğit ve yeniden dağıt.

Üretim gözlemlerini başka bir sistemde izole bırakmak yerine ekipler, bunları Ultralytics Platform içinde halihazırda yönetilen veri setlerine ve modellere bağlayabilir.

Eklenen karmaşıklık olmadan operasyonel görünürlük için tasarlandı#

Üretim bilgisayarlı görü iş akışları genellikle dağıtım, metrikler, günlükler, model denetimi ve veri yönetimi için ayrı sistemler içerir. Bu sistemler arasında geçiş yapmak araştırmayı yavaşlatabilir ve model davranışını gelecekteki iyileştirmelerle bağlamayı zorlaştırabilir.

Ultralytics Platform bu aşamaları bir araya getirir. Ekipler; birden fazla araçta bağlamı yeniden oluşturmadan, eğitimden dağıtıma geçebilir, uç nokta sağlığını gözden geçirebilir, örneklenen tahminleri inceleyebilir ve yararlı örnekleri kaydedebilir.

Örneğin bir üretim ekibi, kusur tahminlerinin bir görüntünün beklenen alanlarında görünüp görünmediğini inceleyebilir. Bir lojistik ekibi, operasyonel koşullar evrildikçe sıkça tespit edilen sınıflardaki değişiklikleri gözden geçirebilir. Bir perakende ekibi bir gecikme artışını araştırabilir ve uç nokta yapılandırmasının veya gelen görüntü boyutunun ilgiye ihtiyacı olup olmadığını belirleyebilir.

Her durumda izleme, ekiplerin “bir şey değişti” noktasından daha bilgili bir sonraki adıma geçmesine yardımcı olur.

İzleme verileri ve uygunluk#

İstekler, gecikme, hatalar, sağlık kontrolleri ve günlükler dahil olmak üzere operasyonel izleme, dağıtım deneyiminden edinilebilir.

Canlı tahmin istatistikleri ve geçici örnekler, izleme yeteneğine sahip bir çalışma zamanına sahip hazır, ücretli bir özel uç nokta gerektirir. Eski uç noktaların, İzleme sekmesi kullanılabilir hale gelmeden önce güncellenmesi gerekebilir.

Tahmin örnekleri ve istatistikleri, sunum örneğinin belleğinde tutulur. Bir uç nokta durdurulduğunda, yeniden başlatıldığında, yeniden dağıtıldığında, kaynakları değiştirildiğinde veya modeli değiştirildiğinde temizlenebilirler. Uç noktayı değiştirmeden önce tutmak istediğin örnekleri bir veri setine kaydet.

Dağıtılmış modellerini izlemeye başla#

Ultralytics Platform İzleme, ekiplere görsel yapay zekayı dağıtımın ötesinde yönetmek için gereken görünürlüğü sağlar. Uç nokta metriklerini, günlüklerini, sağlık kontrollerini, tahmin içgörülerini ve veri seti geri bildirimini tek bir iş akışında birleştirerek ekiplerin sorunları daha hızlı tanımlamasına ve güvenilir üretim sistemlerine doğru daha net bir yol oluşturmasına yardımcı olur.

Ultralytics Platform oturum aç, Dağıt öğesini aç ve sağlığını ile performansını gözden geçirmek için hazır bir uç nokta seç. İzleme belgeleri içinde özellik kullanılabilirliğini, tahmin istatistiklerini ve veri saklama ayrıntılarını keşfet.