Ultralytics Platform'da dağıtılmış bilgisayarlı görü modellerini izleme

Görüntüleri ve videoları analiz eden bilgisayarlı görü modellerini test etmek, onları üretimde çalıştırmakla her zaman aynı şey değildir. Geliştirme sırasında bu tür modeller veya algoritmalar, koşulların denetimli ve öngörülebilir olduğu temiz ve iyi hazırlanmış veri kümelerinde test edilir.

Dağıtımdan sonra koşullar daha dinamik hâle gelir. Modeller, istek hacimlerinin değişebildiği, yanıt sürelerinin farklılaşabildiği ve zaman zaman hataların meydana gelebildiği gerçek dünya trafiğine maruz kalır.

Bu aşamada odak noktası; değişen koşullar altında erişilebilir, yanıt verebilir ve kararlı kalan uç noktalarla sistemin güvenilir biçimde çalışıp çalışmadığına kayar.

İzleme bu yüzden önemlidir. İstek hacmi, gecikme, hata oranları ve genel sistem sağlığı gibi ölçümler aracılığıyla dağıtılmış uç noktaların üretimde nasıl davrandığını net biçimde görmeni sağlar.

Bunu kolaylaştırmak için doğru araçlara sahip olmak modelin kendisi kadar önemli hâle gelir. Ultralytics yakın zamanda veriden eğitime, dağıtımdan izlemeye kadar tüm bilgisayarlı görü iş akışını bir araya getiren yeni uçtan uca ortamımız Ultralytics Platform'u tanıttı.

Şekil 1. İzleme özelliklerine sahip Ultralytics Platform dağıtım paneli (Kaynak)

İzleme doğrudan bu iş akışına entegre edildiğinden kullanıcılar, ayrı araçlara ihtiyaç duymadan uç nokta sağlığını izleyebilir, istek davranışını inceleyebilir ve güvenilir sistemler sürdürebilir. Bu makalede, Ultralytics Platform'u kullanarak dağıtılmış model uç noktalarını izleme ve üretim sistemlerinin sorunsuz çalışmasını sağlama yöntemlerini inceleyeceğiz. Haydi başlayalım!

Yapay zekâ modeli izlemesine genel bakış#

Yapay zekâ modeli yaşam döngüsünde izleme, bir model canlıya alınıp gerçek dünya isteklerini karşılamaya başladıktan sonra dağıtılmış sistemlerin nasıl davrandığını gözlemlemek anlamına gelir. Eğitim ve doğrulama, bir makine öğrenimi modelinin (ML modeli) hazırlanmış veri kümelerindeki performansını gösterirken izleme, dağıtılmış uç noktanın üretim ortamında nasıl çalıştığına odaklanır.

İzlemenin önemli bir parçası, güvenilirliği ve yanıt verebilirliği yansıtan sistem düzeyindeki ölçümleri takip etmektir. Gecikme ve çalışma süresi gibi ölçümler, sistemin gelen istekleri ne kadar iyi karşıladığını gösterir. Gecikme, bir isteği işleyip yanıt döndürmenin ne kadar sürdüğünü ölçerken çalışma süresi, uç noktanın ne kadar tutarlı biçimde erişilebilir kaldığını gösterir.

Bir diğer önemli konu, isteklerin nasıl işlendiğini görünür kılan gözlemlenebilirliktir. Dağıtılmış bir modele görüntü veya video karesi gibi bir girdi her gönderildiğinde bu girdi, bir çıkarım isteği olarak işlenir.

Günlükler bu istekleri zaman damgaları, yanıt süreleri ve durum kodları gibi ayrıntılarla birlikte kaydeder. Bu günlükler, isteklerin izini sürmeyi, sorunlarda hata ayıklamayı ve hatalar meydana geldiğinde bunları araştırmayı kolaylaştırır. Tekrarlanan hatalar, yavaş yanıtlar veya beklenmedik sistem davranışları gibi örüntüleri belirlemek için özellikle yararlıdır.

Ölçümleri ve günlükleri bir araya getiren izleme, kullanıcıların sistemlerinin üretimde nasıl çalıştığını anlamasına ve sorunlar ortaya çıktıkça bunlara hızla yanıt vermesine yardımcı olur.

Model performans ölçümleri ile sistem ölçümlerine genel bakış#

Üretim izlemeyi ayrıntılı incelemeden önce model performans ölçümleri ile sistem ölçümleri arasındaki farkı ele alalım.

Model izleme genellikle doğruluk, kesinlik, duyarlılık ve mAP (ortalama ortalama kesinlik) gibi değerlendirme ölçümleriyle, diğer adıyla model ölçümleriyle ilişkilendirilir. Bu ölçümler, model davranışını tanımlamak ve model tahminlerinin kalitesini değerlendirmek için, çoğunlukla üretim verileri veya girdi verileriyle ilişkili olarak kullanılır. Yeni verilerdeki uç durumları veya aykırı değerleri belirlemede özellikle yararlı olabilirler.

Ancak bu, dağıtılmış bir sistemi üretimde izlemekten farklıdır. Bu bağlamda izleme, model tahminlerini doğrudan değerlendirmek yerine sistemin nasıl çalıştığına odaklanır.

Dağıtım izleme, model ölçümleri yerine istek hacmi, gecikme, hata oranları ve çalışma süresi gibi sistem düzeyindeki sinyallere dayanır. Bu ölçümler; uç noktaların girdi verilerini nasıl işlediğini, ne kadar tutarlı yanıt verdiğini ve üretim ortamlarında nasıl çalıştığını görünür kılar.

Bilgisayarlı görü projelerinde model izlemenin rolü#

Şimdi, bilgisayarlı görü dağıtımlarında izleme sistemine duyulan ihtiyacı vurgulayan gerçek dünyadan bir örneğe bakalım.

İnşaat işçilerinin güvenlik kurallarına uyumunu izlemek için insan vücudu hareketlerini belirleyip analiz eden bir bilgisayarlı görü görevi olan poz tahminini kullanan bir görüntü işleme çözümü düşün. Model ilk kez dağıtıldığında böyle bir sistem, görüşün net ve senaryoların standart olduğu kontrollü koşullarda iyi performans gösterebilir.

Ancak gerçek inşaat sahaları ek karmaşıklıklar getirir. İstek hacimleri gün boyunca değişebilir, ağ koşulları tutarsız olabilir ve aynı anda birden fazla kamera veya uç nokta veri gönderiyor olabilir. Sistem gerektiği gibi izlenmiyorsa bu faktörler daha yavaş yanıtlara veya ara sıra hatalara yol açabilir.

Şekil 2. Bir inşaat sahasındaki işçileri izlemek için kullanılan poz tahmini (Kaynak)

Böyle bir üretim ortamında sistemin ne kadar güvenilir çalıştığını anlamak önem kazanır. İzleme; uç noktaların erişilebilir olup olmadığını, gelen isteklere ne kadar hızlı yanıt verdiğini ve zaman içinde trafiği ne kadar tutarlı işlediğini görünür kılar.

Örneğin gecikmedeki artış, yükün yükseldiğine veya kaynak kısıtlamalarına işaret edebilirken hata oranlarındaki artış, istek işleme ya da sistem kararlılığıyla ilgili sorunlara işaret edebilir. Günlükler, tek tek isteklerin nasıl işlendiğini ve hataların nerede oluştuğunu göstererek daha fazla bağlam sağlar.

Yapay zekâ meraklıları ve veri bilimcileri bu sinyalleri takip ederek sorunları erkenden belirleyebilir, sorun gidermeyi daha etkili biçimde yapabilir ve gerçek dünya koşulları değişirken sistemlerinin güvenilir şekilde çalışmayı sürdürmesini sağlayabilir.

Dağıtılmış görüntü işleme modellerini izlemek için Ultralytics Platform'u kullanma#

Birçok derin öğrenme iş akışında izleme; günlük kaydı, ölçümler ve sistem sağlığı için genellikle ayrı araçlarla yürütülür. Bu parçalı yapı, dağıtılmış uç noktaların üretimde nasıl çalıştığını net biçimde görmeyi zorlaştırabilir ve dağıtımları yönetmeyi karmaşıklaştırır.

Ultralytics Platform, veri alımı ve etiketlemeden eğitime, dağıtıma ve izlemeye kadar tüm bilgisayarlı görü iş akışını kapsayan birleşik bir ortamda izlemeyi doğrudan sunarak bu süreci kolaylaştırır.

Bu entegre yapı sayesinde kullanıcılar, harici günlük kaydı sistemleri veya ek panolar kurmadan dağıtılmış uç noktalarının gerçek dünya trafiğini nasıl işlediğini takip edebilir. Her şey tek bir yerde bulunur; böylece sistem davranışını gözlemlemek ve dağıtımların zaman içinde güvenilir kalmasını sağlamak kolaylaşır.

İzleme özelliklerine doğrudan Deploy sekmesinden erişilebilir. Kullanıcılar tek bir panodan temel ölçümleri takip edebilir, istek düzeyindeki davranışı analiz edebilir ve eğilimleri görselleştirebilir. Yerleşik görselleştirmeler, araçlar arasında geçiş yapmadan çözümlerin nasıl performans gösterdiğini anlamayı kolaylaştırır.

İzleme, dağıtım ve model yönetimini daha geniş iş akışı içinde bir araya getiren platform, karmaşıklığı azaltır. Böylece dağıtımları yönetmeye, sistem performansını optimize etmeye ve güvenilirliği sürdürmeye daha sorunsuz biçimde odaklanabilirsin.

Ultralytics Platform'un yerleşik izleme özellikleri#

Gerçek dünyadaki dağıtımlarda izleme, koşullar zaman içinde değişirken sistemlerin nasıl çalıştığını net biçimde görebilmeye bağlıdır. Birkaç ölçümü takip etmenin ötesine geçer; dağıtılmış uç noktaların farklı ortamlardaki davranışını anlamayı ve birden fazla dağıtımı etkili biçimde yönetmeyi içerir.

Bilgisayarlı görüdeki yaygın zorluklar konusunda görüntü işleme yapay zekâ topluluğundan gelen geri bildirimlerden ilham alan Ultralytics Platform, izlemeyi daha pratik ve ölçeklenebilir kılan çeşitli özellikler içerir.

Bu temel özelliklerden bazılarına genel bir bakış:

• Genel dağıtım görünürlüğü: Deploy sayfasında, dağıtım bölgelerini gösteren etkileşimli bir dünya haritası bulunur. Etkin ve devam eden uç noktalar için görsel göstergeler sunan harita, kullanıcıların coğrafi dağılımı ve bölgesel etkinliği izlemesini sağlar.
• Esnek pano görünümleri: Dağıtımlar panosu; kart görünümü, kompakt ızgara ve ad, bölge, durum ve istekler gibi sıralanabilir sütunlara sahip tablo görünümü dahil olmak üzere birden fazla görünüm modu sunarak yapılandırılmış izleme ve karşılaştırmayı destekler.
• Birden fazla uç noktanın izlenmesi: Pano, genel bakış kartları ve dağıtım listeleri kullanarak tüm dağıtımlardaki izleme verilerini bir araya getirir.
• Veri saklama politikaları: İzleme verileri belirli bir süre boyunca saklanır; ölçümler 30 gün, günlükler ise 7 gün boyunca kullanılabilir. Böylece yakın dönemdeki performans analizi ve hata ayıklama iş akışları desteklenir.
• Harici izleme desteği: Dağıtım uç noktaları Datadog, New Relic ve çalışma süresi izleme hizmetleri gibi harici araçlarla izlenebilir ya da özel izleme ve sağlık kontrolleri için API uç noktaları üzerinden erişilebilir.

Şimdi bu özelliklerden bazılarını daha ayrıntılı inceleyecek ve üretimde dağıtılmış uç noktaları izlemek için nasıl kullanılabileceklerini göreceğiz.

Ultralytics Platform kullanarak temel performans metriklerini izleme#

Bir model dağıtıldıktan sonra izleme, temel sistem metriklerini takip etmekle başlar. Doğruluk ve duyarlılık gibi metrikler geliştirme sırasında faydalı olsa da üretim izleme; yanıt süresi ve hata oranları gibi sistem düzeyindeki sinyallere odaklanır. Bu sinyaller, uç noktaların gerçek dünya trafiğini ne kadar güvenilir biçimde işlediğine dair ölçülebilir bilgiler sunar.

Ultralytics Platform, uç nokta etkinliklerini ve sistem davranışını net biçimde görmeni sağlayan merkezi bir kontrol paneli sunar. Özellikle Dağıtım kontrol panelinde, uç noktaların nasıl kullanıldığını ve gelen isteklere nasıl yanıt verdiğini gösteren dört temel metrik bulunur.

Bu metriklere daha yakından bakalım:

• Toplam istek: 24 saatlik bir dönemde tüm uç noktalara yapılan toplam istek sayısıdır. Kullanım kalıplarını ve genel talebi belirlemeye yardımcı olur.
• Etkin dağıtımlar: Şu anda çalışan ve isteklere yanıt veren uç noktaların sayısıdır.
• P95 gecikmesi: İsteklerin %95'inin tamamlandığı yanıt süresidir. Daha yavaş yanıtları da hesaba katarak performansa dair daha gerçekçi bir görünüm sunar.
• Hata oranı: Toplam istek sayısı içindeki başarısız isteklerin yüzdesidir. Bu metrik, sorunları belirlemeye yardımcı olur ve anormallikleri tespit etmek için kullanılabilir.

Basitçe ifade etmek gerekirse bu metrikler, dağıtılmış uç noktaların üretimde nasıl çalıştığını net biçimde gösterir. Ekipler ve bireyler, kullanım kalıplarını analiz ederek trafik dağılımını anlayabilir, en yoğun yük dönemlerini belirleyebilir ve kullanım arttıkça sistemlerin duyarlı ve güvenilir kalmasını sağlayabilir.

Günlükler aracılığıyla model dağıtım davranışını anlama#

Metrikler sistem performansına üst düzey bir bakış sunarken günlükler, dağıtılmış uç noktaların tek tek istekleri nasıl işlediğini daha ayrıntılı gösterir. Günlükler, bir uç noktaya gönderilen her isteği ve buna karşılık gelen yanıtı kaydeder.

Günlükler sorunları takip etmek, başarısızlıkları incelemek ve isteklerin nasıl işlendiğini anlamak için kullanışlıdır. Ultralytics Platform'da ayrıntıları ve günlükleri görüntülemek için istediğin dağıtımı seçebilirsin.

Şekil 3. Ultralytics Platform'daki günlüklerden bir örnek (Kaynak)

Platformdaki her günlük kaydı, her istek sırasında ne olduğunu anlamayı kolaylaştıran yapılandırılmış bir biçimde görüntülenir. Her kayıt, olayın önemini belirten bir önem düzeyi ve olayın gerçekleştiği zamanı gösteren bir zaman damgası içerir.

Kayıtta ayrıca olayı açıklayan bir mesaj ve durum kodları ile gecikme gibi HTTP ile ilgili ayrıntılar bulunur. Bu bilgiler istekleri izlemeye, sorun gidermeye ve hataları daha etkili biçimde ayıklamaya yardımcı olur. Ayrıca günlükler önem düzeyine göre gruplandırılır; böylece kullanıcılar ilgilenilmesi gereken dağıtımlara öncelik verebilir.

Ultralytics Platform'da uç nokta sağlığını ve güvenilirliğini analiz etme#

İzleme, dağıtılmış uç noktaların düzgün çalışıp çalışmadığı, zamanında yanıt verip vermediği ve istekleri hatasız biçimde tutarlı olarak işleyip işlemediği dâhil olmak üzere genel sağlık durumunu anlamayı da kapsar. Ultralytics Platform, her dağıtımın sağlık durumunu net biçimde göstererek uç noktaların beklendiği gibi çalıştığını doğrulamayı kolaylaştırır.

Platformda, her dağıtım kartında gösterilen görsel sağlık göstergeleri bulunur.

Örneğin yeşil gösterge, uç noktanın sağlıklı olduğunu ve normal yanıt verdiğini gösterirken kırmızı gösterge sorunlara veya hizmet kesintisine işaret eder. Dönen simge, sistemin dağıtımın durumunu etkin biçimde kontrol ettiğini belirtir.

Uç noktaların sağlık durumunu zaman içinde takip ederek sorunları erken tespit etmek, performansı tutarlı tutmak ve üretimde çalışan uygulamalar için istikrarlı bir deneyim sağlamak mümkün olur.

İzleme verileri ile performans iyileştirme arasındaki bağlantı#

Model izleme yalnızca metrikleri takip etmekten ibaret değildir. Zaman içinde sürekli iyileştirmeyi destekleyen bir geri bildirim döngüsü oluşturur. Uç noktalar gerçek dünya trafiğini işlerken metriklerde ve günlüklerde beliren kalıplar; artan gecikme, yükselen hata oranları veya tutarsız sistem davranışı gibi sorunları açığa çıkarabilir.

İzleme, ilgilenilmesi gereken alanları öne çıkarır. Örneğin sürekli yüksek gecikme, kaynakların daha iyi tahsis edilmesi veya ölçeklendirme gerektiğini gösterebilir; hata oranındaki artış ise istek işleme ya da sistem kararlılığıyla ilgili sorunlara işaret edebilir.

Bu sorunlar belirlendikten sonra güvenilirliği artırmak için adımlar atılabilir. Bu adımlar altyapıyı ayarlamayı, kaynakları ölçeklendirmeyi veya isteklerin işlenme biçimindeki sorunları gidermeyi içerebilir. Bu değişikliklerden sonra performansın iyileştiğini doğrulamak için sistemler izlenmeye devam edilebilir.

İzlemeyi sürekli iyileştirmeyle ilişkilendirerek kullanım arttıkça ve koşullar değiştikçe sağlam sistemleri sürdürebilirsin.

Gerçek dünyadan bir örneği inceleme: Havacılıkta bagaj elleçlemesini izleme#

Gerçek dünyadaki bir senaryoda izlemenin etkisini daha iyi anlamak için, izlemenin havacılık yer operasyonlarının otomasyonuna nasıl uygulandığını inceleyelim.

Uçakların yerdeki operasyonları sırasında bagaj yükleme ve boşaltma işlemlerini izlemek üzere tasarlanmış bir görüntü işleme sistemi düşün. Bu düzende, bagajların konveyör bantlarından veya elleçleme ekipmanlarından düşüp düşmediğini tespit etmek için Ultralytics YOLO26 gibi bir nesne algılama modeli kullanılabilir.

Testler ve erken dağıtım sırasında gerçek zamanlı sistem iyi performans gösterebilir, bagajları doğru biçimde tanımlayıp hızla yanıt verebilir.

Ancak canlı bir havalimanı ortamında koşullar çok daha az öngörülebilirdir. Gün boyunca aydınlatma değişir, birden fazla kamera aynı anda veri akışı sağlar ve yoğun dönemlerde istek hacmi artar. Bu etkenler gecikmeyi yükseltebilir veya hatalara yol açabilir; sistemi göremiyorsan bu tür sorunlar kolayca fark edilmeyebilir.

İzleme bu noktada değer kazanır. Ekipler, ayrıntılı günlüklerin yanı sıra istek hacmi, gecikme ve hata oranları gibi metrikleri takip ederek bir uç noktanın ne zaman yavaşladığını veya başarısız olduğunu hızla görebilir. Yoğun saatlerde gecikmenin artması kaynakları ölçeklendirme gereksinimine işaret edebilirken hatalardaki ani artış belirli kameralarla veya istek işlemeyle ilgili sorunları gösterebilir. Bu sinyallere göre harekete geçmek, koşullar değişse bile bagaj elleçlemesinin doğru biçimde izlenebilmesi için sistemin güvenilir kalmasına yardımcı olur.

Önemli çıkarımlar#

Dağıtılmış bilgisayarlı görü modelleri, geliştirme ortamının kontrollü koşullarından çıkıp gerçek dünya trafiğini işlemeye başladığında güvenilir kalmalarını sağlayan şey izlemedir. İzleme; ayrıntılı günlüklerle birlikte istek hacmi, gecikme, hata oranları ve çalışma süresi gibi sistem düzeyindeki sinyallere odaklanarak sorunları erken tespit etmek ve üretim sistemlerinin sorunsuz çalışmasını sürdürmek için gereken görünürlüğü sağlar.

İzlemeyi doğrudan dağıtım iş akışına entegre eden Ultralytics Platform, ayrı araçlara ihtiyaç duymadan uç nokta sağlığını takip etmeyi, istek davranışını incelemeyi ve güvenilir sistemleri sürdürmeyi kolaylaştırır. Verileri, eğitimi, dağıtımı ve izlemeyi tek bir yerde bir araya getiren platform, ekiplerin denemelerden güvenilir gerçek dünya dağıtımlarına geçmesine yardımcı olur.

Büyüyen topluluğumuza katıl ve görüntü işleme yapay zekâsı hakkında daha fazla bilgi edinmek için GitHub depomuzu incele. Bugün görüntü işleme yapay zekâsıyla geliştirmeye başlamak için lisans seçeneklerimize göz at. Üretimde yapay zekânın ve sağlık hizmetlerinde yapay zekânın geleceği nasıl şekillendirdiğini çözüm sayfalarımızı ziyaret ederek keşfet.