Ultralytics bilgisayar görme modellerinin devreye alınmasını nasıl kolaylaştırıyor?

Ultralytics , yıllardır bilgisayar görme topluluğuyla Ultralytics , görsel yapay zekayı herkes için daha erişilebilir hale getiren modeller ve araçlar Ultralytics . Ultralytics ile, veri kümesi yönetimi ve etiketlemeden model eğitimi, doğrulama ve devreye almaya kadar her şeyi kapsayan tüm bilgisayar görme geliştirme iş akışını tek bir bütünleşik ortamda bir araya getirerek bu alandaki çalışmalarımızı bir adım daha ileriye taşıyoruz.

Özellikle, bilgisayar görme modellerinin devreye alınmasını kolaylaştırmaktan büyük heyecan duyuyoruz. Bilgisayar görme teknolojisi gerçek dünyadaki uygulamalara giderek daha fazla girmeye devam etse de, kontrollü ortamların dışında görüntü ve videoları analiz etmek hâlâ karmaşık bir süreçtir. 

Koşulların öngörülebilir olduğu test ortamlarının aksine, gerçek dünya senaryoları değişken ışık koşulları, değişen girdi verileri ve öngörülemez iş yüklerini içerir; bu da dağıtımı, görüntü işleme iş akışının en zorlu aşamalarından biri haline getirir.

Dağıtım, bir modeli kullanıma sunmaktan ibaret değildir. Gerçek dünya verilerini işleyebilecek süreçlerin kurulmasını ve kullanım arttıkça ve projeler büyüdükçe her şeyin sorunsuz bir şekilde çalışmasını sağlamayı gerektirir. 

Ekipler ayrıca track etmeli ve zaman içinde güvenilirliği sürdürmelidir. Bu durum genellikle test, entegrasyon, devreye alma ve izleme için farklı yapay zeka araçları arasında geçiş yapmayı gerektirir; bu da model geliştirme sürecini yavaşlatabilir ve gereksiz karmaşıklığa yol açabilir.

İş akışları sonunda parçalanmış hale gelir. Ultralytics bu süreci tek bir çatı altında birleştirir ve basitleştirir.

Tek bir ortamda model sunumu, test etme ve izleme için yerleşik destek sağlar. Ekipler, tarayıcı tabanlı çıkarım yöntemini kullanarak modelleri doğrulayabilir, paylaşılan çıkarım hizmetleri aracılığıyla bunları uygulamalara entegre edebilir ve performans izleme özelliklerine sahip özel uç noktalara dağıtabilir.

Bu makalede, Ultralytics bilgisayar görme modellerinin devreye alınmasını – test ve entegrasyondan üretim ortamına devreye alma ve izlemeye kadar – nasıl yeniden tanımladığını inceleyeceğiz. Hadi başlayalım!

Bilgisayar görme modellerinin devreye alınmasına genel bakış

Makine öğrenimi yaşam döngüsünde, model dağıtımı, bir modelin deneme aşamasından gerçek dünyadaki kullanıma geçtiği aşamadır. Derin öğrenme ve evrişimli sinir ağları kullanılarak oluşturulan bilgisayar görme modelleri için bu, genellikle bu modellerin görüntüleri ve videoları gerçek zamanlı olarak işleyebilecek hale getirilmesi anlamına gelir.

Bu modeller devreye alındıktan sonra, genellikle boyutlandırma, normalleştirme veya biçimlendirme gibi ön işleme adımlarından geçen yeni verileri alır. İşlenen veriler daha sonra modele aktarılır; model ise eğitim sırasında öğrendiği kalıpları uygulayarak yüksek hassasiyetli tahminler üretir.

Kullanım durumuna bağlı olarak, bu farklı bilgisayar görme görevlerini içerebilir. Örneğin, Ultralytics gibi Ultralytics Ultralytics YOLO , nesne algılama, görüntü sınıflandırma, örnek segmentasyonu, duruş tahmini ve yönlendirilmiş sınırlayıcı kutu (OBB) algılama gibi çok çeşitli görme görevlerini destekler.

Bunun gerçek dünya uygulamalarında işlevsel hale gelmesi için, modellerin genellikle hem ön işlemeyi hem de çıkarım sürecini verimli bir şekilde yürütebilen sistemlere entegre edilmesi gerekir. İşte bu noktada dağıtım altyapısı hayati önem kazanır.

Üretim ortamlarında modellere genellikle REST API'leri veya model sunma sistemleri aracılığıyla erişilir. Bu arayüzler, uygulamaların programlı bir şekilde veri göndermesine ve tahminler almasına olanak tanıyarak, gerçek zamanlı görsel anlamaya dayanan harici uygulamalar, IoT cihazları veya robotik sistemlerle entegrasyonu kolaylaştırır.

Geleneksel bilgisayar görme dağıtım araçlarının sınırlamaları

Bilgisayar görme modellerinin devreye alınması kulağa basit gelebilir, ancak bugüne kadar pratikte durum oldukça farklıydı. Yaygın bir senaryoyu ele alalım: Veriler önce kameralardan veya sensörlerden toplanır, çıkarım için modele gönderilir ve ardından tahminler olarak uygulamaya geri gönderilir.

Gerçekte, bu adımların her biri genellikle ayrı araçlar ve hizmetler tarafından yürütülür. Bir sistem veri toplama işini üstlenirken, bir diğeri model sunumunu yönetir; ölçeklendirme, izleme ve günlük kaydı için ise başka araçlar kullanılır. Bu bileşenlerin birbirine bağlı kalmasını ve güvenilir bir şekilde çalışmasını sağlamak, kısa sürede karmaşık bir hale gelebilir.

Kullanım arttıkça bu karmaşıklık da artar. Altyapıyı yönetmek, bağımlılıkları ele almak ve uçtan uca iş akışı boyunca tutarlı bir performans sağlamak, geliştirme sürecini yavaşlatabilir ve bilgisayar görme modellerinin gerçek dünya uygulamalarına entegre edilmesini zorlaştırabilir.

Ultralytics , bu bileşenleri tek ve bütünleşik bir ortamda bir araya getirir. Bu, tüm dağıtım iş akışını daha uyumlu bir şekilde yönetme imkanı sunarken, aynı zamanda büyük ölçekte performans ve güvenilirliği de destekler.

Ultralytics tarafından sunulan model dağıtım seçenekleri

Ultralytics , model dağıtım sürecini tek bir çatı altında toplamakla kalmaz, aynı zamanda modellerin dağıtım ve kullanım şekillerine de esneklik kazandırır.

Bilgisayar görme modellerinin devreye alınma sürecinin farklı aşamalarını desteklemek amacıyla platform dört seçenek sunmaktadır: anında çıkarım özelliğine sahip tarayıcı tabanlı testler, geliştirme amaçlı API’ler aracılığıyla paylaşılan çıkarım, küresel bölgelerdeki ölçeklenebilir üretim dağıtımları için özel uç noktalar ve modelleri harici altyapı veya uç cihazlarda çalıştırmak üzere model dışa aktarma.

Öyleyse, bu seçeneklerin her birinin nasıl işlediğine daha yakından bakalım.

"Tahmin" sekmesini kullanarak modelleri hızla doğrulayın

Bir modeli üretime geçirmeden önce, modelin yeni ve daha önce görülmemiş veriler üzerinde nasıl bir performans gösterdiğini anlamak önemlidir. Ultralytics , herhangi bir kurulum, altyapı veya bağımlılık gerektirmeden doğrudan tarayıcıda çıkarım işlemi gerçekleştirmenizi sağlayan yerleşik bir "Predict" sekmesi içerir.

"Tahmin" sekmesi, model doğrulama işlemini hızlı ve etkileşimli hale getirir. Görüntü yükleyebilir, önceden yüklenmiş örnekleri kullanabilir veya web kamerasıyla girdi yakalayabilirsiniz; veriler sağlandığında çıkarım işlemi otomatik olarak başlar. 

Sonuçlar, görsel katmanlar, güvenilirlik puanları ve ayrıntılı çıktılarla anında görüntülenir; böylece modelin nasıl çalıştığını net bir şekilde görebilirsiniz.

Bu sayede, birkaç tıklamayla dağıtım aşamasına geçmeden önce tek bir arayüz üzerinden farklı girdi seçeneklerini deneyebilir, parametreleri ayarlayabilir ve performansı değerlendirebilirsiniz.

Test veya hafif kullanım amacıyla paylaşımlı çıkarımların çalıştırılması

Diyelim ki bir model eğittiniz ve bunu "Tahmin" sekmesini kullanarak doğruladınız. Genellikle bir sonraki adım, bu modeli bir uygulamaya veya iş akışına entegre etmeye başlamaktır. 

Ultralytics , altyapı kurmak veya sunucuları yönetmek yerine, basit REST API'leri aracılığıyla modelinize veri göndermenize ve tahminler almanıza olanak tanıyan paylaşımlı çıkarım hizmetleri sunar.

Arka planda, paylaşımlı çıkarım işlemi birkaç ana bölgede yer alan çoklu kiracılı bir sistem üzerinde yürütülür; bu sistemde istekler otomatik olarak en yakın kullanılabilir hizmete yönlendirilir. Bu, farklı konumlardaki kullanıcıların modellere tutarlı bir şekilde erişebilmesini sağlarken, aynı zamanda hızlı bir performansın korunmasına da yardımcı olur.

Standart HTTP istekleri kullanarak veriler gönderebilir ve karşılığında yapılandırılmış çıktılar alabilirsiniz; bu sayede modelleri uygulamalara, komut dosyalarına veya otomasyon iş akışlarına kolayca entegre edebilirsiniz. Bu yapı, daha ölçeklenebilir üretim ortamlarına geçmeden önce geliştirme, test, entegrasyon veya daha hafif kullanımlar için mükemmel bir seçenektir.

Özel uç noktalar aracılığıyla modelleri küresel olarak dağıtın

Bir model üretime hazır hale geldiğinde, gerçek dünyadaki veri akışını güvenilir bir şekilde ve büyük ölçekte işleyebilmelidir. Ultralytics , modellerin 43 küresel bölgede tek kiracılı hizmetler olarak çalıştığı özel uç noktalarla bunu destekler. Son kullanıcılara daha yakın bir yerde dağıtım yapmak, gecikmeyi azaltmaya ve farklı konumlarda tutarlı bir performans sağlamaya yardımcı olur.

Her uç nokta, kendisine tahsis edilmiş hesaplama kaynakları ve çıkarım istekleri için benzersiz bir URL ile çalışır. Bu düzeyde kontrol, hafif kullanım senaryolarından daha fazla hesaplama kaynağı gerektiren, yüksek verimli uygulamalara kadar, performans ihtiyaçlarına göre dağıtımları kolayca ayarlamayı sağlar.

Bununla birlikte, özel uç noktalar, gelen trafiğe göre kaynakları ayarlayan otomatik ölçeklendirme özelliği sayesinde değişen iş yüklerini kendi başlarına yönetmek üzere tasarlanmıştır. Bu uç noktalar, talebin yüksek olduğu dönemlerde kapasitelerini artırır ve kullanım azaldığında azaltır. Varsayılan olarak etkinleştirilmiş olan "sıfıra ölçeklendirme" özelliği sayesinde, atıl durumdaki uç noktalar otomatik olarak kapatılır ve yeni istekler geldiğinde yeniden başlatılır; böylece manuel müdahaleye gerek kalmadan kaynak kullanımı optimize edilir.

Ultralytics ile modelinizi kolayca dışa aktarın

Günümüzde, giderek daha fazla uygulama akıllı telefonlar, kameralar ve gömülü sistemler gibi cihazlarda modelleri doğrudan çalıştırmaya dayandığından, uç yapay zeka giderek daha önemli hale gelmektedir. Modelleri yerel olarak çalıştırmak, veri gizliliği gerekliliklerinin karşılanmasına da yardımcı olabilir; zira görüntüler veya video akışları gibi hassas veriler, harici sunuculara gönderilmeden doğrudan cihaz üzerinde işlenebilir.

Bu senaryolarda, modellerin Ultralytics dışında çalıştırılması gerektiğinden, model dışa aktarma işlemi dağıtım sürecinin hayati bir parçası haline gelir. Ultralytics YOLO genellikle Python PyTorch kullanılarak eğitilir ve daha sonra ONNX, TensorRT, CoreML ve OpenVINO dahil olmak üzere 17'den fazla farklı biçime aktarılabilir. 

Bu geniş format yelpazesi, yüksek performanslı grafik işlem birimlerinden (GPU) mobil ve gömülü cihazlara kadar çeşitli donanımlarla uyumluluk sağlar. Buna ek olarak, dışa aktarma özelliği belirli ortamlar için performans ayarlaması yapılmasına olanak tanır. 

Biçime bağlı olarak, modeller daha yüksek çıkarım hızlarına ulaşabilir; örneğin TensorRT ile geliştirilmiş GPU TensorRT ONNX OpenVINO ile optimize edilmiş CPU gibi. FP16 ve INT8 niceleme gibi seçenekler, model boyutunu daha da küçültebilir ve iş hacmini artırabilir; bu da özellikle uç cihaz dağıtımları için yararlıdır.

Ultralytics veri aktarımı iş akışının doğrudan bir parçası olarak tasarlanmıştır; bu sayede sadece birkaç tıklamayla optimize edilmiş modeller hızlı bir şekilde oluşturulabilir. Ekipler, ek yük yaratmadan eğitim aşamasından harici sistemlerde modelleri çalıştırma aşamasına geçebilirler.

Doğru model dağıtım seçeneğini belirleme

Ultralytics 'daki her dağıtım seçeneği, ilk test aşamasından üretim ortamında kullanıma kadar iş akışının farklı aşamalarını destekler. İşte her bir seçeneği ne zaman kullanabileceğinizin genel bir özeti:

• "Tahmin" sekmesi: Bu sekme genellikle, eğitim veya ince ayar işlemlerinin hemen ardından, tarayıcı tabanlı çıkarım kullanarak bir modelin yeni veriler üzerinde nasıl bir performans gösterdiğini doğrulamak istediğinizde kullanılır.
• Ortak çıkarım: Bu aşamada, modeller API'ler aracılığıyla uygulamalara entegre edilebilir; bu sayede geliştirme sürecinde gerçek dünya etkileşimlerini test etmek mümkün hale gelir.
• Özel uç noktalar: Bunlar, modellerin tutarlı performans, özel kaynaklar ve küresel bölgelere yayılma yeteneğine ihtiyaç duyduğu üretim ortamındaki dağıtımlar için kullanılır.
• Model dışa aktarma: Modellerin platform dışında çalıştırılması gerektiğinde, bunları dışa aktarma seçeneği sayesinde uç cihazlara, mobil uygulamalara veya özel altyapılara dağıtım yapılabilir.

Ekipler genellikle bu aşamaları tek tek tamamlar; doğrulamadan entegrasyona ve son olarak da üretim ortamına geçişe kadar tüm süreçleri platformun içinde gerçekleştirir.

Ultralytics aracılığıyla devreye alınmış modellerin izlenmesi

Uygulama süreci ne kadar önemli olsa da, veri işleme süreci bununla bitmez. Bir model üretim ortamında çalışmaya başladığında, zaman içinde güvenilir bir şekilde çalışmasını sağlamak için sürekli izleme hayati önem taşır.

Ultralytics , ekiplere görsel yapay zeka modellerinin zaman içinde nasıl davrandığına dair net bir görünürlük sağlayan yerleşik izleme araçları sunarak, daha yapılandırılmış bir makine öğrenimi operasyonları (MLOps) iş akışını destekler.

Dağıtım sayfası, toplam istek sayısı, aktif dağıtımlar, yanıt gecikmesi ve hata oranları gibi temel metrikleri izleyen bir gösterge paneli içerir. Bu bilgiler, ekiplerin kullanım alışkanlıklarını anlamasına, sistemin yanıt hızını değerlendirmesine ve farklı iş yüklerinde düşük gecikmeli performans sağlanmasına yardımcı olur.

Her bir özel uç nokta, ayrı dağıtım görünümleri aracılığıyla ayrıntılı gözlemlenebilirlik de sağlar. Buna günlük dosyalarına erişim, model durum bilgisi ve gerçek zamanlı performans verileri dahildir. Günlük dosyaları, sorunları gidermek, başarısız istekleri izlemek ve bağımlılıklar veya altyapıyla ilgili olası sorunları tespit etmek için kullanılabilir.

Üretim ortamları geliştikçe, değişen girdi verileri, ölçeklendirme talepleri veya değişen kullanım alışkanlıkları gibi faktörler modelin doğruluğunu ve sağlamlığını etkileyebilir. Performans göstergelerini sürekli olarak izleyerek ekipler, detect edebilir, darboğazları belirleyebilir ve tutarlı ve güvenilir bir model sunumunu sürdürmek için model optimizasyonu veya kaynak ayarlamaları gibi düzeltici önlemler alabilir.

Bilgisayar görme modellerinin dağıtımlarına ölçeklenebilirlik özelliği eklemek

Bilgisayar görme sistemlerinin ölçeklendirilmesi, geleneksel olarak birbiriyle uyumlu çalışmak üzere tasarlanmamış iş akışlarını ve çerçeveleri bir araya getirmek anlamına gelmiştir. Veri akışları, eğitim döngüleri, dağıtım altyapısı ve izleme sistemleri genellikle birbirinden ayrı yerlerde bulunur ve bu da her aşamada sorunlara yol açar.

Asıl zorluk sadece modeller oluşturmak değil, bunları sürekli işler halde tutmaktır. Verilerden üretim aşamasına geçmek, yeni girdilere uyum sağlamak, artan talebi karşılamak ve hız kesmeden sürekli iyileştirme yapmak.

Ultralytics öne çıkan özelliği, bu akışın Ultralytics içine entegre edilmiş olmasıdır. Her aşamayı ayrı bir adım olarak ele almak yerine, bunları aynı ortamda modellerin geliştirilebileceği, devreye alınabileceği, izlenebileceği ve güncellenebileceği kesintisiz bir döngü halinde birbirine bağlar.

Bu dönüşüm, ekiplerin büyüme şeklini değiştiriyor. Artık mesele araçların veya altyapının koordinasyonu değil, sistemler büyüdükçe ivmeyi sürdürmek.

Önemli çıkarımlar

Bilgisayar görme modelleri gibi makine öğrenimi modellerini gerçek dünya uygulamalarına entegre etmek, bu modellerin güvenilir, ölçeklenebilir ve yönetimi kolay olmasını gerektirir. Ultralytics , model sunumu, dağıtım ve izleme gibi çeşitli işlevleri tek bir bütünleşik ortamda bir araya getirerek bu süreci basitleştirir. Esnek dağıtım seçenekleri ve yerleşik araçlar sayesinde ekipler, deneme aşamasından üretim aşamasına daha hızlı ve daha az karmaşıklıkla geçebilir.

Daha fazla bilgi edinmek için topluluğumuzu ziyaret edin ve GitHub depomuzu inceleyin. Sağlık sektöründe yapay zeka ve lojistikte bilgisayar görme gibi çeşitli uygulamaları görmek için çözüm sayfalarımızı inceleyin. Lisans seçeneklerimizi keşfedin ve bugün geliştirmeye başlayın!