Ultralytics Platform, bilgisayarlı görü modeli dağıtımını nasıl basitleştiriyor

Ultralytics, yıllardır bilgisayarlı görü topluluğuyla birlikte çalışarak, görü yapay zekasını herkes için daha erişilebilir kılan modeller ve araçlar yaratıyor. Ultralytics Platform ile tüm bilgisayarlı görü geliştirme iş akışını veri kümesi yönetimi ve etiketlemeden model eğitimine, doğrulamaya ve dağıtıma kadar her şeyi kapsayan tek bir birleşik ortama getirerek bunu bir adım öteye taşıyoruz.

Özellikle, bilgisayarlı görü modeli dağıtımını kolaylaştırmaktan heyecan duyuyoruz. Bilgisayarlı görü gerçek dünya uygulamalarında yerini almaya devam ettikçe, görüntü ve videoları kontrollü ortamların dışında analiz etmek hala karmaşık bir süreçtir.

Koşulların öngörülebilir olduğu test kurulumlarının aksine, gerçek dünya senaryoları değişen aydınlatma, farklı girdiler ve öngörülemeyen iş yükleri içerir; bu da dağıtımı görü iş akışının en zorlu kısımlarından biri haline getirir.

Dağıtım, bir modeli sadece kullanıma sunmaktan daha fazlasını gerektirir. Gerçek dünya verilerini işleyebilecek süreçlerin kurulmasını ve kullanım arttıkça ve projeler büyüdükçe her şeyin sorunsuz çalışmasını sağlamayı gerektirir.

Ekiplerin ayrıca performansı izlemesi ve zaman içinde güvenilirliği koruması gerekir. Bu genellikle test, entegrasyon, dağıtım ve izleme için farklı yapay zeka araçları arasında geçiş yapmak anlamına gelir ki bu da model geliştirmeyi yavaşlatabilir ve gereksiz karmaşıklık ekleyebilir.

İş akışları parçalanmış hale gelir. Ultralytics Platform bu süreci birleştirir ve basitleştirir.

Tek bir ortamda model sunumu, test etme ve izleme için yerleşik destek sağlar. Ekipler, tarayıcı tabanlı çıkarımı kullanarak modelleri doğrulayabilir, bunları paylaşılan çıkarım hizmetleri aracılığıyla uygulamalara entegre edebilir ve performans izleme yeteneklerine sahip özel uç noktalara dağıtabilir.

Şekil 1. Ultralytics Platform içindeki dağıtım sayfasına bir bakış (Kaynak)

Bu makalede, Ultralytics Platform'un test ve entegrasyondan üretim dağıtımı ve izlemeye kadar bilgisayarlı görü model dağıtımını nasıl yeniden tanımladığını keşfedeceğiz. Hadi başlayalım!

Link to this sectionBilgisayarlı görü modeli dağıtımına genel bakış#

Bir makine öğrenimi yaşam döngüsünde model dağıtımı, bir modelin deneme aşamasından gerçek dünya kullanımına geçtiği aşamadır. Derin öğrenme ve evrişimli sinir ağları kullanılarak oluşturulan bilgisayarlı görü modelleri için bu, genellikle onları görüntüleri ve videoları gerçek zamanlı olarak işleyebilecekleri şekilde sunmak anlamına gelir.

Dağıtıldıktan sonra bu modeller, genellikle yeniden boyutlandırma, normalleştirme veya biçimlendirme gibi ön işleme adımlarından geçen yeni verileri alır. İşlenen veriler daha sonra, yüksek hassasiyetli tahminler üretmek için eğitim sırasında öğrenilen kalıpları uygulayan modele iletilir.

Kullanım durumuna bağlı olarak, bu farklı bilgisayarlı görü görevlerini içerebilir. Örneğin, Ultralytics YOLO26 gibi Ultralytics YOLO modelleri; nesne algılama, görüntü sınıflandırma, örnek segmentasyonu, poz tahmini ve yönlendirilmiş sınırlayıcı kutu (OBB) algılama dahil olmak üzere çok çeşitli görü görevlerini destekler.

Bunu gerçek dünya uygulamalarında pratik hale getirmek için modellerin genellikle hem ön işlemeyi hem de çıkarımı verimli bir şekilde yönetebilen sistemlere entegre edilmesi gerekir. İşte dağıtım altyapısının temel hale geldiği nokta burasıdır.

Üretim ortamlarında modellere genellikle REST API'ler veya model sunma sistemleri aracılığıyla erişilir. Bu arayüzler, uygulamaların programatik olarak veri gönderip tahmin almasını sağlayarak, gerçek zamanlı görsel anlama gerektiren harici uygulamalar, IoT cihazları veya robotik sistemlerle entegrasyonu kolaylaştırır.

Link to this sectionGeleneksel bilgisayarlı görü dağıtım araçlarının sınırlamaları#

Bilgisayarlı görü modeli dağıtımı kulağa basit gelebilir, ancak şimdiye kadar uygulamada oldukça farklı görünüyordu. Yaygın bir kurulumu düşünün: veriler önce kameralardan veya sensörlerden yakalanır, çıkarım için bir modele gönderilir ve ardından tahmin olarak bir uygulamaya geri döner.

Gerçekte, bu adımların her biri genellikle ayrı araçlar ve hizmetler tarafından yönetilir. Bir sistem veri yakalamayı yönetirken, diğeri model sunumunu yönetir; ölçeklendirme, izleme ve günlüğe kaydetme için ise ek araçlar kullanılır. Bu bileşenleri bağlantılı ve güvenilir bir şekilde çalıştırmak hızla karmaşıklaşabilir.

Kullanım arttıkça bu karmaşıklık da artar. Altyapıyı yönetmek, bağımlılıkları ele almak ve uçtan uca boru hattında tutarlı performansı korumak, geliştirmeyi yavaşlatabilir ve bilgisayarlı görü modellerini gerçek dünya uygulamalarında dağıtmayı zorlaştırabilir.

Ultralytics Platform bu bileşenleri tek ve birleşik bir ortamda bir araya getirir. Bu, ölçekte performans ve güvenilirliği desteklerken tüm dağıtım iş akışını yönetmek için daha tutarlı bir yol sağlar.

Link to this sectionUltralytics Platform tarafından etkinleştirilen model dağıtım seçenekleri#

Ultralytics Platform, model dağıtım sürecini birleştirmenin yanı sıra modellerin nasıl dağıtıldığı ve kullanıldığı konusunda da esneklik sağlar.

Bilgisayarlı görü modeli dağıtımının farklı aşamalarını desteklemek için platform dört seçenek sunar: anında çıkarım ile tarayıcı tabanlı test, geliştirme için API'ler aracılığıyla paylaşılan çıkarım, küresel bölgelerde ölçeklenebilir üretim dağıtımları için özel uç noktalar ve modelleri harici altyapıda veya uç cihazlarda çalıştırmak için model dışa aktarma.

Öyleyse bu seçeneklerin her birinin nasıl çalıştığına daha yakından bakalım.

Link to this sectionTahmin sekmesini kullanarak modelleri hızla doğrulayın#

Bir modeli üretime almadan önce, yeni ve görülmemiş veriler üzerinde nasıl performans gösterdiğini anlamak önemlidir. Ultralytics Platform, herhangi bir kurulum, altyapı veya bağımlılık olmaksızın doğrudan tarayıcıda çıkarım çalıştırmanıza olanak tanıyan yerleşik bir Tahmin sekmesi içerir.

Tahmin sekmesi, model doğrulamayı hızlı ve etkileşimli hale getirir. Görüntüler yükleyebilir, önceden yüklenmiş örnekleri kullanabilir veya web kamerasıyla girdiler yakalayabilirsiniz; veri sağlandığı anda çıkarım otomatik olarak çalışır.

Sonuçlar görsel katmanlar, güven puanları ve ayrıntılı çıktılarla anında görünerek modelin nasıl davrandığına dair net bir görünüm sağlar.

Şekil 2. Tahmin sekmesini kullanarak bir modeli doğrulama örneği (Kaynak)

Bu, birkaç tıklamayla farklı girdileri test edebileceğiniz, parametreleri ayarlayabileceğiniz ve dağıtıma geçmeden önce tek bir arayüz içinde performansı değerlendirebileceğiniz anlamına gelir.

Link to this sectionTest veya hafif kullanım için paylaşılan çıkarımları çalıştırma#

Bir model eğittiğinizi ve Tahmin sekmesini kullanarak doğruladığınızı varsayalım. Bir sonraki adım genellikle bu modeli bir uygulamaya veya iş akışına entegre etmeye başlamaktır.

Altyapı kurmak veya sunucu yönetmek yerine, Ultralytics Platform, basit REST API'ler aracılığıyla modelinize veri gönderip tahminleri almanızı sağlayan paylaşılan çıkarım hizmetleri sunar.

Sahne arkasında, paylaşılan çıkarım birkaç temel bölgede çok kiracılı bir sistem üzerinde çalışır ve burada istekler otomatik olarak en yakın uygun hizmete yönlendirilir. Bu, farklı konumlardaki kullanıcıların modellere tutarlı bir şekilde erişmesini sağlarken duyarlı performansı korumaya yardımcı olur.

Standart HTTP isteklerini kullanarak girdiler gönderebilir ve karşılığında yapılandırılmış çıktılar alabilirsiniz; bu da modelleri uygulamalara, komut dosyalarına veya otomasyon iş akışlarına bağlamayı kolaylaştırır. Bu kurulum, geliştirme, test, entegrasyon veya daha ölçeklenebilir üretim dağıtımlarına geçmeden önceki hafif kullanımlar için harika bir seçenektir.

Link to this sectionModelleri özel uç noktalar aracılığıyla küresel olarak dağıtın#

Once a model is ready for production, it needs to handle real-world traffic reliably and at scale. Ultralytics Platform supports this with dedicated endpoints, where models run as single-tenant services across 43 global regions. Deploying closer to end users helps reduce latency and maintain consistent performance across different locations.

Her uç nokta, kendi tahsis edilmiş bilgi işlem kaynakları ve çıkarım istekleri için benzersiz bir URL ile çalışır. Bu kontrol düzeyi, hafif kullanım durumlarından daha fazla bilgi işlem kaynağı gerektiren yüksek verimli uygulamalara kadar dağıtımları performans ihtiyaçlarına göre ayarlamayı kolaylaştırır.

Şekil 3. Ultralytics Platform kullanarak modelleri 43 küresel bölgede dağıtabilirsiniz (Kaynak)

Bununla birlikte, özel uç noktalar, gelen trafiğe göre kaynakları ayarlayan otomatik ölçeklendirme ile değişen iş yüklerini kendileri yönetecek şekilde tasarlanmıştır. Yüksek talep dönemlerinde ölçek büyütür, kullanım düştüğünde ölçek küçültürler. Varsayılan olarak etkinleştirilen sıfıra ölçeklendirme ile boşta kalan uç noktalar otomatik olarak kapanır ve yeni istekler geldiğinde yeniden başlar, böylece manuel müdahale olmaksızın kaynak kullanımını optimize etmeye yardımcı olur.

Link to this sectionModelinizi Ultralytics Platform ile kolayca dışa aktarın#

Günümüzde, daha fazla uygulama modelleri doğrudan akıllı telefonlar, kameralar ve gömülü sistemler gibi cihazlarda çalıştırmaya güvendiğinden uç yapay zeka giderek daha önemli hale geliyor. Modelleri yerel olarak çalıştırmak, görüntü veya video akışları gibi hassas veriler harici sunuculara gönderilmeden doğrudan cihaz üzerinde işlenebildiğinden veri gizliliği gereksinimlerini karşılamaya da yardımcı olabilir.

Bu senaryolarda modellerin Ultralytics Platform dışında çalışması gerekir, bu da model dışa aktarmayı dağıtım sürecinin önemli bir parçası haline getirir. Ultralytics YOLO modelleri genellikle Python ve PyTorch kullanılarak eğitilir ve ardından ONNX, TensorRT, CoreML ve OpenVINO dahil olmak üzere 17'den fazla farklı formata aktarılabilir.

Bu geniş format yelpazesi, yüksek performanslı grafik işleme birimlerinden (GPU'lar) mobil ve gömülü cihazlara kadar çeşitli donanımlarda uyumluluk sağlar. Buna ek olarak, dışa aktarma, belirli ortamlar için performans ayarlamasını mümkün kılar.

Formata bağlı olarak, modeller; TensorRT ile iyileştirilmiş GPU performansı veya ONNX ve OpenVINO ile optimize edilmiş CPU yürütme gibi daha hızlı çıkarım hızlarına ulaşabilir. FP16 ve INT8 niceleme gibi seçenekler, model boyutunu daha da küçültebilir ve özellikle uç dağıtımlar için çok yararlı olan verimi artırabilir.

Ultralytics Platform'da dışa aktarma doğrudan iş akışına entegre edilmiştir, bu da sadece birkaç tıklamayla optimize edilmiş modeller oluşturmayı hızlandırır. Ekipler, ekstra yük eklemeden eğitimden modelleri harici sistemlerde çalıştırmaya geçebilirler.

Şekil 4. Ultralytics Platform'daki dışa aktarma formatlarından bir seçki.

Link to this sectionDoğru model dağıtım seçeneğini seçme#

Ultralytics Platform'daki her dağıtım seçeneği, erken test aşamasından üretim kullanımına kadar iş akışının farklı bir aşamasını destekler. İşte her birini ne zaman kullanabileceğinize dair bir genel bakış:

• Tahmin sekmesi: Bu, genellikle eğitim veya ince ayardan hemen sonra, bir modelin tarayıcı tabanlı çıkarım kullanarak yeni veriler üzerinde nasıl performans gösterdiğini doğrulamak istediğinizde kullanılır.
• Paylaşılan çıkarım: Bu aşamada modeller, API'ler aracılığıyla uygulamalara entegre edilebilir, böylece geliştirme sırasında gerçek dünya etkileşimlerini test etmek mümkün olur.
• Özel uç noktalar: Bunlar, modellerin tutarlı performansa, ayrılmış kaynaklara ve küresel bölgelerde ölçeklenme yeteneğine ihtiyaç duyduğu üretim dağıtımları için kullanılır.
• Model dışa aktarma: Modellerin platform dışında çalışması gerektiğinde, onları dışa aktarma seçeneği uç cihazlarda, mobil uygulamalarda veya özel altyapıda dağıtımı mümkün kılar.

Ekipler genellikle doğrulama aşamasından entegrasyona ve son olarak üretime dağıtıma kadar tüm bu seçenekler arasında platform içinde kalarak adım adım ilerlerler.

Link to this sectionDağıtılan modelleri Ultralytics Platform aracılığıyla izleme#

Dağıtım ne kadar kritikse, görü boru hattı bununla bitmez. Bir model üretimde çalışmaya başladığında, zaman içinde güvenilir bir şekilde performans gösterdiğinden emin olmak için sürekli izleme anahtardır.

Ultralytics Platform, ekiplere görü yapay zeka modellerinin zaman içinde nasıl davrandığına dair net bir görünürlük sağlayan ve daha yapılandırılmış bir makine öğrenimi operasyonları (MLOps) iş akışını destekleyen yerleşik izleme araçları sunar.

Dağıtım sayfası, toplam istek sayısı, aktif dağıtımlar, yanıt gecikmesi ve hata oranları gibi temel metrikleri izleyen bir kontrol paneli içerir. Bu içgörüler, ekiplerin kullanım kalıplarını anlamalarına, sistem duyarlılığını değerlendirmelerine ve farklı iş yüklerinde düşük gecikmeli performansı sağlamalarına yardımcı olur.

Şekil 5. Ultralytics Platform dağıtılan modelleri izlemeyi kolaylaştırır. (Kaynak)

Her özel uç nokta ayrıca bireysel dağıtım görünümleri aracılığıyla ayrıntılı gözlemlenebilirlik sağlar. Bu, günlük erişimini, model sağlık durumunu ve gerçek zamanlı performans verilerini içerir. Günlükler sorunları ayıklamak, başarısız istekleri izlemek ve bağımlılıklar veya altyapı ile ilgili potansiyel sorunları tanımlamak için kullanılabilir.

Üretim ortamları geliştikçe, değişen girdi verileri, ölçeklendirme talepleri veya değişen kullanım kalıpları gibi faktörler model doğruluğunu ve sağlamlığını etkileyebilir. Ekipler, performans metriklerini sürekli izleyerek anormallikleri tespit edebilir, darboğazları belirleyebilir ve tutarlı ve güvenilir model sunumunu sürdürmek için model optimizasyonu veya kaynak ayarlamaları gibi düzeltici eylemlerde bulunabilirler.

Link to this sectionBilgisayarlı görü modeli dağıtımlarında ölçeklenebilirlik oluşturma#

Bilgisayarlı görü sistemlerini ölçeklendirmek geleneksel olarak asla bir arada çalışacak şekilde tasarlanmamış iş akışlarını ve çerçeveleri bir araya getirmek anlamına gelmiştir. Veri boru hatları, eğitim döngüleri, dağıtım altyapısı ve izleme sistemleri genellikle ayrı yerlerde bulunur ve her aşamada sürtünme yaratır.

Asıl zorluk sadece modeller oluşturmak değil, onları hareket halinde tutmaktır. Veriden üretime geçmek, yeni girdilere uyum sağlamak, artan talebi karşılamak ve yavaşlamadan sürekli iyileşmek.

Ultralytics Platform'un öne çıkan yanı, bu hareketin içine yerleşik olmasıdır. Her aşamayı ayrı bir adım olarak ele almak yerine, modellerin aynı ortamda geliştirilebildiği, dağıtılabildiği, gözlemlenebildiği ve güncellenebildiği sürekli bir döngüye bağlar.

Bu değişim ekiplerin nasıl ölçeklendiğini değiştirir. Artık konu araçların veya altyapının yönetimi değil, sistemler büyüdükçe ivmeyi korumaktır.

Link to this sectionÖne çıkanlar#

Bilgisayarlı görü modelleri gibi makine öğrenimi modellerini gerçek dünya uygulamalarına getirmek, onların güvenilir, ölçeklenebilir ve yönetimi kolay olmalarını gerektirir. Ultralytics Platform, model sunumu, dağıtımı ve izleme gibi çeşitli işlevleri tek bir birleşik ortamda birleştirerek bu süreci basitleştirir. Esnek dağıtım seçenekleri ve yerleşik araçlarla, ekipler deneme aşamasından üretime daha hızlı ve daha az karmaşıklıkla geçebilirler.

Daha fazla bilgi edinmek için topluluğumuza göz atın ve GitHub depomuzu keşfedin. Sağlık hizmetlerinde yapay zeka ve lojistikte bilgisayarlı görü gibi çeşitli uygulamaları görmek için çözüm sayfalarımızı inceleyin. Lisanslama seçeneklerimizi keşfedin ve bugün inşa etmeye başlayın!