Ultralytics Platform'u Kullanarak Ultralytics YOLO Modelleri Nasıl Dışa Aktarılır

Geçen ay, tüm bilgisayarlı görü iş akışını basitleştirmek üzere tasarlanmış birleşik bir çalışma alanı olan Ultralytics Platform'u kullanıma sunduk. Platform; veri kümesi yönetimi, açıklama ekleme, model eğitimi, test, dağıtım ve izleme dahil olmak üzere temel görsel yapay zekâ özelliklerini tek ve sadeleştirilmiş bir arayüzde bir araya getiriyor.

Şekil 1. Ultralytics Platform'a kısa bir bakış (Kaynak)

Uçtan uca bu iş akışının bir parçası olarak dağıtım, modelleri deneme aşamasından gerçek dünya kullanımına taşımada kritik bir rol oynar. Daha önce platformda bulunan farklı dağıtım seçeneklerini incelemiştik. Bunlar arasında API'ler üzerinden paylaşımlı çıkarım, ölçeklenebilir üretim dağıtımları için özel uç noktalar ve modelleri uç cihazlarda ya da harici altyapıda çalıştırmak üzere dışa aktarma yer alıyor.

Şimdi model dışa aktarmaya ve bunun farklı ortamlarda dağıtımı nasıl desteklediğine daha yakından bakalım. Modelleri Ultralytics Platform tarafından yönetilen altyapı içinde çalıştıran paylaşımlı çıkarım ve özel uç noktaların aksine, model dışa aktarma; modellerin uç cihazlar, mobil uygulamalar ve özel altyapılar gibi harici ortamlara dağıtılmasını ve bu ortamlarda çalıştırılmasını sağlar.

Modeller bu ortamlarda çalıştırılmadan önce hedef çalışma zamanı tarafından desteklenen biçimlere dönüştürülmelidir. Her dağıtım kurulumunun, mobil ve uç cihazlar için hafif biçimlerden bulut ve GPU tabanlı sistemler için yüksek performanslı biçimlere kadar kendine özgü gereksinimleri vardır.

Geleneksel olarak bu süreç; betikler, bağımlılıklar ve birden fazla araç içerdiği için zaman alabilir. Ultralytics Platform ile dışa aktarma çok daha basittir. Modeller, ek kurulum gerektirmeden yalnızca birkaç tıklamayla dönüştürülüp optimize edilebilir.

Bu makalede model dışa aktarmanın ne anlama geldiğini, Ultralytics Platform tarafından desteklenen biçimleri ve kullanım senaryon için doğru biçimi nasıl seçeceğini ele alacağız. Hadi başlayalım!

Model dışa aktarmaya genel bakış#

Model dışa aktarma, önceden eğitilmiş veya özel olarak eğitilmiş bir modelin özgün çerçevesi dışında kullanılabilecek bir biçime dönüştürülmesini içerir. Ultralytics YOLO modelleri, PyTorch kullanılarak oluşturulur ve PyTorch ekosisteminde eğitim, değerlendirme ve denemeler için uygun olan yerel biçimlerinde saklanır.

Ancak dağıtım ortamlarının çalışma zamanları ve donanım gereksinimleri çoğu zaman farklıdır. Bu nedenle eğitim sırasında kullanılan biçim dağıtım için her zaman uygun olmayabilir.

Örneğin bir mobil uygulama, düşük güç tüketimi için optimize edilmiş hafif bir biçim gerektirebilirken tarayıcı tabanlı bir uygulamanın web ortamlarında verimli çalışan bir biçime ihtiyacı vardır.

Kameralar ve gömülü sistemler gibi uç cihazlar kompakt ve hızlı modellerden yararlanırken bulut sistemleri yüksek performanslı çıkarım için tasarlanır. Bu farklı senaryoları desteklemek için modellerin uyumlu biçimlere aktarılması gerekir.

Modelleri dışa aktarma seçeneği neden hiç olmadığı kadar önemli?#

Günümüzde bilgisayarlı görü modelleri, özellikle uç cihazlarda, verilerin üretildiği noktaya daha yakın yerlerde dağıtılıyor. Akıllı telefonlar gerçek zamanlı görsel yapay zekâ uygulamalarını çalıştırıyor, CCTV kameraları cihaz üzerinde izleme gerçekleştiriyor ve otonom sistemler anında karar vermeye dayanıyor.

Ancak bu ortamlarda dağıtımın kendine özgü zorlukları vardır. Uç cihazların işlem gücü sınırlıdır; katı gecikme gereksinimleri ile bellek ve enerji tüketimi kısıtlamaları bulunur. Yeterli kaynaklarla eğitim sırasında iyi performans gösteren bir model, bu kısıtlı koşullarda verimli çalışmayabilir.

Bir modeli doğru biçime dışa aktarmak bu zorlukların üstesinden gelmeye yardımcı olabilir. Model uygun şekilde dönüştürülerek hız için optimize edilebilir, boyutu küçültülebilir ve belirli donanımlarla uyumlu hâle getirilebilir.

Aynı zamanda dışa aktarma esneklik sağlar. Aynı model, belirli gereksinimlere göre birden fazla biçime dönüştürülerek farklı dağıtım ortamlarına uyarlanabilir.

Şekil 2. Ultralytics Platform içinde bulunan dışa aktarma biçimlerinden bazıları (Kaynak)

Örneğin NCNN model biçimi, düşük kaynak kullanımıyla mobil ve uç cihazlar için optimize edilmiştir. OpenVINO biçimi ise Intel donanımı için uyarlanmıştır ve merkezi işlem birimleri (CPUs), grafik işlem birimleri (GPUs) ve sinirsel işlem birimleri (NPUs) üzerinde daha iyi performans sunar.

Çoğu durumda bu düzeyde esneklik elde etmek; manuel dönüştürme, bağımlılıklar ve birden fazla araçla uğraşmak anlamına geliyor, bu da süreci zaman alıcı ve karmaşık hâle getiriyordu. Ultralytics Platform, model dışa aktarmayı daha erişilebilir ve yönetilebilir hâle getirerek bu iş akışını sadeleştiriyor.

Ultralytics Platform model dışa aktarmayı nasıl basitleştiriyor?#

Genellikle model dışa aktarma, bilgisayarlı görü iş akışlarında ayrı ve karmaşık bir adım olarak ele alınır. Ultralytics Platform, eğitimden dağıtıma kadar her şeyi kapsayan tek bir çalışma alanına model dışa aktarma seçeneğini doğrudan entegre ederek bunu değiştiriyor.

Temel avantajlarından biri kod gerektirmeyen dışa aktarma deneyimidir. Betik yazmana, ortamları yönetmene veya çerçeveye özgü komutları kullanmana gerek yoktur. Modeller, anlaşılır bir arayüz üzerinden yalnızca birkaç tıklamayla dışa aktarılabilir.

Şekil 3. Ultralytics Platform'dan model dışa aktarma örneği (Kaynak)

Platform, arka planda işin zor kısmını üstlenir. Normalde birden fazla araç ve manuel kurulum gerektiren görevler tek bir süreçte sadeleştirilir. Ek bağımlılıkları yüklemen veya uyumluluk sorunlarıyla uğraşman gerekmez; böylece eğitilmiş bir modelden üretime hazır bir çözüme geçmek çok daha kolay hâle gelir.

Ultralytics Platform tarafından desteklenen model dışa aktarma biçimleri#

Ultralytics Platform, 17 dışa aktarma biçimini destekleyerek ek karmaşıklık olmadan modelleri çok çeşitli dağıtım ortamlarına hazırlamayı kolaylaştırır.

Yaygın olarak kullanılan dışa aktarma biçimlerinden bazılarına genel bakış:

• Platformlar arası kullanım ve birlikte çalışabilirlik: ONNX ve TorchScript, modelleri farklı çerçeveler ve ortamlarda çalıştırmak için yaygın olarak kullanılır. ONNX, ekosistemler arasında köprü görevi görerek modellerin araçlar arasında taşınmasını kolaylaştırırken TorchScript, bir Python çalışma zamanı gerektirmeden PyTorch modellerinin üretimde çalıştırılmasını sağlar.
• GPU'larda yüksek performanslı çıkarım: TensorRT, NVIDIA GPU'ları için tasarlanmıştır ve modelleri düşük gecikme ile yüksek işlem hacmi için optimize etmeye odaklanır. Çıkarımı hızlandırmak için hassasiyet azaltma ve katman birleştirme gibi teknikleri destekler; bu da onu gerçek zamanlı ve üretim ölçeğindeki uygulamalar için güçlü bir seçenek hâline getirir.
• Mobil ve uç dağıtım: CoreML, LiteRT (TensorFlow Lite) ve NCNN, işlem gücü ve belleği sınırlı cihazlar için optimize edilmiştir. Bu biçimler model boyutunu küçültür ve verimliliği artırarak akıllı telefonlarda, gömülü sistemlerde ve uç donanımlarda sorunsuz performans sağlar. CoreML genellikle Apple ekosistemlerinde, LiteRT ise Android'de kullanılır.
• Donanım için optimize edilmiş yürütme: OpenVINO, CPU'lar, GPU'lar ve VPU'lar dahil olmak üzere Intel donanımı için uyarlanmıştır ve bu cihazlarda çıkarım hızını ve verimliliğini artırmaya yardımcı olur. Bunun gibi donanıma özgü biçimler, belirli bir sistemden en iyi performansı alman gerektiğinde kullanışlıdır.
• Çerçeveye özgü ve özel çalışma zamanları: PaddlePaddle ve ExecuTorch gibi biçimler, modellerin uç cihazlarda verimli şekilde çalıştırılması veya belirli derin öğrenme yığınlarıyla entegre edilmesi dahil olmak üzere belirli ekosistemleri ve dağıtım gereksinimlerini destekler.

Ultralytics Platform kullanarak model nasıl dışa aktarılır?#

Ultralytics Platform'da model dışa aktarma, kullanıcı arayüzü tabanlı basit bir süreçtir. Tüm iş akışı, betiklere veya komut satırı araçlarına gerek kalmadan arayüz üzerinden yürütülür.

Platformu kullanarak bir modeli şöyle dışa aktarabilirsin:

• Oturum aç ve modelini seç: Projene git ve dışa aktarmak istediğin eğitilmiş modeli aç.
• Export sekmesine git: Model panosunda, kullanılabilir dışa aktarma seçeneklerini görüntülemek için Export sekmesine tıkla.
• Bir dışa aktarma biçimi seç: Dağıtım gereksinimlerine göre ONNX, TensorRT veya CoreML gibi bir biçim seç.
• Dışa aktarma ayarlarını yapılandır (isteğe bağlı): Performansı optimize etmek için görüntü boyutu, hassasiyet veya toplu iş boyutu gibi parametreleri ayarla.
• Dışa aktarma sürecini başlat: Süreci başlatmak için “Start Export” düğmesine tıkla. Platform dönüştürme işlemini otomatik olarak gerçekleştirir.
• Dışa aktarılan modeli indir: Dışa aktarma tamamlandığında modeli indirebilir ve dağıtım işlem hattında kullanabilirsin.

Şekil 4. Ultralytics Platform'da dışa aktarma ayarlarını yapılandırmaya bakış

Doğru dışa aktarma biçimini seçme#

Ultralytics Platform tarafından desteklenen farklı dışa aktarma biçimlerini incelerken hangisini seçmen gerektiğini merak edebilirsin. Yanıt, modelini nerede ve nasıl kullanmayı planladığına bağlıdır.

Dikkate alman gereken birkaç faktör şunlardır:

• Gecikme gereksinimleri: Video analizi veya otonom sistemler gibi gerçek zamanlı uygulamalarda düşük gecikme kritik önem taşır. TensorRT gibi yüksek performanslı çıkarım için optimize edilmiş biçimler genellikle daha uygundur.
• Donanım kısıtlamaları: Cep telefonları veya gömülü sistemler gibi belleği ve işlem gücü sınırlı cihazlar, LiteRT veya NCNN gibi hafif biçimler gerektirir.
• Model boyutu ve güç tüketimi: Uç cihazlarla çalışırken model boyutu ve güç tüketimi önem kazanır. Daha küçük ve optimize edilmiş modeller, kaynakları tüketmeden tutarlı performans sağlamaya yardımcı olur.
• Dağıtım ortamı: Modelinin farklı platformlarda çalışması gerekiyorsa ONNX gibi biçimler esneklik sunar. iOS uygulamaları gibi platforma özgü kullanım senaryolarında CoreML genellikle daha iyi bir tercihtir.

Her duruma uyan tek bir biçim yoktur. Önemli olan performans, uyumluluk ve hedef ortamının sınırlamaları arasında denge kurmaktır. Ultralytics Platform, farklı biçimleri ek çaba harcamadan denemene ve karşılaştırmana olanak tanıyarak bu süreci kolaylaştırır.

Önemli çıkarımlar#

Dışa aktarma, modelini farklı ortamlarda gerçek dünya kullanımına hazırlamanın önemli bir adımıdır. Ultralytics Platform ile bu süreç çok daha basit hâle gelir; modelleri ek kurulum veya karmaşıklık olmadan dönüştürüp optimize edebilirsin. Kullanım senaryon için doğru biçimi seçerek modelinin dağıtım yaptığın her yerde verimli çalışmasını sağlayabilirsin.

Büyüyen topluluğumuza katıl ve bilgisayarlı görü hakkında daha fazla bilgi edinmek için GitHub depomuza göz at. Robotikte yapay zekâ ve lojistikte bilgisayarlı görü gibi uygulamalar hakkında daha fazla bilgi edinmek için çözüm sayfalarımızı incele. Lisanslama seçeneklerimizi keşfet ve görsel yapay zekâ ile geliştirmeye başla!