Ultralytics Platform'u kullanarak Ultralytics YOLO modelleri nasıl dışa aktarılır?

Geçen ay, bilgisayarlı görü iş akışının tamamını basitleştirmek için tasarlanmış birleşik bir çalışma alanı olan Ultralytics Platform'u kullanıma sunduk. Veri kümesi yönetimi, etiketleme, model eğitimi, test, dağıtım ve izleme dâhil olmak üzere bilgisayarlı görü yapay zekâsının temel yeteneklerini tek ve akıcı bir arayüzde bir araya getiriyor.

Şekil 1. Ultralytics Platform'a bir bakış (Kaynak)

Uçtan uca bu iş akışının önemli bir parçası olan dağıtım, modelleri deneme aşamasından gerçek dünyadaki kullanıma taşır. Daha önce platformdaki dağıtım seçeneklerini ele almıştık. Bu seçenekler arasında API'ler aracılığıyla paylaşımlı çıkarım, üretim ortamında ölçeklenebilir dağıtımlar için ayrılmış uç noktalar ve modelleri uç cihazlarda veya harici altyapıda çalıştırmak üzere dışa aktarma bulunuyor.

Şimdi model dışa aktarma konusuna ve bunun farklı ortamlarda dağıtımı nasıl desteklediğine daha yakından bakalım. Modelleri Ultralytics Platform tarafından yönetilen altyapıda çalıştıran paylaşımlı çıkarım ve ayrılmış uç noktaların aksine model dışa aktarma; modellerin uç cihazlar, mobil uygulamalar ve özel altyapı gibi harici ortamlara dağıtılmasını ve bu ortamlarda çalıştırılmasını sağlar.

Modellerin bu ortamlarda çalışabilmesi için hedef çalışma ortamının desteklediği biçimlere dönüştürülmesi gerekir. Her dağıtım kurulumunun kendine özgü gereksinimleri vardır: mobil ve uç cihazlar için hafif biçimlerden bulut ve GPU tabanlı sistemler için yüksek performanslı biçimlere kadar.

Geleneksel olarak bu süreç; betikler, bağımlılıklar ve birden fazla araç içerdiğinden zaman alabilir. Ultralytics Platform ile dışa aktarma çok daha basittir. Modeller ek kurulum gerektirmeden yalnızca birkaç tıklamayla dönüştürülüp optimize edilebilir.

Bu makalede, model dışa aktarmanın ne anlama geldiğini, Ultralytics Platform'un desteklediği biçimleri ve kullanım amacına uygun biçimi nasıl seçeceğini ele alacağız. Hadi başlayalım!

Model dışa aktarmaya genel bakış#

Model dışa aktarma, önceden eğitilmiş veya özel olarak eğitilmiş bir modelin özgün çerçevesi dışında kullanılabilecek bir biçime dönüştürülmesini içerir. Ultralytics YOLO modelleri, PyTorch kullanılarak oluşturulur ve PyTorch ekosisteminde eğitim, değerlendirme ve deneme için uygun olan yerel biçiminde saklanır.

Ancak dağıtım ortamlarının çalışma zamanları ve donanım gereksinimleri çoğu zaman farklıdır. Bu nedenle eğitim sırasında kullanılan biçim dağıtım için her zaman uygun olmayabilir.

Örneğin bir mobil uygulama, düşük güç tüketimi için optimize edilmiş hafif bir biçim gerektirebilirken tarayıcı tabanlı bir uygulamanın web ortamlarında verimli çalışan bir biçime ihtiyacı vardır.

Kameralar ve gömülü sistemler gibi uç cihazlar kompakt ve hızlı modellerden yararlanırken bulut sistemleri yüksek performanslı çıkarım için tasarlanmıştır. Bu farklı senaryoları desteklemek için modellerin uyumlu biçimlerde dışa aktarılması gerekir.

Model dışa aktarma seçeneği neden hiç olmadığı kadar önemli?#

Günümüzde bilgisayarlı görü modelleri, özellikle uç cihazlarda, verinin üretildiği yere daha yakın noktalarda dağıtılıyor. Akıllı telefonlar gerçek zamanlı görü uygulamalarını çalıştırıyor, CCTV kameraları cihaz üzerinde izleme yapıyor ve otonom sistemler anında karar almaya dayanıyor.

Ancak bu ortamlarda dağıtımın kendine özgü zorlukları vardır. Uç cihazların hesaplama gücü sınırlıdır; gecikme gereksinimleri katıdır ve bellek ile enerji tüketimi kısıtlamaları bulunur. Yeterli kaynaklarla eğitim sırasında iyi performans gösteren bir model, bu kısıtlı koşullarda verimli çalışmayabilir.

Modeli doğru biçimde dışa aktarmak bu zorlukların üstesinden gelmeye yardımcı olabilir. Model uygun biçime dönüştürüldüğünde hız için optimize edilebilir, boyutu küçültülebilir ve belirli donanımlarla uyumlu hâle getirilebilir.

Dışa aktarma aynı zamanda esneklik sağlar. Aynı model, belirli gereksinimlere göre birden fazla biçime dönüştürülerek farklı dağıtım ortamlarına uyarlanabilir.

Şekil 2. Ultralytics Platform'da kullanılabilen dışa aktarma biçimlerinden bazıları (Kaynak)

Örneğin, NCNN model biçimi düşük kaynak kullanımıyla mobil ve uç cihazlar için optimize edilmiştir. OpenVINO biçimi ise Intel donanımlarına göre tasarlanmıştır ve merkezi işlem birimlerinde (CPUs), grafik işlem birimlerinde (GPUs) ve sinirsel işlem birimlerinde (NPUs) daha iyi performans sunar.

Çoğu durumda bu düzeyde esneklik sağlamak; manuel dönüştürme, bağımlılıklar ve birden fazla araçla uğraşmak anlamına geliyor, bu da süreci zaman alıcı ve karmaşık hâle getiriyordu. Ultralytics Platform, model dışa aktarmayı daha erişilebilir ve yönetilebilir kılarak bu iş akışını kolaylaştırıyor.

Ultralytics Platform model dışa aktarmayı nasıl kolaylaştırıyor?#

Bilgisayarlı görü iş akışlarında model dışa aktarma genellikle ayrı ve karmaşık bir adım olarak ele alınır. Ultralytics Platform, model dışa aktarma seçeneğini eğitimden dağıtıma kadar her şeyi kapsayan tek bir çalışma alanına entegre ederek bunu değiştiriyor.

Başlıca avantajlarından biri kod gerektirmeyen dışa aktarma deneyimidir. Betik yazmana, ortamları yönetmene veya çerçeveye özgü komutları kullanmana gerek yoktur. Modeller, kullanımı kolay bir arayüz üzerinden yalnızca birkaç tıklamayla dışa aktarılabilir.

Şekil 3. Ultralytics Platform'dan model dışa aktarma örneği (Kaynak)

Platform, arka planda yoğun iş yükünü üstlenir. Normalde birden fazla araç ve manuel kurulum gerektiren görevler tek bir süreçte kolaylaştırılır. Ek bağımlılıklar yüklemen veya uyumluluk sorunlarıyla uğraşman gerekmez; böylece eğitilmiş bir modelden üretime hazır bir çözüme geçmek çok daha kolay olur.

Ultralytics Platform'un desteklediği model dışa aktarma biçimleri#

Ultralytics Platform, 21 dışa aktarma biçimini destekleyerek ek karmaşıklık olmadan modelleri çok çeşitli dağıtım ortamlarına hazırlamayı kolaylaştırır.

Yaygın olarak kullanılan dışa aktarma biçimlerinden bazılarına genel bakış:

• Platformlar arası kullanım ve birlikte çalışabilirlik: ONNX ve TorchScript, modelleri farklı çerçeve ve ortamlarda çalıştırmak için yaygın olarak kullanılır. ONNX, ekosistemler arasında köprü görevi görerek modellerin araçlar arasında taşınmasını kolaylaştırırken TorchScript, Python çalışma zamanı gerektirmeden PyTorch modellerinin üretimde çalıştırılmasını sağlar.
• GPU'larda yüksek performanslı çıkarım: TensorRT, NVIDIA GPU'ları için tasarlanmıştır ve modelleri düşük gecikme ile yüksek verim için optimize etmeye odaklanır. Çıkarımı hızlandırmak için hassasiyet düşürme ve katman birleştirme gibi teknikleri destekler; bu da onu gerçek zamanlı ve üretim ölçeğindeki uygulamalar için güçlü bir seçenek hâline getirir.
• Mobil ve uç dağıtım: CoreML, LiteRT (TensorFlow Lite) ve NCNN, hesaplama gücü ve belleği sınırlı cihazlar için optimize edilmiştir. Bu biçimler model boyutunu küçültüp verimliliği artırarak akıllı telefonlarda, gömülü sistemlerde ve uç donanımlarda sorunsuz performans sağlar. CoreML genellikle Apple ekosistemlerinde, LiteRT ise Android'de kullanılır.
• Donanıma göre optimize edilmiş yürütme: OpenVINO; CPU'lar, GPU'lar ve VPU'lar dâhil olmak üzere Intel donanımlarına göre tasarlanmıştır ve bu cihazlarda çıkarım hızını ve verimliliğini artırmaya yardımcı olur. Bunun gibi donanıma özgü biçimler, belirli bir sistemden en iyi performansı almak istediğinde kullanışlıdır.
• Çerçeveye özgü ve özel çalışma zamanları: PaddlePaddle ve ExecuTorch gibi biçimler, modelleri uç cihazlarda verimli biçimde çalıştırmak veya belirli derin öğrenme yığınlarıyla entegre etmek dâhil olmak üzere belirli ekosistemleri ve dağıtım gereksinimlerini destekler.

Ultralytics Platform ile model nasıl dışa aktarılır?#

Ultralytics Platform'da model dışa aktarma, kullanıcı arayüzü üzerinden yürütülen basit bir süreçtir. Tüm iş akışı, betiklere veya komut satırı araçlarına gerek kalmadan arayüz üzerinden gerçekleştirilir.

Platformu kullanarak modeli şu şekilde dışa aktarabilirsin:

• Giriş yap ve modelini seç: Projene git ve dışa aktarmak istediğin eğitilmiş modeli aç.
• Export sekmesine git: Kullanılabilir dışa aktarma seçeneklerini görmek için model panosundaki Export sekmesine tıkla.
• Bir dışa aktarma biçimi seç: Dağıtım gereksinimlerine göre ONNX, TensorRT veya CoreML gibi bir biçim seç.
• Dışa aktarma ayarlarını yapılandır (isteğe bağlı): Performansı optimize etmek için görüntü boyutu, hassasiyet veya yığın boyutu gibi parametreleri ayarla.
• Dışa aktarma sürecini başlat: Süreci başlatmak için “Start Export” düğmesine tıkla. Dönüştürme işlemini platform otomatik olarak gerçekleştirir.
• Dışa aktarılan modeli indir: Dışa aktarma tamamlandığında modeli indirip dağıtım hattında kullanabilirsin.

Şekil 4. Ultralytics Platform'da dışa aktarma ayarlarının yapılandırılmasına bir bakış

Doğru dışa aktarma biçimini seçme#

Ultralytics Platform'un desteklediği farklı dışa aktarma biçimlerini incelerken hangisini seçeceğini merak edebilirsin. Yanıt, modelini nerede ve nasıl kullanmayı planladığına bağlıdır.

Göz önünde bulundurabileceğin birkaç faktör:

• Gecikme gereksinimleri: Video analitiği veya otonom sistemler gibi gerçek zamanlı uygulamalarda düşük gecikme kritik önem taşır. TensorRT gibi yüksek performanslı çıkarım için optimize edilmiş biçimler genellikle daha uygundur.
• Donanım kısıtlamaları: Cep telefonları veya gömülü sistemler gibi belleği ve işlem gücü sınırlı cihazlar, LiteRT veya NCNN gibi hafif biçimler gerektirir.
• Model boyutu ve güç tüketimi: Uç cihazlarla çalışırken model boyutu ve güç tüketimi önem kazanır. Daha küçük ve optimize edilmiş modeller, kaynakları tüketmeden tutarlı performans sağlamaya yardımcı olur.
• Dağıtım ortamı: Modelinin farklı platformlarda çalışması gerekiyorsa ONNX gibi biçimler esneklik sunar. iOS uygulamaları gibi platforma özgü kullanım senaryolarında CoreML genellikle daha iyi bir seçenektir.

Her duruma uyan tek bir biçim yoktur. Seçim, performansı ve uyumluluğu hedef ortamının kısıtlamalarıyla dengelemeye bağlıdır. Ultralytics Platform, farklı biçimleri kolayca deneyip karşılaştırmana olanak tanıyarak bu süreci basitleştirir.

Önemli çıkarımlar#

Dışa aktarma, modelini farklı ortamlarda gerçek dünyada kullanıma hazırlamanın önemli bir adımıdır. Ultralytics Platform ile bu süreç çok daha basitleşir; ek kurulum veya karmaşıklık olmadan modelleri dönüştürüp optimize edebilirsin. Kullanım amacına uygun biçimi seçerek modelinin dağıttığın her yerde verimli çalışmasını sağlayabilirsin.

Büyüyen topluluğumuza katıl ve bilgisayarlı görü hakkında daha fazla bilgi edinmek için GitHub depomuza göz at. Robotikte yapay zekâ ve lojistikte bilgisayarlı görü gibi uygulamalar hakkında daha fazla bilgi edinmek için çözümler sayfalarımızı incele. Lisanslama seçeneklerimizi keşfet ve görü yapay zekâsıyla geliştirmeye başla!