Ultralytics Platform kullanarak Ultralytics YOLO modelleri nasıl dışa aktarılır

Geçtiğimiz ay, tüm bilgisayarlı görü iş akışını basitleştirmek için tasarlanmış birleşik bir çalışma alanı olan Ultralytics Platform'u kullanıma sunduk. Veri seti yönetimi, etiketleme, model eğitimi, test, dağıtım ve izleme dahil olmak üzere temel görü yapay zekası yeteneklerini tek ve düzenli bir arayüzde bir araya getiriyor.

Şekil 1. Ultralytics Platform'a bir bakış (Kaynak)

Bu uçtan uca iş akışının bir parçası olarak dağıtım, modelleri deney aşamasından gerçek dünya kullanımına taşımada çok önemli bir rol oynar. Daha önce, API'ler aracılığıyla paylaşılan çıkarım, ölçeklenebilir üretim dağıtımları için ayrılmış uç noktalar ve uç cihazlarda ya da harici altyapılarda çalıştırılacak modelleri dışa aktarma dahil olmak üzere platformda mevcut olan farklı dağıtım seçeneklerini incelemiştik.

Şimdi model dışa aktarma konusuna ve bunun farklı ortamlarda dağıtımı nasıl desteklediğine daha yakından bakalım. Modelleri Ultralytics Platform tarafından yönetilen altyapı içinde çalıştıran paylaşımlı çıkarım ve ayrılmış uç noktaların aksine, model dışa aktarma, modellerin uç cihazlar, mobil uygulamalar ve özel altyapılar gibi harici ortamlarda dağıtılmasını ve çalıştırılmasını sağlar.

Modellerin bu ortamlarda çalışabilmesi için hedef çalışma zamanı tarafından desteklenen formatlara dönüştürülmeleri gerekir. Her dağıtım kurulumunun, mobil ve uç cihazlar için hafif formatlardan bulut ve GPU tabanlı sistemler için yüksek performanslı formatlara kadar kendine has gereksinimleri vardır.

Geleneksel olarak bu süreç; betikler, bağımlılıklar ve birden fazla araç gerektirdiği için zaman alıcı olabilir. Ultralytics Platform ile dışa aktarma çok daha basittir. Modeller, ekstra kurulum gerektirmeden sadece birkaç tıklamayla dönüştürülebilir ve optimize edilebilir.

Bu makalede, model dışa aktarmanın ne anlama geldiğini, Ultralytics Platform tarafından desteklenen formatları ve kullanım durumun için doğru olanı nasıl seçeceğini inceleyeceğiz. Hadi başlayalım!

Link to this sectionBir modelin dışa aktarılmasına genel bakış#

Bir modeli dışa aktarmak, önceden eğitilmiş veya özel olarak eğitilmiş bir modeli, kendi orijinal çerçevesinin dışında kullanılabilir bir formata dönüştürmeyi içerir. Ultralytics YOLO modelleri, PyTorch kullanılarak oluşturulur ve PyTorch ekosistemi içindeki eğitim, değerlendirme ve denemeler için iyi çalışan kendi yerel formatlarında saklanır.

Ancak, dağıtım ortamları genellikle farklı çalışma zamanlarına ve donanım gereksinimlerine sahiptir. Bu nedenle, eğitim sırasında kullanılan format dağıtım için her zaman uygun olmayabilir.

Örneğin, bir mobil uygulama düşük güç tüketimi için optimize edilmiş hafif bir format gerektirebilirken, tarayıcı tabanlı bir uygulama web ortamlarında verimli bir şekilde çalışan bir formata ihtiyaç duyar.

Kameralar ve gömülü sistemler gibi uç cihazlar kompakt ve hızlı modellerden yararlanırken, bulut sistemleri yüksek performanslı çıkarım için tasarlanmıştır. Bu farklı senaryoları desteklemek için modellerin uyumlu formatlara dışa aktarılması gerekir.

Link to this sectionModelleri dışa aktarma seçeneği neden her zamankinden daha önemli?#

Günümüzde bilgisayarlı görü modelleri, özellikle uç cihazlarda, verinin üretildiği yere daha yakın bir şekilde dağıtılıyor. Akıllı telefonlar gerçek zamanlı görü uygulamalarını çalıştırıyor, CCTV kameraları cihaz üzerinde izleme yapıyor ve otonom sistemler anlık karar vermeye güveniyor.

Ancak bu ortamlarda dağıtım yapmak, kendi zorluklarını da beraberinde getiriyor. Uç cihazlar sınırlı hesaplama gücüne, katı gecikme gereksinimlerine ve bellek ile enerji tüketimi kısıtlamalarına sahiptir. Yeterli kaynaklarla eğitim sırasında iyi performans gösteren bir model, bu kısıtlı koşullar altında verimli çalışmayabilir.

Bir modeli doğru formata aktarmak, bu zorlukların üstesinden gelmeye yardımcı olabilir. Model uygun şekilde dönüştürülerek hız için optimize edilebilir, boyutu küçültülebilir ve belirli donanımlarla uyumlu hale getirilebilir.

Aynı zamanda dışa aktarma esneklik sağlar. Aynı model, belirli gereksinimlere göre birden fazla formata dönüştürülerek farklı dağıtım ortamlarına uyarlanabilir.

Şekil 2. Ultralytics Platform içinde mevcut olan bazı dışa aktarma formatları (Kaynak)

Örneğin, NCNN model formatı, düşük kaynak kullanımı olan mobil ve uç cihazlar için optimize edilmiştir. OpenVINO formatı ise Intel donanımı için özel olarak hazırlanmıştır ve merkezi işlem birimleri (CPU'lar), grafik işlem birimleri (GPU'lar) ve sinir işleme birimleri (NPU'lar) üzerinde daha iyi performans sunar.

Çoğu durumda, bu esneklik seviyesine ulaşmak manuel dönüştürme, bağımlılıklar ve birden fazla araçla uğraşmak anlamına geliyordu, bu da süreci zaman alıcı ve karmaşık hale getiriyordu. Ultralytics Platform, model dışa aktarmayı daha erişilebilir ve yönetimi kolay hale getirerek bu iş akışını basitleştirir.

Link to this sectionUltralytics Platform model dışa aktarmayı nasıl basitleştiriyor#

Tipik olarak, bir modeli dışa aktarmak bilgisayarlı görü iş akışlarında ayrı ve karmaşık bir adım olarak ele alınır. Ultralytics Platform, eğitimi dağıtıma kadar her şeyi kapsayan tek bir çalışma alanına doğrudan model dışa aktarma seçeneğini entegre ederek bunu değiştirir.

Temel avantajlarından biri kod gerektirmeyen (no-code) dışa aktarma deneyimidir. Betik yazmaya, ortamları yönetmeye veya çerçeveye özgü komutlar kullanmaya gerek yoktur. Modeller, basit bir arayüz aracılığıyla sadece birkaç tıklamayla dışa aktarılabilir.

Şekil 3. Ultralytics Platform'dan bir modeli dışa aktarma örneği (Kaynak)

Arka planda, platform tüm zor işleri halleder. Normalde birden fazla araç ve manuel kurulum gerektiren görevler tek bir sürece indirgenir. Ekstra bağımlılıklar yüklemek zorunda kalmazsın veya uyumluluk sorunlarıyla uğraşmazsın, bu da eğitilmiş bir modelden üretime hazır bir çözüme geçmeyi çok daha kolaylaştırır.

Link to this sectionUltralytics Platform tarafından desteklenen model dışa aktarma formatları#

Ultralytics Platform, 17 dışa aktarma formatını destekler ve modelleri ek karmaşıklık olmadan çok çeşitli dağıtım ortamları için hazırlamayı kolaylaştırır.

İşte yaygın olarak kullanılan bazı dışa aktarma formatlarına genel bir bakış:

• Platformlar arası ve birlikte çalışabilirlik: ONNX ve TorchScript, modelleri farklı çerçeveler ve ortamlar arasında çalıştırmak için yaygın olarak kullanılır. ONNX, ekosistemler arasında bir köprü görevi görerek modellerin araçlar arasında taşınmasını kolaylaştırırken, TorchScript, bir Python çalışma zamanına ihtiyaç duymadan PyTorch modellerinin üretimde çalıştırılmasını sağlar.
• GPU'larda yüksek performanslı çıkarım: TensorRT, NVIDIA GPU'lar için tasarlanmıştır ve düşük gecikme süresi ile yüksek iş hacmi için modelleri optimize etmeye odaklanır. Çıkarımı hızlandırmak için hassasiyet azaltma ve katman birleştirme gibi teknikleri destekler, bu da onu gerçek zamanlı ve üretim ölçeğindeki uygulamalar için güçlü bir seçenek haline getirir.
• Mobil ve uç dağıtım: CoreML, LiteRT (TensorFlow Lite) ve NCNN, sınırlı hesaplama ve belleğe sahip cihazlar için optimize edilmiştir. Bu formatlar model boyutunu küçültür ve verimliliği artırarak akıllı telefonlarda, gömülü sistemlerde ve uç donanımlarda sorunsuz performans sağlar. CoreML genellikle Apple ekosistemlerinde kullanılırken, LiteRT Android için yaygındır.
• Donanım için optimize edilmiş yürütme: OpenVINO, CPU'lar, GPU'lar ve VPU'lar dahil olmak üzere Intel donanımı için özel olarak hazırlanmıştır ve bu cihazlarda çıkarım hızını ve verimliliğini artırmaya yardımcı olur. Bunun gibi donanıma özel formatlar, belirli bir sistemden en iyi performansı almanız gerektiğinde kullanışlıdır.
• Çerçeveye özgü ve özel çalışma zamanları: PaddlePaddle ve ExecuTorch gibi formatlar, belirli ekosistemleri ve dağıtım ihtiyaçlarını destekler; buna uç cihazlarda verimli model çalıştırma veya belirli derin öğrenme yığınlarıyla entegrasyon dahildir.

Link to this sectionUltralytics Platform kullanarak bir model nasıl dışa aktarılır#

Ultralytics Platform'da bir modeli dışa aktarmak, arayüz tabanlı basit bir işlemdir. Tüm iş akışı, betiklere veya komut satırı araçlarına ihtiyaç duymadan arayüz üzerinden yönetilir.

İşte platformu kullanarak bir modeli nasıl dışa aktarabileceğin:

• Giriş yap ve modelini seç: Projene git ve dışa aktarmak istediğin eğitilmiş modeli aç.
• Dışa Aktar sekmesine git: Model paneli içinde, mevcut dışa aktarma seçeneklerini görüntülemek için Dışa Aktar sekmesine tıkla.
• Bir dışa aktarma formatı seç: Dağıtım ihtiyaçlarına göre ONNX, TensorRT veya CoreML gibi bir format seç.
• Dışa aktarma ayarlarını yapılandır (isteğe bağlı): Performansı optimize etmek için görüntü boyutu, hassasiyet veya yığın boyutu (batch size) gibi parametreleri ayarla.
• Dışa aktarma işlemini başlat: İşlemi başlatmak için “Dışa Aktarmayı Başlat” düğmesine tıkla. Platform dönüşümü otomatik olarak halleder.
• Dışa aktarılan modeli indir: Dışa aktarma tamamlandığında, modeli indirebilir ve dağıtım hattında kullanabilirsin.

Şekil 4. Ultralytics Platform'da dışa aktarma ayarlarını yapılandırmaya bir bakış

Link to this sectionDoğru dışa aktarma formatını seçmek#

Ultralytics Platform tarafından desteklenen farklı dışa aktarma formatlarını keşfederken hangisini seçeceğini merak edebilirsin. Cevap tamamen modelini nerede ve nasıl kullanmayı planladığına bağlıdır.

İşte dikkate alman gereken birkaç faktör:

• Gecikme gereksinimleri: Video analitiği veya otonom sistemler gibi gerçek zamanlı uygulamalar için düşük gecikme süresi kritiktir. TensorRT gibi yüksek performanslı çıkarım için optimize edilmiş formatlar genellikle daha uygundur.
• Donanım kısıtlamaları: Cep telefonları veya gömülü sistemler gibi sınırlı bellek ve işlem gücüne sahip cihazlar, LiteRT veya NCNN gibi hafif formatlar gerektirir.
• Model boyutu ve güç tüketimi: Uç cihazlarla çalışırken, model boyutu ve güç tüketimi önem kazanır. Daha küçük ve optimize edilmiş modeller, kaynakları tüketmeden tutarlı performans sağlamaya yardımcı olur.
• Dağıtım ortamı: Modelinin farklı platformlarda çalışması gerekiyorsa, ONNX gibi formatlar esneklik sunar. iOS uygulamaları gibi platforma özel kullanım durumları için CoreML genellikle daha iyi bir seçimdir.

Tek bir "herkese uyan" format yoktur. Her şey performans, uyumluluk ve hedef ortamının sınırlamaları arasında bir denge kurmaya dayanır. Ultralytics Platform, ekstra çaba harcamadan farklı formatları denemene ve karşılaştırmana olanak tanıyarak bunu kolaylaştırır.

Link to this sectionÖnemli çıkarımlar#

Dışa aktarma, modelini farklı ortamlarda gerçek dünya kullanımına hazır hale getirmede hayati bir adımdır. Ultralytics Platform ile bu süreç çok daha basit hale gelir ve ekstra kurulum veya karmaşıklık olmadan modelleri dönüştürmene ve optimize etmene olanak tanır. Kullanım durumun için doğru formatı seçerek, modelinin nereye dağıtırsan dağıt verimli bir şekilde çalışmasını sağlayabilirsin.

Büyüyen topluluğumuza katıl ve bilgisayarlı görü hakkında daha fazla bilgi edinmek için GitHub depomuza göz at. Robotikte yapay zeka ve lojistikte bilgisayarlı görü gibi uygulamalar hakkında daha fazla bilgi edinmek için çözüm sayfalarımızı keşfet. Lisanslama seçeneklerimizi keşfet ve görü yapay zekası ile inşa etmeye başla!