Daha İyi Performans İçin Ultralytics YOLOv5'i Deci ile Derleme ve Nicemleme

Ultralytics olarak YOLOv5 gibi açık kaynaklı araçlarımızın araştırma ve geliştirme çalışmalarını finanse etmemize ve araçlarımızı herkes için ücretsiz tutmamıza yardımcı olmaları için diğer startup'larla ticari ortaklıklar kuruyoruz. Bu makalede söz konusu ortaklara ait satış ortaklığı bağlantıları bulunabilir.

Güncelleme: NVIDIA, Deci'yi 2024'te satın aldı ve deci.ai artık NVIDIA'ya yönlendiriyor. Deci platformuna ilişkin aşağıdaki adımlar başvuru amacıyla korunmuştur.

Deci platformu, YOLOv5 modellerini herhangi bir üretim ortamında kolayca yönetmek, optimize etmek ve dağıtmak için ücretsiz araçlar içerir. Deci; TensorFlow, PyTorch, Keras ve ONNX gibi popüler tüm derin öğrenme çerçevelerini destekler. Çalıştırmak için web tabanlı platformumuzu kullanman veya kodundan çalıştırmak üzere Python istemcimizi kullanman yeterlidir.

Neden Deci?#

Deci'yi yalnızca dışa aktarma için değil, modeli budamak ve nicemlemek için de kullanabilirsin.

Deci, herhangi bir biçimde dışa aktarma ve özgün modellerle dönüştürülmüş modellerin performansını karşılaştırma olanağı sunan kullanışlı bir arayüz sağlar. Kullanıcılar, nicemleme yoluyla modellerini daha da optimize edebilir.

Deci ile yapabileceklerin:#

Çıkarım performansını 10 kata kadar artır#

Daha iyi gecikme süresi ve iş hacmi elde etmek, model boyutunu ve donanımındaki bellek kullanımını azaltmak için modellerini otomatik olarak derleyip kuantize et ve farklı üretim ayarlarını değerlendir.

Uygulaman için en uygun çıkarım donanımını bul#

Bir düğmeye basarak modelinin çeşitli donanımlardaki (uç cihazlar dâhil) performansını kıyasla. Birden fazla donanım ve üretim ayarını elle kurup test etme ihtiyacını ortadan kaldır.

Birkaç satır kodla dağıtım yap#

Deci'nin Python tabanlı çıkarım motorundan yararlan. Birden fazla çerçeve ve donanım türüyle uyumludur.

İlk kurulum#

Adım 1#

Ücretsiz hesabını aç.

Adım 2#

Önceden eğitilmiş YOLOv5 modelini optimize etmeye başlamak için modeli ONNX biçimine dönüştürmen gerekir. Modelini ONNX biçimine nasıl dönüştüreceğine ilişkin yönergeler için YOLOv5 dışa aktarma eğitimine göz at.

Adım 3#

"Lab" sekmesine git ve YOLOv5 ONNX modelini yüklemek için ekranın sağ üst kısmındaki "New Model" düğmesine tıkla.

Model derlemesi için hedef donanımını, istediğin toplu iş boyutunu ve niceleme düzeyini seçmek üzere model yükleme sihirbazındaki adımları izle.

İlgili bilgileri doldurduktan sonra "Start" düğmesine tıkla. Deci platformu, Ultralytics YOLOv5 modelinin çalışma zamanı optimizasyonunu seçtiğin donanım için otomatik olarak gerçekleştirir ve modelini çeşitli donanım türlerinde kıyaslar. Bu işlem yaklaşık 10 dakika sürer.

İşlem tamamlandığında, daha önce yüklediğin temel modelin altında ekranda yeni bir satır belirir. Burada, önceden eğitilmiş Ultralytics YOLOv5 modelinin optimize edilmiş sürümünü görebilirsin.

Sırada Ne Var?#

Optimize edilmiş modelini "Deploy" düğmesine tıklayarak indirebilirsin.

Ardından modelini indirmen ve Infery'yi (Deci'nin çalışma zamanı çıkarım motoru) nasıl kurup kullanacağına ilişkin talimatları alman istenecek.

Infery kullanmak isteğe bağlıdır. Ham Python dosyalarını alabilir ve seçtiğin başka herhangi bir çıkarım motoruyla kullanabilirsin.

Optimizasyon ve kıyaslama sonuçlarını "Insights" sekmesinde incele.

Başlamaya Hazır mısın?#

Bitirmeden önce Deci'nin sunduğu bazı avantajları ele alalım:

• Doğruluktan ödün vermeden modelinin çıkarım verimini ve gecikme süresini optimize et
• Popüler tüm framework'lerdeki modelleri optimize etmene olanak tanır
• Her türlü derin öğrenme görevine yönelik modelleri destekler
• Popüler CPU ve GPU makinelerinde dağıtımı destekler
• Modelinin farklı donanım ana makinelerindeki ve bulut sağlayıcılarındaki uygunluğunu kıyaslar
• Yüklenen modelleri sunuma, çıkarıma ve dağıtıma hazır hâle getirir

Az önce gördüğün gibi, bir Ultralytics YOLOv5 modelinin performansını yaklaşık 15 dakikada iki katına çıkarabilirsin. Deci platformunun kullanımı kolay ve sezgiseldir.

Sorun mu var? Topluluğumuza katıl ve sorunu bugün paylaş!