Intel OpenVINO üzerinde çıkarım için Ultralytics YOLOv8'i dışa aktar ve optimize et

Bu blog yazısında, önceden eğitilmiş veya özel olarak eğitilmiş Ultralytics YOLOv8 modelini OpenVINO kullanarak çıkarım için nasıl dışarı aktarabileceğini ve optimize edebileceğini inceleyeceğiz. İster CPU ister GPU olsun Intel tabanlı bir sistem kullanıyor ol, bu kılavuz minimum çabayla modelini önemli ölçüde hızlandırmanı sağlayacaktır.

Neden Ultralytics YOLOv8 modelini OpenVINO ile optimize etmelisin?#

Ultralytics YOLOv8 modelini OpenVINO ile optimize etmek, özellikle bir Intel CPU çalıştırıyorsan çıkarım görevlerinde 3 kata kadar hız artışı sağlayabilir. Bu performans artışı, nesne algılama işlemlerinden bölütleme ve güvenlik sistemlerine kadar gerçek zamanlı uygulamalarda büyük bir fark yaratabilir.

Ultralytics YOLOv8 modelini dışa aktarma ve optimize etme adımları#

Süreci anlama#

Öncelikle süreci parçalara ayıralım. Bir PyTorch modelini ONNX'e dönüştüreceğiz ve ardından OpenVINO kullanarak optimize edeceğiz. Bu süreç birkaç basit adımdan oluşur ve TensorFlow, PyTorch, Caffe ve ONNX dahil olmak üzere çeşitli modeller ve formatlar için uygulanabilir.

Modeli dışa aktarma#

Ultralytics belgelerine baktığımızda, bir YOLOv8 modelini dışarı aktarmanın Ultralytics çerçevesindeki export yöntemini kullanmayı gerektirdiğini görüyoruz. Bu yöntem, modelimizi PyTorch'tan ONNX formatına dönüştürmemize ve nihayetinde OpenVINO için optimize etmemize olanak tanır. Sonuç, Intel'in güçlü donanımından yararlanarak çok daha hızlı çalışan bir modeldir.

Bağımlılıkları yükleme#

Dışa aktarma betiğini çalıştırmadan önce, gerekli tüm bağımlılıkların yüklü olduğundan emin olman gerekir. Bunlar arasında Ultralytics kütüphanesi, ONNX ve OpenVINO bulunur. Bu paketleri yüklemek, Python paket yükleyicisi pip aracılığıyla yapılabilen basit bir işlemdir.

Dışa aktarma betiğini çalıştırma#

Ortamını kurduktan sonra dışa aktarma betiğini çalıştırabilirsin. Bu betik, PyTorch modelini ONNX'e ve ardından OpenVINO'ya dönüştürecektir. Süreç basittir ve dışa aktarma işlemini gerçekleştirmek için tek bir fonksiyonu çağırmayı içerir. Ultralytics çerçevesi, modellerini dönüştürmeyi ve optimize etmeyi kolaylaştırarak en az zahmetle en iyi performansı almanı sağlar.

Şekil 1. Nicolai Nielsen dışarı aktarma betiğinin nasıl çalıştırılacağını anlatıyor.

Performansı karşılaştırma#

Dışa aktardıktan sonra, orijinal ve optimize edilmiş modellerin performansını karşılaştırmak önemlidir. Her iki modelin çıkarım süresini kıyaslayarak performans kazanımlarını net bir şekilde görebilirsin. Genellikle OpenVINO modeli, orijinal PyTorch modeline kıyasla çıkarım süresinde önemli bir azalma gösterecektir. Bu, performans artışının en belirgin olduğu daha büyük modeller için özellikle geçerlidir.

Gerçek dünya uygulamaları ve avantajları#

Ultralytics YOLOv8 modellerini OpenVINO ile optimize etmek, gerçek zamanlı işleme gerektiren uygulamalar için özellikle faydalıdır. İşte birkaç örnek:

• Güvenlik Sistemleri: Gerçek zamanlı nesne algılama, güvenlik personelini anında uyararak güvenliği ve yanıt verme hızını artırabilir.
• Otonom Araçlar: Daha hızlı çıkarım hızları, otonom sürüş sistemlerinin yanıt verme hızını artırarak onları daha güvenli ve daha güvenilir hale getirir.
• Sağlık Hizmetleri: Tanı araçları için hızlı görüntü işleme, daha hızlı sonuçlar sağlayarak zamanında müdahalelere izin verebilir ve hayat kurtarabilir.

Bu optimizasyonları uygulayarak sadece performansı iyileştirmekle kalmaz, aynı zamanda uygulamalarının güvenilirliğini ve verimliliğini de artırırsın. Bu, daha iyi kullanıcı deneyimleri, artan üretkenlik ve daha yenilikçi çözümlerle sonuçlanabilir.

Toparlarken#

Bir Ultralytics YOLOv8 modelini OpenVINO için dışa aktarmak ve optimize etmek, daha hızlı ve daha verimli yapay zeka uygulamaları için Intel donanımından yararlanmanın güçlü bir yoludur. Yalnızca birkaç basit adımda modelinin performansını dönüştürebilir ve bunu gerçek dünya senaryolarına etkili bir şekilde uygulayabilirsin.

Yapay zeka projelerini geliştirmeye devam etmek için Ultralytics'in daha fazla öğreticisini ve kılavuzunu incelediğinden emin ol. Daha fazla içgörü ve güncelleme için GitHub depomuzu ziyaret et ve Ultralytics topluluğuna katış. Birlikte yenilikler yapalım!

Unutma, modellerini optimize etmek sadece hız ile ilgili değildir; yeni olasılıkların kilidini açmak ve yapay zeka çözümlerinin sağlam, verimli ve geleceğe hazır olduğundan emin olmakla ilgilidir.