Ultralytics YOLO11'i OpenVINO™ kullanarak sorunsuzca dağıt
Ultralytics YOLO11'i OpenVINO™ formatına aktarmanın Intel® donanımında ışık hızında çıkarımı nasıl mümkün kıldığını, hızı, ölçeklenebilirliği ve doğruluğu nasıl artırdığını öğren.
Yapay zekânın benimsenmesi, yapay zekâ çözümlerinin erişilebilir olmasına bağlıdır ve bunun büyük bir bölümü, bu çözümleri insanların zaten sahip olduğu donanımlarda kolayca dağıtılabilir hâle getirmektir. Yapay zekâ modellerini GPU'larda (grafik işlem birimleri) çalıştırmak, performans ve paralel işlem gücü açısından harika bir seçenektir.
Ancak gerçek şu ki, özellikle uç ortamlarda veya günlük kullanılan dizüstü bilgisayarlarda herkes yüksek performanslı GPU'lara erişemiyor. Bu nedenle modelleri merkezi işlem birimleri (CPUs), tümleşik GPU'lar ve sinirsel işlem birimleri (NPUs) gibi daha yaygın olarak bulunan donanımlarda verimli şekilde çalışacak biçimde optimize etmek çok önemlidir.
Bilgisayarlı görü, örneğin, makinelerin görüntüleri ve video akışlarını gerçek zamanlı olarak analiz edip anlamasını sağlayan bir yapay zekâ dalıdır. Ultralytics YOLO11 gibi görüntü yapay zekâsı modelleri, nesne algılama ve örnek bölütleme gibi temel görevleri destekleyerek perakende analitiğinden tıbbi tanıya kadar çeşitli uygulamalara güç verir.
Şekil 1. Bir perakende mağazasında nesneleri algılamak ve bölütlemek için Ultralytics YOLO11 kullanımı.
Bilgisayarlı görüyü daha geniş kitleler için erişilebilir hâle getirmek amacıyla Ultralytics, yapay zekâ çıkarımını CPU'lar, GPU'lar ve NPU'lar genelinde optimize edip çalıştırmaya yönelik bir açık kaynak projesi olan OpenVINO araç setiyle güncellenmiş bir entegrasyon yayımladı.
Bu entegrasyon sayesinde YOLO11 modellerini dışa aktarmak ve dağıtmak daha kolay hâle geliyor; CPU'larda 3 kata kadar daha hızlı çıkarım ve Intel GPU'ları ile NPU'larda hızlandırılmış performans sunuluyor. Bu makalede, YOLO11 modellerini OpenVINO biçimine aktarmak ve çıkarım için kullanmak üzere Ultralytics Python paketinin nasıl kullanılacağını adım adım ele alacağız. Başlayalım!
Ultralytics YOLO11'e genel bakış#
Ultralytics tarafından desteklenen OpenVINO entegrasyonunun ayrıntılarına geçmeden önce, YOLO11'i güvenilir ve etkili bir bilgisayarlı görü modeli yapan özelliklere daha yakından bakalım. YOLO11, Ultralytics YOLO serisinin en yeni modeli olup hız ve doğruluk açısından önemli iyileştirmeler sunar.
Öne çıkan özelliklerinden biri verimliliğidir. Örneğin, Ultralytics YOLO11m, Ultralytics YOLOv8m'den %22 daha az parametreye sahip olmasına rağmen COCO veri kümesinde daha yüksek ortalama kesinlik (mAP) elde eder. Bu, daha hızlı çalıştığı ve nesneleri daha doğru algıladığı anlamına gelir; dolayısıyla performansın ve yanıt verme hızının kritik olduğu gerçek zamanlı uygulamalar için idealdir.
Şekil 2. Ultralytics YOLO11'in performans karşılaştırmaları.
YOLO11, nesne algılamanın yanı sıra örnek bölütleme, poz tahmini, görüntü sınıflandırma, nesne izleme ve yönlendirilmiş sınırlayıcı kutu algılama gibi çeşitli gelişmiş bilgisayarlı görü görevlerini destekler. YOLO11 ayrıca geliştirici dostudur; Ultralytics Python paketi, modelleri eğitmek, değerlendirmek ve dağıtmak için basit ve tutarlı bir arayüz sağlar.
Buna ek olarak Ultralytics Python paketi, OpenVINO, ONNX ve TorchScript dahil olmak üzere çeşitli entegrasyonları ve birden çok dışa aktarma biçimini destekler; böylece YOLO11'i çeşitli dağıtım işlem hatlarına kolayca entegre edebilirsin. İster bulut altyapısını, ister uç cihazları, ister gömülü sistemleri hedefliyor ol, dışa aktarma süreci basit ve donanım gereksinimlerine uyarlanabilirdir.
OpenVINO™ nedir?#
OpenVINO™ (Açık Görsel Çıkarım ve Sinir Ağı Optimizasyonu), yapay zekâ çıkarımını çok çeşitli donanımlarda optimize edip dağıtmaya yönelik açık kaynaklı bir araç setidir. Geliştiricilerin CPU'lar, tümleşik ve ayrık GPU'lar, NPU'lar ve sahada programlanabilir kapı dizileri (FPGAs) dahil olmak üzere çeşitli Intel platformlarında yüksek performanslı çıkarım uygulamalarını verimli şekilde çalıştırmasını sağlar.
OpenVINO, cihaza özel eklentiler aracılığıyla donanım farklılıklarını soyutlayan birleşik bir çalışma zamanı arayüzü sunar. Bu, geliştiricilerin kodu bir kez yazıp tutarlı bir API kullanarak birden çok Intel donanım hedefinde dağıtabilmesi anlamına gelir.
OpenVINO'yu dağıtım için harika bir seçenek yapan temel özelliklerden bazıları şunlardır:
- Model dönüştürücü: Bu araç, PyTorch, ONNX, TensorFlow, PaddlePaddle ve diğerleri gibi popüler çerçevelerden modelleri dönüştürür ve hazırlar; böylece bu modeller Intel donanımında verimli çıkarım için optimize edilebilir.
- Heterojen yürütme: Farklı Intel donanımları için kodunu yeniden yazman gerekmez. OpenVINO, CPU'lardan GPU'lara kadar desteklenen tüm donanımlarda aynı modeli çalıştırmayı kolaylaştırır.
- Nicemleme desteği: Araç seti, model boyutunu küçültmeye ve doğruluğu önemli ölçüde etkilemeden çıkarımı hızlandırmaya yardımcı olan FP16 (varsayılan) ve INT8 gibi düşük hassasiyetli biçimleri destekler.
Şekil 3. OpenVINO çeşitli dağıtım seçenekleri sunar.
Ultralytics x OpenVINO entegrasyonunu keşfetme#
OpenVINO'nun ne olduğunu ve önemini incelediğimize göre, Ultralytics YOLO11 modellerini OpenVINO biçimine nasıl aktaracağını ve Intel donanımında verimli çıkarımı nasıl çalıştıracağını ele alalım.
Adım: Ultralytics Python paketini yükleme#
Bir modeli OpenVINO biçimine aktarmak için önce Ultralytics Python paketini yüklemen gerekir. Bu paket, YOLO11 dahil olmak üzere YOLO modellerini eğitmek, değerlendirmek ve dışa aktarmak için ihtiyacın olan her şeyi sağlar.
Terminalinde veya komut isteminde "pip install ultralytics" komutunu çalıştırarak yükleyebilirsin. Jupyter Notebook veya Google Colab gibi etkileşimli bir ortamda çalışıyorsan komutun önüne bir ünlem işareti eklemen yeterlidir.
Ayrıca yükleme sırasında veya dışa aktarma işlemi esnasında herhangi bir sorunla karşılaşırsan, Ultralytics belgeleri ve sorun giderme kılavuzları tekrar yoluna devam etmene yardımcı olacak harika kaynaklardır.
Adım: Ultralytics YOLO11 modelini OpenVINO biçimine aktar#
Ultralytics paketi kurulduktan sonra sıradaki adım, YOLO11 modelini yüklemek ve OpenVINO ile uyumlu bir biçime dönüştürmektir.
Aşağıdaki örnekte önceden eğitilmiş bir YOLO11 modeli ("yolo11n.pt") kullanıyoruz. Dışa aktarma işlevi, modeli OpenVINO biçimine dönüştürmek için kullanılıyor. Bu kod çalıştırıldıktan sonra dönüştürülen model, "yolo11n_openvino_model" adlı yeni bir dizine kaydedilir.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="openvino")Adım: Dışa aktarılan modelle çıkarım çalıştır#
YOLO11 modelin OpenVINO biçimine aktarıldıktan sonra iki şekilde çıkarım çalıştırabilirsin: Ultralytics Python paketini veya yerel OpenVINO Runtime'ı kullanarak.
Ultralytics Python paketini kullanma#
Dışa aktarılan YOLO11 modeli, aşağıdaki kod parçacığında gösterildiği gibi Ultralytics Python paketi kullanılarak kolayca dağıtılabilir. Bu yöntem, hızlı denemeler ve Intel donanımında basitleştirilmiş dağıtım için idealdir.
Sisteminde bulunan Intel donanımına bağlı olarak çıkarım için "intel:cpu", "intel:gpu" veya "intel:npu" gibi hangi cihazın kullanılacağını da belirtebilirsin.
ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")Yukarıdaki kodu çalıştırdıktan sonra çıktı görüntüsü "runs/detect/predict" dizinine kaydedilir.
Şekil 4. Görüntüde nesneleri algılamak için dışa aktarılmış Ultralytics YOLO11 modelinin kullanılması.
Yerel OpenVINO Runtime'ı kullanma#
Özellikle üretim ortamlarında çıkarımı çalıştırmak için özelleştirilebilir bir yol arıyorsan OpenVINO Runtime, modelinin nasıl yürütüldüğü üzerinde daha fazla kontrol sağlar. Eş zamanlı yürütme (birden çok çıkarım isteğini paralel olarak çalıştırma) ve yük dengeleme (çıkarım iş yüklerini Intel donanımına verimli şekilde dağıtma) gibi gelişmiş özellikleri destekler.
Yerel çalışma zamanını kullanmak için dışa aktarılan model dosyalarına ihtiyacın olacak: ağ mimarisini tanımlayan bir .xml dosyası ve modelin eğitilmiş ağırlıklarını depolayan bir .bin dosyası. Uygulamana bağlı olarak giriş boyutları veya ön işleme adımları gibi ek parametreleri de yapılandırabilirsin.
Tipik bir dağıtım akışı OpenVINO çekirdeğini başlatmayı, modeli hedef cihaz için yükleyip derlemeyi, girdiyi hazırlamayı ve çıkarımı yürütmeyi içerir. Ayrıntılı örnekler ve adım adım yönergeler için resmî Ultralytics OpenVINO belgelerine başvur.
Ultralytics x OpenVINO entegrasyonunu neden seçmelisin?#
Ultralytics entegrasyonlarını incelerken Ultralytics Python paketinin YOLO11 modellerini TorchScript, CoreML, TensorRT ve ONNX gibi çeşitli biçimlere aktarmayı desteklediğini fark edeceksin. Peki OpenVINO entegrasyonunu neden seçmelisin?
OpenVINO dışa aktarma biçiminin Intel donanımında model dağıtımı için harika bir seçim olmasının nedenlerinden bazıları şunlardır:
- Performans kazanımları: Intel CPU'larda 3 kata kadar daha hızlı çıkarım elde edebilir, tümleşik GPU'lar ve NPU'larda ek hızlandırmadan yararlanabilirsin.
- Yeniden eğitim gerekmez: Mevcut Ultralytics YOLO11 modellerini değiştirmeden veya yeniden eğitmeden doğrudan OpenVINO biçimine aktarabilirsin.
- Ölçeklenebilirlik için tasarlandı: Aynı dışa aktarılmış model, düşük güç tüketimli uç cihazlarda ve büyük ölçekli bulut altyapısında dağıtılabilir; bu da ölçeklenebilir yapay zekâ dağıtımını basitleştirir.
OpenVINO™ Model Hub'da Ultralytics YOLO11 modelinin çeşitli Intel® platformlarındaki performans karşılaştırmalarını da değerlendirebilirsin. OpenVINO Model Hub, geliştiricilerin yapay zekâ modellerini Intel donanımında değerlendirmesine ve OpenVINO'nun Intel CPU'ları, yerleşik GPU'lar, NPU'lar ve ayrık grafik işlemcilerindeki performans avantajını keşfetmesine olanak tanıyan bir kaynaktır.
Şekil 5. OpenVINO™ Model Hub: Çeşitli Intel® platformlarında Ultralytics YOLO11 modelinin performans karşılaştırmaları.
Ultralytics YOLO11 ve OpenVINO dışa aktarma biçiminin uygulamaları#
OpenVINO entegrasyonunun yardımıyla Ultralytics YOLO11 modellerini gerçek dünyadaki durumlarda Intel donanımında dağıtmak çok daha kolay hâle gelir.
Buna harika bir örnek, Ultralytics YOLO11'in boş rafları gerçek zamanlı olarak algılamaya, azalan ürünleri izlemeye ve müşterilerin mağazada nasıl hareket ettiğini analiz etmeye yardımcı olabildiği akıllı perakendedir. Bu sayede perakendeciler envanter yönetimini iyileştirebilir ve mağaza düzenlerini müşteri etkileşimini artıracak şekilde optimize edebilir.
Benzer şekilde akıllı şehirlerde YOLO11, araçları sayarak, yayaları izleyerek ve kırmızı ışık ihlallerini gerçek zamanlı olarak algılayarak trafiği izlemek için kullanılabilir. Bu içgörüler trafik akışının optimize edilmesini, yol güvenliğinin artırılmasını ve otomatik denetim sistemlerinin desteklenmesini sağlayabilir.
Şekil 6. YOLO11 kullanarak araçları sayma.
Bir diğer ilgi çekici kullanım alanı, Ultralytics YOLO11'in üretim hatlarında eksik bileşenler, hizalama bozuklukları veya yüzey hasarı gibi görsel kusurları otomatik olarak algılamak için dağıtılabildiği endüstriyel denetimdir. Bu, verimliliği artırır, maliyetleri düşürür ve daha iyi ürün kalitesini destekler.
OpenVINO araç setini kullanırken göz önünde bulundurulması gereken temel faktörler#
Ultralytics YOLO11 modellerini OpenVINO ile dağıtırken en iyi sonuçları elde etmek için aklında bulundurman gereken birkaç önemli nokta şunlardır:
- Donanım uyumluluğunu kontrol et: Modelin verimli şekilde çalışabilmesi için CPU, tümleşik GPU veya NPU fark etmeksizin Intel donanımının OpenVINO tarafından desteklendiğinden emin ol.
- Doğru sürücüleri yükle: Intel GPU'ları veya NPU'ları kullanıyorsan gerekli tüm sürücülerin düzgün şekilde yüklendiğini ve güncel olduğunu tekrar kontrol et.
- Hassasiyet ödünleşimlerini anla: OpenVINO, FP32, FP16 ve INT8 model hassasiyetlerini destekler. Her biri hız ve doğruluk arasında bir ödünleşim sunar; bu nedenle performans hedeflerine ve mevcut donanıma göre doğru seçeneği belirlemek önemlidir.
Önemli çıkarımlar#
Ultralytics YOLO11'i OpenVINO biçimine aktarmak, hızlı ve verimli görüntü yapay zekâsı modellerini Intel donanımında çalıştırmayı kolaylaştırır. Yeniden eğitim yapmana veya kodunu değiştirene gerek kalmadan CPU'lar, GPU'lar ve NPU'lar genelinde dağıtım yapabilirsin. Basitliği ve ölçeklenebilirliği korurken performansı artırmanın harika bir yoludur.
Ultralytics Python paketinde yerleşik destek sayesinde OpenVINO ile dışa aktarma ve çıkarım çalıştırma işlemleri basittir. Yalnızca birkaç adımda modelini optimize edebilir ve çeşitli Intel platformlarında çalıştırabilirsin. İster akıllı perakende, ister trafik izleme, ister endüstriyel denetim üzerinde çalışıyor ol, bu iş akışı geliştirmeden dağıtıma hızlı ve güvenli bir şekilde geçmene yardımcı olur.
Ultralytics tarafından desteklenen etkili entegrasyonlar hakkında daha fazla bilgi edinmek için YOLO topluluğuna katıl ve Ultralytics GitHub deposuna göz at. Ayrıca bugün bilgisayarlı görüyle çalışmaya başlamak için Ultralytics lisans seçeneklerine göz at!
Ultralytics × OpenVINO entegrasyonunu uygulamalı olarak görmek için yaklaşan web seminerimize kaydol ve yapay zekâyı geniş ölçekte optimize edip dağıtmaya yönelik araçları keşfetmek için OpenVINO web sitesini ziyaret et.
