OpenVINO™ kullanarak Ultralytics YOLO11'i sorunsuz bir şekilde dağıt
Ultralytics YOLO11'i OpenVINO™ formatına dışa aktarmanın, Intel® donanımı üzerinde ışık hızında çıkarımı nasıl sağladığını, hızı, ölçeklenebilirliği ve doğruluğu nasıl artırdığını öğren.
Yapay zekanın benimsenmesi, yapay zeka çözümlerinin erişilebilir olmasına bağlıdır ve bunun büyük bir parçası da bu çözümlerin insanların halihazırda sahip olduğu donanımlarda kolayca dağıtılabilmesini sağlamaktır. Yapay zeka modellerini GPU'larda (grafik işleme birimleri) çalıştırmak, performans ve paralel işlem gücü açısından harika bir seçenektir.
Ancak gerçek şu ki, herkes, özellikle uç ortamlarda veya günlük dizüstü bilgisayarlarda üst düzey GPU'lara erişemez. Bu nedenle modelleri; merkezi işlem birimleri (CPU'lar), entegre GPU'lar ve sinir işleme birimleri (NPU'lar) gibi daha yaygın olarak bulunan donanımlarda verimli bir şekilde çalışacak şekilde optimize etmek çok önemlidir.
Örneğin bilgisayarlı görü, makinelerin görüntüleri ve video akışlarını gerçek zamanlı olarak analiz etmesini ve anlamasını sağlayan bir yapay zeka dalıdır. Ultralytics YOLO11 gibi görü yapay zekası modelleri, perakende analizlerinden tıbbi teşhislere kadar pek çok uygulamaya güç veren nesne tespiti ve örnek segmentasyonu gibi temel görevleri destekler.
Şekil 1. Bir perakende mağazasında nesneleri tespit etmek ve segmentlere ayırmak için Ultralytics YOLO11 kullanımı.
Bilgisayarlı görü teknolojisini daha geniş kitleler için erişilebilir kılmak amacıyla Ultralytics, CPU'lar, GPU'lar ve NPU'lar üzerinde yapay zeka çıkarımını optimize etmek ve çalıştırmak için tasarlanmış açık kaynaklı bir proje olan OpenVINO araç setiyle güncellenmiş bir entegrasyon yayınladı.
Bu entegrasyon sayesinde YOLO11 modellerini CPU'larda 3 kata kadar daha hızlı çıkarımla ve Intel GPU ile NPU'larında hızlandırılmış performansla dışarı aktarmak ve dağıtmak çok daha kolay. Bu makalede, YOLO11 modellerini OpenVINO formatına dışarı aktarmak ve çıkarım için kullanmak üzere Ultralytics Python paketini nasıl kullanacağınızı adım adım inceleyeceğiz. Hadi başlayalım!
Ultralytics YOLO11'e genel bakış#
Ultralytics tarafından desteklenen OpenVINO entegrasyonunun ayrıntılarına dalmadan önce, YOLO11'i güvenilir ve etkili bir bilgisayarlı görü modeli yapan şeyin ne olduğuna daha yakından bakalım. YOLO11, Ultralytics YOLO serisindeki en son modeldir ve hem hız hem de doğruluk açısından önemli geliştirmeler sunar.
Temel özelliklerinden biri verimliliktir. Örneğin, Ultralytics YOLO11m, Ultralytics YOLOv8m'den %22 daha az parametreye sahiptir, ancak COCO veri setinde daha yüksek bir ortalama hassasiyet (mAP) elde eder. Bu, daha hızlı çalıştığı ve nesneleri daha doğru bir şekilde algıladığı anlamına gelir; bu da onu performans ve yanıt verebilirliğin kritik olduğu gerçek zamanlı uygulamalar için ideal kılar.
Şekil 2. Ultralytics YOLO11 performans kıyaslamaları.
YOLO11, nesne tespitinin ötesinde örnek segmentasyonu, poz tahmini, görüntü sınıflandırma, nesne takibi ve yönlendirilmiş sınırlayıcı kutu tespiti gibi çeşitli gelişmiş bilgisayarlı görü görevlerini destekler. Ayrıca YOLO11 geliştirici dostudur; Ultralytics Python paketi, modelleri eğitmek, değerlendirmek ve dağıtmak için basit ve tutarlı bir arayüz sağlar.
Buna ek olarak Ultralytics Python paketi, çeşitli entegrasyonları ve OpenVINO, ONNX, TorchScript dahil olmak üzere çoklu dışa aktarma formatlarını destekleyerek YOLO11'i farklı dağıtım boru hatlarına kolayca entegre etmenize olanak tanır. İster bulut altyapısını, ister uç cihazları veya gömülü sistemleri hedefliyor olun, dışa aktarma süreci basittir ve donanım ihtiyaçlarınıza göre uyarlanabilir.
OpenVINO™ nedir?#
OpenVINO™ (Açık Görsel Çıkarım ve Sinir Ağı Optimizasyonu), çok çeşitli donanımlarda yapay zeka çıkarımını optimize etmek ve dağıtmak için kullanılan açık kaynaklı bir araç setidir. Geliştiricilerin CPU'lar, entegre ve ayrık GPU'lar, NPU'lar ve alanda programlanabilir kapı dizileri (FPGA'ler) dahil olmak üzere çeşitli Intel platformlarında yüksek performanslı çıkarım uygulamalarını verimli bir şekilde çalıştırmalarını sağlar.
OpenVINO, donanım farklılıklarını cihaza özel eklentiler aracılığıyla soyutlayan birleşik bir çalışma zamanı arayüzü sağlar. Bu, geliştiricilerin kodu bir kez yazıp tutarlı bir API kullanarak birden fazla Intel donanım hedefi genelinde dağıtabileceği anlamına gelir.
İşte OpenVINO'yu dağıtım için harika bir seçenek haline getiren temel özelliklerden bazıları:
- Model dönüştürücü: Bu araç, PyTorch, ONNX, TensorFlow, PaddlePaddle ve diğerleri gibi popüler çerçevelerden modelleri dönüştürür ve hazırlar, böylece Intel donanımında verimli çıkarım için optimize edilebilirler.
- Heterojen yürütme: Kodunuzu farklı Intel donanımları için yeniden yazmanıza gerek yoktur. OpenVINO, aynı modeli CPU'lardan GPU'lara kadar desteklenen herhangi bir donanımda çalıştırmayı kolaylaştırır.
- Niceleme desteği: Araç seti, model boyutunu küçültmeye ve doğruluğu önemli ölçüde etkilemeden çıkarımı hızlandırmaya yardımcı olan FP16 (varsayılan) ve INT8 gibi düşük hassasiyetli formatları destekler.
Şekil 3. OpenVINO, çeşitli dağıtım seçenekleri sunar.
Ultralytics x OpenVINO entegrasyonunu keşfetme#
OpenVINO'nun ne olduğunu ve önemini keşfettiğimize göre, Ultralytics YOLO11 modellerini OpenVINO formatına nasıl dışarı aktaracağımızı ve Intel donanımı üzerinde nasıl verimli çıkarım çalıştıracağımızı konuşalım.
Adım: Ultralytics Python paketini yükle#
Bir modeli OpenVINO formatına dışarı aktarmak için öncelikle Ultralytics Python paketini yüklemeniz gerekir. Bu paket, YOLO11 dahil olmak üzere YOLO modellerini eğitmek, değerlendirmek ve dışarı aktarmak için ihtiyacınız olan her şeyi sağlar.
Terminalinizde veya komut isteminizde "pip install ultralytics" komutunu çalıştırarak yükleyebilirsiniz. Jupyter Notebook veya Google Colab gibi etkileşimli bir ortamda çalışıyorsanız, komutun önüne bir ünlem işareti eklemeniz yeterlidir.
Ayrıca kurulum sırasında veya dışa aktarma esnasında herhangi bir sorunla karşılaşırsanız, Ultralytics belgeleri ve sorun giderme kılavuzları tekrar rayına oturmanıza yardımcı olacak harika kaynaklardır.
Adım 2: Ultralytics YOLO11 modelini OpenVINO formatına aktar#
Ultralytics paketi kurulduktan sonra, bir sonraki adım YOLO11 modelinizi yüklemek ve onu OpenVINO ile uyumlu bir formata dönüştürmektir.
Aşağıdaki örnekte, önceden eğitilmiş bir YOLO11 modeli (“yolo11n.pt”) kullanıyoruz. Dışa aktarma işlevi, onu OpenVINO formatına dönüştürmek için kullanılır. Bu kodu çalıştırdıktan sonra, dönüştürülen model “yolo11n_openvino_model” adlı yeni bir dizine kaydedilecektir.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="openvino")Adım 3: Dışa aktarılan model ile çıkarımı çalıştırın#
YOLO11 modeliniz OpenVINO formatına aktarıldığında, çıkarımları iki şekilde çalıştırabilirsiniz: Ultralytics Python paketini veya yerel OpenVINO Runtime'ı kullanarak.
Ultralytics Python paketini kullanma#
Dışa aktarılan YOLO11 modeli, aşağıdaki kod parçacığında gösterildiği gibi Ultralytics Python paketi kullanılarak kolayca dağıtılabilir. Bu yöntem, hızlı denemeler ve Intel donanımında hızlı dağıtım için idealdir.
Sisteminizde bulunan Intel donanımına bağlı olarak, çıkarım için hangi cihazın kullanılacağını da "intel:cpu", "intel:gpu" veya "intel:npu" gibi belirtebilirsiniz.
ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")Yukarıdaki kodu çalıştırdıktan sonra, çıktı görüntüsü "runs/detect/predict" dizinine kaydedilecektir.
Şekil 4. Aktarılan Ultralytics YOLO11 modelini bir görseldeki nesneleri tespit etmek için kullanma.
Yerel OpenVINO Runtime'ı kullanma#
Özellikle üretim ortamlarında çıkarımı çalıştırmanın özelleştirilebilir bir yolunu arıyorsanız, OpenVINO Runtime modelinizin nasıl yürütüleceği üzerinde size daha fazla kontrol sağlar. Eşzamansız yürütme (birden fazla çıkarım isteğini paralel olarak çalıştırma) ve yük dengeleme (çıkarım iş yüklerini Intel donanımı genelinde verimli bir şekilde dağıtma) gibi gelişmiş özellikleri destekler.
Yerel çalışma zamanını kullanmak için, dışa aktarılan model dosyalarına ihtiyacınız olacaktır: bir .xml dosyası (ağ mimarisini tanımlayan) ve bir .bin dosyası (modelin eğitilmiş ağırlıklarını depolayan). Ayrıca uygulamanıza bağlı olarak giriş boyutları veya ön işleme adımları gibi ek parametreleri de yapılandırabilirsiniz.
Tipik bir dağıtım akışı; OpenVINO çekirdeğini başlatmayı, modeli hedef bir cihaz için yükleyip derlemeyi, girdiyi hazırlamayı ve çıkarım çalıştırmayı içerir. Ayrıntılı örnekler ve adım adım kılavuzluk için resmi Ultralytics OpenVINO belgelerine bakın.
Neden Ultralytics x OpenVINO entegrasyonunu seçmelisin?#
Ultralytics entegrasyonlarını keşfederken, Ultralytics Python paketinin YOLO11 modellerini TorchScript, CoreML, TensorRT ve ONNX gibi çeşitli formatlara aktarmayı desteklediğini fark edeceksin. Peki, neden OpenVINO entegrasyonunu seçmelisin?
İşte OpenVINO dışa aktarma formatının modelleri Intel donanımında dağıtmak için neden harika bir uyum olduğunun bazı nedenleri:
- Performans kazanımları: Intel CPU'larda 3 kata kadar daha hızlı çıkarım deneyimi yaşayabilir, tümleşik GPU'lar ve NPU'larda ek hızlandırma elde edebilirsiniz.
- Yeniden eğitime gerek yok: Mevcut Ultralytics YOLO11 modellerini bunları değiştirmeden veya yeniden eğitmeden doğrudan OpenVINO formatına dışarı aktarabilirsin.
- Ölçeklenebilirlik için tasarlandı: Aynı dışa aktarılan model, düşük güç tüketimli uç cihazlarda ve büyük ölçekli bulut altyapılarında dağıtılarak ölçeklenebilir yapay zeka dağıtımını basitleştirebilir.
Ayrıca OpenVINO™ Model Hub üzerinde çeşitli Intel® platformlarında Ultralytics YOLO11 modelinin performans kıyaslamalarını değerlendirebilirsin. OpenVINO Model Hub, geliştiricilerin yapay zeka modellerini Intel donanımında değerlendirmesi ve OpenVINO'nun Intel CPU'ları, tümleşik GPU'ları, NPU'ları ve harici grafikleri üzerindeki performans avantajını keşfetmesi için bir kaynaktır.
Şekil 5. OpenVINO™ Model Hub: Çeşitli Intel® platformlarında Ultralytics YOLO11 Modeli için Performans Kıyaslamaları.
Ultralytics YOLO11 ve OpenVINO dışarı aktarma formatının uygulamaları#
OpenVINO entegrasyonunun yardımıyla, gerçek dünya senaryolarında Ultralytics YOLO11 modellerini Intel donanımı genelinde dağıtmak çok daha kolay hale gelir.
Harika bir örnek akıllı perakendedir; burada Ultralytics YOLO11, gerçek zamanlı olarak boş rafları tespit etmeye, hangi ürünlerin azaldığını takip etmeye ve müşterilerin mağaza içinde nasıl hareket ettiğini analiz etmeye yardımcı olabilir. Bu, perakendecilerin envanter yönetimini iyileştirmesini ve daha iyi müşteri etkileşimi için mağaza düzenlerini optimize etmesini sağlar.
Benzer şekilde akıllı şehirlerde YOLO11; araçları sayarak, yayaları takip ederek ve kırmızı ışık ihlallerini gerçek zamanlı olarak tespit ederek trafiği izlemek için kullanılabilir. Bu içgörüler, trafik akışı optimizasyonunu destekleyebilir, yol güvenliğini artırabilir ve otomatik denetim sistemlerine yardımcı olabilir.
Şekil 6. YOLO11 kullanarak araçları sayma.
Bir diğer ilginç kullanım durumu endüstriyel denetimdir; burada Ultralytics YOLO11, eksik bileşenler, yanlış hizalama veya yüzey hasarı gibi görsel kusurları otomatik olarak tespit etmek için üretim hatlarında konuşlandırılabilir. Bu, verimliliği artırır, maliyetleri düşürür ve daha iyi ürün kalitesini destekler.
OpenVINO araç setini kullanırken dikkat edilmesi gereken temel faktörler#
Ultralytics YOLO11 modellerini OpenVINO ile dağıtırken, en iyi sonuçları almak için aklında tutman gereken birkaç önemli husus şunlardır:
- Donanım uyumluluğunu kontrol edin: Modelin verimli çalışabilmesi için CPU, tümleşik GPU veya NPU olsun, Intel donanımınızın OpenVINO tarafından desteklendiğinden emin olun.
- Doğru sürücüleri yükle: Intel GPU'ları veya NPU'ları kullanıyorsan, gerekli tüm sürücülerin düzgün bir şekilde yüklendiğinden ve güncel olduğundan emin ol.
- Hassasiyet ödünleşimlerini anlayın: OpenVINO; FP32, FP16 ve INT8 model hassasiyetlerini destekler. Her biri hız ve doğruluk arasında bir ödünleşim içerir; bu nedenle performans hedeflerinize ve mevcut donanımınıza göre doğru seçeneği belirlemek önemlidir.
Öne çıkanlar#
Ultralytics YOLO11'i OpenVINO formatına aktarmak, Intel donanımında hızlı, verimli vizyon yapay zeka modellerini çalıştırmayı kolaylaştırır. Yeniden eğitmen veya kodunu değiştirmen gerekmeden CPU'lar, GPU'lar ve NPU'lar genelinde dağıtım yapabilirsin. Bu, işleri basit ve ölçeklenebilir tutarken performansı artırmanın harika bir yoludur.
Ultralytics Python paketinde yerleşik destek ile OpenVINO ile dışa aktarma ve çıkarım çalıştırma basittir. Sadece birkaç adımda modelini optimize edebilir ve çeşitli Intel platformlarında çalıştırabilirsin. İster akıllı perakende, ister trafik izleme veya endüstriyel denetim üzerinde çalışıyor ol, bu iş akışı geliştirmeden dağıtıma hız ve güvenle geçmene yardımcı olur.
YOLO topluluğuna katılın ve Ultralytics tarafından desteklenen etkili entegrasyonlar hakkında daha fazla bilgi edinmek için Ultralytics GitHub deposuna göz atın. Ayrıca bilgisayarlı görü ile hemen bugün başlamak için Ultralytics lisanslama seçeneklerine göz atın!
Ultralytics × OpenVINO entegrasyonunu iş başında görmek için yaklaşıp web seminerimize kaydolun ve ölçeklenebilir yapay zeka optimizasyonu ile dağıtımı için araçları keşfetmek amacıyla OpenVINO web sitesini ziyaret edin.
