Intel Core Ultra Series 3 (Panther Lake) üzerinde OpenVINO ile Ultralytics YOLO26'yı hızlandırma

Geçtiğimiz birkaç yıl içinde, yapay zeka ve bilgisayarlı görü, deneysel bir aşamadan günlük iş operasyonlarının önemli bir parçası haline geldi. Aslında, araştırmalar kuruluşların yaklaşık %88'inin halihazırda işlerinin en az bir bölümünde yapay zeka kullandığını gösteriyor.

However, turning that adoption into real value, whether in production systems or personal projects, often comes down to how well models actually run once deployed. In many real-world scenarios, computer vision models like Ultralytics YOLO26 are deployed on edge devices and a range of hardware, often CPUs, integrated GPUs, or NPUs, rather than high-end GPUs.

Performansın değişiklik göstermeye başladığı ve optimizasyonun kritik hale geldiği yer tam da burasıdır. Bir ortamda iyi çalışan bir model, temel donanım için düzgün bir şekilde optimize edilmemişse başka bir ortamda zorlanabilir.

Bunu kolaylaştırmak için, Ultralytics Python paketi, YOLO26 modellerinin OpenVINO gibi optimize edilmiş formatlara dışa aktarılmasını destekler; böylece iş akışında değişiklik yapmanıza gerek kalmadan Intel donanımları üzerinde sorunsuz bir şekilde çalışabilirler.

Örneğin, bir YOLO26 modeli OpenVINO formatına dışa aktarıldığında, Intel Core Ultra Series 3 işlemcilerinde daha verimli çalışabilir ve GPU çıkarım hızları üç kata kadar iyileşebilir.

Bu makalede, güncellenmiş Ultralytics ve OpenVINO entegrasyonunun, YOLO26 modellerini Intel Core Ultra Series 3 donanımı üzerinde dağıtmayı nasıl kolaylaştırdığını keşfedeceğiz. Haydi başlayalım!

Link to this sectionUltralytics x OpenVINO entegrasyonuna genel bakış#

Ultralytics Python paketi, Ultralytics YOLO modellerini (YOLO26 gibi) eğitmek, çıkarım çalıştırmak ve dağıtmak için tek bir arayüz sağlar. Eğitim ve denemeden dağıtım ve optimizasyona kadar vizyon yapay zeka iş akışının farklı bölümlerine yardımcı olan çeşitli entegrasyonları destekler.

Dağıtım odaklı entegrasyonlardan biri, YOLO26 modellerini Intel donanımı için optimize edilmiş bir formata aktarmanızı sağlayan OpenVINO araç seti ile yapılandırılmıştır. Bu işlem, YOLO modellerini Intel CPU'lar, GPU'lar ve Intel® Core™ Ultra™ serisi işlemcilerle desteklenen sistemler dahil olmak üzere NPU'lar üzerinde daha verimli çalışan bir formata dönüştürür.

Bu, modelleri her kurulum için manuel olarak ayarlamanıza gerek kalmadan farklı Intel cihazlarında çalıştırmayı daha kolay hale getirir. İster yerel bir makinede, ister bir uç cihazda veya daha büyük bir dağıtımda çalışıyor olun, aynı dışa aktarılan model yeniden kullanılabilir.

Bu entegrasyonu özellikle pratik kılan şey, mevcut Ultralytics iş akışına ne kadar sorunsuz uyum sağlamasıdır. Ek araçlara veya karmaşık bir kuruluma gerek kalmadan, eğitim ve çıkarım için kullandığınız arayüzün aynısını kullanarak bir modeli dışa aktarabilirsiniz.

Dışa aktarıldıktan sonra model, ne kadar kontrole ve esnekliğe ihtiyacınız olduğuna bağlı olarak, Ultralytics Python paketi veya OpenVINO Runtime aracılığıyla çıkarım için kullanılabilir.

Link to this sectionYapay zeka çıkarımı için OpenVINO ve Intel Panther Lake donanımına daha yakından bir bakış#

Dışa aktarılan bir YOLO26 modelinin Intel donanımı üzerinde ne kadar verimli çalışabileceğini görmeden önce, bir adım geri çekilelim ve verimli bir çıkarım sağlamak için OpenVINO ile Intel donanımının nasıl birlikte çalıştığını anlayalım.

OpenVINO, CPU'lar, tümleşik GPU'lar ve NPU'lar dahil olmak üzere Intel donanımı üzerinde yapay zeka çıkarımını optimize etmek ve çalıştırmak için tasarlanmış açık kaynaklı bir araç setidir. Birleşik bir çalışma zamanı sağlar, böylece aynı model yeniden yazılmaya gerek kalmadan bu farklı hesaplama birimleri üzerinde çalışabilir.

Şekil 1. OpenVINO, modelleri birden fazla donanım hedefinde dağıtmayı kolaylaştırır. (Kaynak)

Yeni Intel® Core™ Ultra™ Serisi 3 işlemcilerde (kod adı Panther Lake), yapay zeka iş yükleri aynı işlemci içindeki birden fazla hesaplama biriminde çalışır. Her çip, genel amaçlı görevler için CPU çekirdeklerini, paralel işleme için tümleşik bir GPU'yu ve özellikle yapay zeka çıkarımı için tasarlanmış özel bir NPU'yu birleştirir.

OpenVINO, kodunuzu değiştirmeden CPU, GPU veya NPU olsun, bu hesaplama birimlerinden herhangi birini hedeflemenize olanak tanıyan birleşik bir API sağlar. Çalışma zamanında çıkarımı hangi cihazda çalıştıracağınızı basitçe belirtebilirsiniz, bu da performans ve verimlilik ihtiyaçlarınıza bağlı olarak üçü arasında geçiş yapmayı kolaylaştırır.

Link to this sectionIntel® Core™ Ultra™ serisinde YOLO26 kıyaslaması#

Ultralytics ve OpenVINO entegrasyonunu keşfederken, merak ediyor olabilirsiniz: YOLO26'yı OpenVINO formatına dışa aktararak ne tür model performansı kazanımları elde edebilirsiniz?

Çıkarım hızındaki fark, YOLO26 modellerini farklı formatlarda ve hassasiyet seviyelerinde kıyaslarken netleşir. Örneğin, YOLO26'nın nano varyantını (YOLO26n) bir Panther Lake işlemcisi olan Intel Core Ultra X7 358H üzerinde çalıştırırken, çıkarım süresi PyTorch'ta FP32 hassasiyetinde görüntü başına 25,18 ms'den, tümleşik NPU ile aynı hassasiyette OpenVINO'da 2,64 ms'ye düşer.

Bu, orijinal PyTorch FP32 temel değerinden daha hızlıdır ve gecikmenin kritik olduğu gerçek zamanlı ve uç uygulamalarda fark edilebilir bir değişiklik yaratabilir. Bu kazanımlar, aynı model tümleşik Intel Arc GPU üzerinde çalıştırıldığında daha da belirginleşir.

Şekil 2. OpenVINO kullanarak Intel Panther Lake GPU üzerinde YOLO26 çıkarım kıyaslaması (Kaynak)

Şekil 3. OpenVINO kullanarak Intel Panther Lake NPU üzerinde YOLO26 çıkarım kıyaslaması (Kaynak)

Link to this sectionUltralytics YOLO26'yı OpenVINO formatına dışa aktarmanın iki yolu#

YOLO26 modellerini OpenVINO formatına dışa aktarmanın iki ana yolu vardır. Ya Ultralytics Python paketini kullanabilir ya da bilgisayarlı görü iş akışlarını tek bir yerden oluşturmak ve yönetmek için uçtan uca bir çalışma alanı olan Ultralytics Platform üzerinden doğrudan dışa aktarabilirsiniz. Şimdi, her iki yaklaşımı da inceleyeceğiz.

Link to this sectionYOLO26'yı dışa aktarmak için Ultralytics Python paketini kullanma#

Ultralytics Python paketi, kod tabanlı bir iş akışı içinde YOLO26 modellerini OpenVINO formatına dışa aktarmak için basit bir yol sağlar. Eğitim ve çıkarım için aynı arayüz kullanıldığından, bir modeli dışa aktarmak ek araçlara gerek kalmadan mevcut boru hatlarına doğal bir şekilde uyum sağlar.

Başlamak için Ultralytics paketini kurabilirsin. Bu, terminalde veya komut isteminde “pip install ultralytics” komutu çalıştırılarak yapılabilir. Jupyter Notebook veya Google Colab gibi etkileşimli bir ortamda çalışıyorsan, aynı komutu başına bir ünlem işareti koyarak çalıştırabilirsin.

Kurulduktan sonra, eğitilmiş bir YOLO26 modelini yükleyebilir ve doğrudan OpenVINO formatına dışa aktarabilirsin. Aşağıda gösterildiği gibi, önceden eğitilmiş bir YOLO26n modeli (yolo26n.pt) yüklenir ve ardından export yöntemi kullanılarak OpenVINO formatına dönüştürülür.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

Kodu çalıştırdıktan sonra, dönüştürülen model dağıtım için kullanılabileceği yeni bir dizine kaydedilir.

Link to this sectionUltralytics Platform üzerinde YOLO26 dışa aktarma#

Daha basit, kodsuz bir yaklaşım arıyorsan, YOLO26 modellerini doğrudan Ultralytics Platform üzerinden dışa aktarabilirsin. Platform, tüm bilgisayarlı görü iş akışını tek bir çalışma alanında bir araya getirerek ek kuruluma gerek kalmadan eğitimden dağıtıma geçişi kolaylaştırır.

Modelin hazır olduğunda, platform içinde açabilir ve Dışa Aktar (Export) sekmesine gidebilirsin. Buradan, dışa aktarma formatı olarak OpenVINO'yu seçebilir ve isteğe bağlı olarak görüntü boyutu veya hassasiyet gibi ayarları düzenleyebilirsin.

Şekil 4. Ultralytics Platform içinde YOLO26 dışa aktarmaya bir bakış

Platform dönüştürme işlemini otomatik olarak yönetir, bu nedenle betikleri, bağımlılıkları veya ortam yapılandırmasını yönetmene gerek kalmaz. Dışa aktarma tamamlandıktan sonra, optimize edilmiş model indirilebilir ve Intel CPU'lar, GPU'lar ve NPU'lar genelinde dağıtım için kullanılabilir.

Link to this sectionUltralytics x OpenVINO entegrasyonu ile sağlanan dağıtım seçenekleri#

Bir YOLO26 modeli OpenVINO formatına dışa aktarıldıktan sonra, iş akışına ve ihtiyaç duyulan kontrol seviyesine bağlı olarak çıkarım çalıştırmanın birkaç yolu vardır. Daha basit ve entegre bir yaklaşım için Ultralytics Python paketini veya daha fazla esneklik ve kontrol için yerel OpenVINO çalışma zamanını kullanabilirsin.

Link to this sectionUltralytics Python paketi ile çıkarım çalıştırma#

Modelin OpenVINO formatına dışa aktarıldıktan sonra, Ultralytics Python paketini kullanarak çıkarım çalıştırabilirsin. Bu yaklaşım, eğitim ve dışa aktarma ile aynı arayüzü kullandığından hızlı test ve kolaylaştırılmış dağıtım için idealdir.

Bu yaklaşımla, dışa aktarılan OpenVINO modelini dizininden yükleyebilir ve bir görüntü veya video gibi bir girdi üzerinde çıkarım çalıştırabilirsin. Ayrıca, sistemindeki donanım olanaklarına bağlı olarak "intel:cpu", "intel:gpu" veya "intel:npu" gibi seçenekleri belirterek üzerinde çalışacağın cihazı da seçebilirsin.

Aşağıdaki kod parçası, dışa aktarılan modelin nasıl yükleneceğini ve GPU'yu hedefleyerek bir görüntü üzerinde çıkarım yapılacağını gösterir. Çıkarım tamamlandıktan sonra, çıktı görüntüsü “runs/detect/predict” dizinine kaydedilir.

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Link to this sectionÇıkarım için yerel OpenVINO paketinden yararlanma#

Modelinin üretimde nasıl çalıştığı üzerinde daha fazla kontrole ihtiyacın varsa, çıkarım için yerel OpenVINO çalışma zamanını kullanabilirsin. Bu yöntem, modelleri daha büyük uygulamalara entegre ederken veya çıkarımın belirli donanımlar üzerinde nasıl yürütüleceğine ince ayar yapmak istediğinde kullanışlıdır.

OpenVINO, eşzamansız yürütme ve mevcut hesaplama kaynaklarının verimli kullanımı gibi özelliklerle birlikte Intel CPU'lar, GPU'lar ve NPU'lar üzerinde model çalıştırmak için birleşik bir yol sağlar. Bunu kurmak için, model yapısını tanımlayan .xml dosyası ve eğitilmiş ağırlıkları içeren .bin dosyası dahil olmak üzere doğrudan dışa aktarılan model dosyalarıyla çalışabilirsin.

Kullanım durumuna bağlı olarak, girdi boyutu veya ön işleme adımları gibi ayarları da değiştirebilirsin. Çıkarımı ayarlama süreci; OpenVINO çalışma zamanını başlatmayı, modeli bir hedef cihaz için yüklemeyi ve derlemeyi, girdi verilerini hazırlamayı ve ardından çıkarımı çalıştırmayı içerir.

Şekil 5. OpenVINO ile tipik bir çıkarım hattına örnek (Kaynak)

Bu, modelin nasıl yürütüleceğini ve genel dağıtımına nasıl uyum sağlayacağını kontrol etmeni sağlar. OpenVINO çalışma zamanı ile çıkarımı ayarlama ve çalıştırma hakkında daha fazla bilgi edinmek için resmi Ultralytics dokümantasyonunu inceleyebilirsin.

Link to this sectionIntel donanımı üzerinde YOLO26'nın gerçek dünya uygulamaları#

Ultralytics ve OpenVINO entegrasyonunun gerçek değeri, güvenilir ve düşük gecikmeli çıkarımın somut bir fark yaratabildiği üretim aşamasında ortaya çıkar. İşte bu entegrasyonun anlamlı sonuçlar sağladığı bazı temel endüstriler:

• Üretim: YOLO26'yı OpenVINO'ya aktararak, üretim hattı sistemleri Intel donanımı üzerinde eksik bileşenler, hizalama hataları veya yüzey hasarları gibi görsel kusurları otomatik olarak tespit edebilir, böylece ürün kalitesini artırmaya ve maliyetli hataları azaltmaya yardımcı olur.

• Sağlık: Tıbbi görüntüleme ve hasta izleme sistemleri, dışa aktarılan YOLO26 modellerini Intel donanımı üzerinde yerel olarak çalıştırabilir, bu da güvenilir çıkarım performansını korurken katı veri gizliliği gereksinimlerini destekler.

• Akıllı şehirler: Trafik izleme ve kalabalık analizi, dışa aktarılan YOLO26 modelleri kullanılarak Intel destekli uç kameralarda dağıtılabilir; bu da araç sayımı, yaya takibi ve olay tespiti gibi gerçek zamanlı içgörüler sağlar.

• Otomotiv: Sürücü izleme ve kabin içi algılamada düşük gecikme ve güç verimliliği kritiktir; bu da dışa aktarılan YOLO26 modelleriyle eşleştirilmiş Intel donanımını, gömülü otomotiv sistemleri için güçlü bir aday yapar.

If you want to know more about this integration, join us for the Intel OpenVINO DevCon workshop series, “From Annotation to Deployment: Building an Object Detection Pipeline with Geti, YOLO26, and OpenVINO™”, where our Partnership and Ecosystem Manager, Francesco Mattioli, will join Intel’s AI Software Evangelist, Adrian Boguszewski, for a live demonstration and walkthrough of how to build production-ready computer vision pipelines for real-world industrial scenarios. The workshop will feature a complete, end-to-end object detection workflow, from dataset creation and model training to optimization and edge deployment.

Link to this sectionOpenVINO dışa aktarma formatını kullanmanın avantajları#

OpenVINO dışa aktarma formatını kullanmanın temel avantajlarından bazıları şunlardır:

• Erişilebilir ve entegre etmesi kolay: Birleşik bir API ve 80'den fazla eğitici not defteri ile OpenVINO, önemli bir karmaşıklık getirmeden denemeden dağıtıma geçişi kolaylaştırır.

• Aynı modeli farklı donanımlarda çalıştır: OpenVINO, tek bir dışa aktarılan modeli desteklenen Intel donanımları genelinde kullanmana olanak tanır; böylece her cihaz için yeniden yazmana veya uyarlamana gerek kalmadan CPU, GPU veya NPU üzerinde dağıtabilirsin.

• Dışa aktarma sırasında yerleşik optimizasyon: OpenVINO'ya dışa aktarmak, PyTorch ve TensorFlow gibi popüler çerçevelerden alınan modelleri çıkarıma hazır optimize edilmiş bir formata dönüştürür, böylece ayrı dönüştürme adımlarına olan ihtiyacı ortadan kaldırır.

• Donanım kaynaklarından daha iyi yararlanma: OpenVINO, Intel donanımı genelinde eşzamansız çıkarımı ve yük dengelemeyi destekleyerek gerçek dünya uygulamalarında verimliliği artırmaya yardımcı olur.

Link to this sectionYOLO26'yı ExecuTorch ve OpenVINO arka ucu ile çalıştırma#

YOLO26'yı daha zorlu üretim ortamlarında dağıtıyorsan, cihaz üzerinde verimliliği gelişmiş model sıkıştırma ile birleştiren başka bir seçenek daha mevcuttur.

ExecuTorch, PyTorch'un cihaz içi çıkarım çerçevesi, YOLO26'yı farklı bir dışa aktarma ve çalışma zamanı yoluyla Intel donanımı üzerinde dağıtmana olanak tanıyan bir OpenVINO arka ucunu destekler.

Sistem şu şekilde çalışır: ExecuTorch model dışa aktarma ve çalışma zamanı yürütmeyi yönetirken, OpenVINO donanım hızlandırma katmanı olarak görev yaparak Intel CPU, GPU veya NPU genelindeki gerçek hesaplamayı gerçekleştirir. İkisi birlikte çalışarak, ExecuTorch'un taşınabilirliğini ve cihaz içi verimliliğini, OpenVINO'nun sağladığı donanıma özgü optimizasyonlarla birleştirmiş olursun.

Bunun nasıl çalıştığı ve YOLO26'yı ExecuTorch ve OpenVINO arka ucu üzerinde çalıştırmaya nasıl başlayacağın hakkında daha fazla bilgi edinmek için en son ExecuTorch ve OpenVINO güncellemelerini kapsayan Intel bloguna göz at.

Link to this sectionÖne çıkanlar#

YOLO26 modellerini Ultralytics ve OpenVINO entegrasyonu aracılığıyla dışa aktarmak, iş akışına karmaşıklık eklemeden Intel donanımı genelinde performansı artırır. Boru hattını yeniden düzenlemeden eğitimden dağıtıma geçebilirsin. Genel olarak bu, gerçek dünya uygulamalarında Intel CPU'lar, GPU'lar ve NPU'lar üzerinde modelleri verimli bir şekilde çalıştırmak için doğrudan bir yol sağlar.

Topluluğumuza katıl ve Vision AI hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfet. Bilgisayarlı görü projelerine başlamak için lisanslama seçeneklerimize göz at. Üretimde yapay zeka veya otomotiv endüstrisinde bilgisayarlı görü gibi yeniliklerle ilgileniyor musun? Daha fazlasını keşfetmek için çözüm sayfalarımızı ziyaret et.