Ultralytics YOLO26'yı Intel Core Ultra Series 3 (Panther Lake) üzerinde OpenVINO ile Hızlandırma

Son birkaç yılda yapay zekâ ve bilgisayarlı görü, deneysel olmaktan çıkıp günlük iş operasyonlarının önemli bir parçası hâline geldi. Nitekim anketler, kuruluşların yaklaşık %88'inin işlerinin en az bir bölümünde yapay zekâyı zaten kullandığını gösteriyor.

Ancak bu benimsemeyi, ister üretim sistemlerinde ister kişisel projelerde olsun, gerçek değere dönüştürmek çoğu zaman modellerin dağıtıldıktan sonra ne kadar iyi çalıştığına bağlıdır. Gerçek dünyadaki birçok senaryoda bilgisayarlı görü modelleri, Ultralytics YOLO26 gibi modeller, üst düzey GPU'lar yerine çoğunlukla CPU'lar, tümleşik GPU'lar veya NPU'lar gibi uç cihazlarda ve çeşitli donanımlarda dağıtılır.

Performansın değişkenlik gösterebildiği ve optimizasyonun kritik hâle geldiği nokta burasıdır. Bir ortamda iyi çalışan bir model, temel donanım için gerektiği gibi optimize edilmemişse başka bir ortamda zorlanabilir.

Bu süreci kolaylaştırmak için Ultralytics Python paketi, YOLO26 modellerini OpenVINO gibi optimize edilmiş biçimlere aktarmayı destekler; böylece iş akışında değişiklik yapmadan Intel donanımlarında sorunsuz çalışabilirler.

Örneğin, bir Ultralytics YOLO26 modeli OpenVINO biçimine aktarıldığında Intel Core Ultra Series 3 işlemcilerinde daha verimli çalışabilir; GPU çıkarım hızları üç kata kadar artabilir.

Bu makalede, güncellenmiş Ultralytics ve OpenVINO entegrasyonunun YOLO26 modellerini Intel Core Ultra Series 3 donanımlarında dağıtmayı nasıl kolaylaştırdığını inceleyeceğiz. Hadi başlayalım!

Ultralytics x OpenVINO entegrasyonuna genel bakış#

Ultralytics Python paketi, YOLO26 gibi Ultralytics YOLO modellerini eğitmek, çıkarım yapmak ve dağıtmak için tek bir arayüz sunar. Eğitim ve denemelerden dağıtım ve optimizasyona kadar görsel yapay zekâ iş akışının farklı adımlarına yardımcı olan çeşitli entegrasyonları destekler.

Dağıtım odaklı entegrasyonlardan biri, Ultralytics YOLO26 modellerini Intel donanımları için optimize edilmiş bir biçime aktarmanı sağlayan OpenVINO araç takımı entegrasyonudur. Bu süreç, YOLO modellerini Intel® Core™ Ultra™ serisi işlemcilerle çalışan sistemler de dâhil olmak üzere Intel CPU'larında, GPU'larında ve NPU'larında daha verimli çalışan bir biçime dönüştürür.

Böylece modelleri, her kurulum için elle ayarlamaya gerek kalmadan farklı Intel cihazlarında çalıştırmak kolaylaşır. Yerel bir makinede, uç cihazda veya daha büyük ölçekli bir dağıtımda çalışıyor olsan da aynı dışa aktarılmış modeli yeniden kullanabilirsin.

Bu entegrasyonu özellikle kullanışlı kılan, mevcut Ultralytics iş akışına sorunsuz biçimde uymasıdır. Ek araçlara veya karmaşık bir kuruluma gerek kalmadan, modeli eğitim ve çıkarım için kullandığın arayüzün aynısıyla dışa aktarabilirsin.

Dışa aktarıldıktan sonra model, ne kadar kontrol ve esnekliğe ihtiyaç duyduğuna bağlı olarak çıkarım için Ultralytics Python paketi ya da OpenVINO Runtime üzerinden kullanılabilir.

Çıkarım için OpenVINO ve Intel Panther Lake donanımına daha yakından bakış#

Dışa aktarılmış bir Ultralytics YOLO26 modelinin Intel donanımlarında ne kadar verimli çalışabileceğini görmeden önce, verimli çıkarımı mümkün kılmak için OpenVINO ile Intel donanımlarının nasıl birlikte çalıştığını anlamak üzere biraz geriye gidelim.

OpenVINO, CPU'lar, tümleşik GPU'lar ve NPU'lar dâhil olmak üzere Intel donanımlarında yapay zekâ çıkarımını optimize etmek ve çalıştırmak için tasarlanmış açık kaynaklı bir araç takımıdır. Modellerin yeniden yazılmasına gerek kalmadan farklı işlem birimlerinde çalışmasını sağlayan birleşik bir çalışma zamanı sunar.

Şekil 1. OpenVINO, modelleri birden fazla donanım hedefinde kolayca dağıtmanı sağlar. (Kaynak)

Yeni Intel® Core™ Ultra™ Series 3 işlemcilerde (kod adı Panther Lake), yapay zekâ iş yükleri aynı işlemci içindeki birden fazla işlem biriminde çalışır. Her yonga; genel amaçlı görevler için CPU çekirdeklerini, paralel işlem için tümleşik GPU'yu ve özellikle yapay zekâ çıkarımı için tasarlanmış özel bir NPU'yu bir araya getirir.

OpenVINO, kodunu değiştirmeden CPU, GPU veya NPU olsun bu işlem birimlerinden herhangi birini hedeflemene olanak tanıyan birleşik bir API sunar. Çalışma zamanında çıkarımın hangi cihazda yapılacağını belirtmen yeterlidir; böylece performans ve verimlilik ihtiyaçlarına göre üçü arasında kolayca geçiş yapabilirsin.

Intel® Core™ Ultra™ serisinde Ultralytics YOLO26 kıyaslaması#

Ultralytics ve OpenVINO entegrasyonunu incelerken YOLO26'yı OpenVINO biçimine aktarmanın ne tür model performansı kazanımları sağlayabileceğini merak ediyor olabilirsin.

Farklı biçimlerde ve hassasiyet düzeylerinde YOLO26 modelleri için kıyaslama yaptığında çıkarım hızındaki fark net biçimde görülür. Örneğin YOLO26'nın nano varyantını (YOLO26n) Panther Lake işlemcisi Intel Core Ultra X7 358H üzerinde çalıştırırken, görüntü başına çıkarım süresi PyTorch'ta FP32 hassasiyetinde 25,18 ms'den aynı hassasiyette ve tümleşik NPU ile OpenVINO kullanıldığında 2,64 ms'ye düşer.

Bu, ilk PyTorch FP32 temel değerinden daha hızlıdır ve gecikmenin kritik olduğu gerçek zamanlı ve uç uygulamalarda belirgin bir fark yaratabilir. Aynı modeli tümleşik Intel Arc GPU'da çalıştırdığında bu kazanımlar daha da belirginleşir.

Şekil 2. OpenVINO kullanarak Intel Panther Lake GPU üzerinde Ultralytics YOLO26 çıkarımı kıyaslaması (Kaynak)

Şekil 3. OpenVINO kullanarak Intel Panther Lake NPU üzerinde Ultralytics YOLO26 çıkarımı kıyaslaması (Kaynak)

Ultralytics YOLO26'yı OpenVINO biçimine aktarmanın iki yolunu keşfet#

YOLO26 modellerini OpenVINO biçimine aktarmanın iki temel yolu vardır. Ultralytics Python paketini kullanabilir ya da bilgisayarlı görü iş akışlarını tek bir yerde oluşturup yönetmeye yönelik uçtan uca bir çalışma alanı olan Ultralytics Platform üzerinden doğrudan dışa aktarabilirsin. Şimdi her iki yöntemi de ele alacağız.

YOLO26'yı dışa aktarmak için Ultralytics Python paketini kullanma#

Ultralytics Python paketi, YOLO26 modellerini kod tabanlı bir iş akışında OpenVINO biçimine aktarmak için kolay bir yol sunar. Eğitim ve çıkarımda aynı arayüz kullanıldığından, ek araçlara gerek kalmadan model dışa aktarımını mevcut işlem hatlarına kolayca ekleyebilirsin.

Başlamak için Ultralytics paketini yükleyebilirsin. Bunun için bir terminalde veya komut isteminde “pip install ultralytics” komutunu çalıştır. Jupyter Notebook veya Google Colab gibi etkileşimli bir ortamda çalışıyorsan aynı komutun başına ünlem işareti ekleyerek çalıştırabilirsin.

Yükleme tamamlandıktan sonra eğitilmiş bir YOLO26 modelini yükleyip doğrudan OpenVINO biçimine aktarabilirsin. Aşağıda gösterildiği gibi, önceden eğitilmiş bir YOLO26n modeli (yolo26n.pt) yüklenir ve ardından export yöntemi kullanılarak OpenVINO biçimine dönüştürülür.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

Kod çalıştırıldıktan sonra dönüştürülen model, dağıtım için kullanılabileceği yeni bir dizine kaydedilir.

Ultralytics Platform'da YOLO26'yı dışa aktarma#

Daha basit, kod gerektirmeyen bir yöntem arıyorsan YOLO26 modellerini doğrudan Ultralytics Platform üzerinden dışa aktarabilirsin. Platform, bilgisayarlı görü iş akışının tamamını tek bir çalışma alanında bir araya getirerek ek kurulum gerektirmeden eğitimden dağıtıma geçmeyi kolaylaştırır.

Modelin hazır olduğunda platformda açıp Export sekmesine gidebilirsin. Buradan dışa aktarma biçimi olarak OpenVINO'yu seçebilir ve görüntü boyutu ya da hassasiyet gibi ayarları isteğe bağlı olarak değiştirebilirsin.

Şekil 4. Ultralytics Platform'da YOLO26 dışa aktarımına bir bakış

Platform, dönüştürme işlemini otomatik olarak yapar; böylece betikleri, bağımlılıkları veya ortam yapılandırmasını yönetmen gerekmez. Dışa aktarım tamamlandıktan sonra optimize edilmiş modeli indirip Intel CPU'larında, GPU'larında ve NPU'larında dağıtım için kullanabilirsin.

Ultralytics x OpenVINO entegrasyonunun sağladığı dağıtım seçenekleri#

Bir YOLO26 modeli OpenVINO biçimine aktarıldıktan sonra, iş akışına ve ihtiyaç duyduğun kontrol düzeyine bağlı olarak çıkarım yapmanın birkaç yolu vardır. Daha basit ve bütünleşik bir yöntem için Ultralytics Python paketini, daha fazla esneklik ve kontrol içinse yerel OpenVINO çalışma zamanını kullanabilirsin.

Ultralytics Python paketiyle çıkarım yapma#

Modelini OpenVINO biçimine aktardıktan sonra Ultralytics Python paketini kullanarak çıkarım yapabilirsin. Eğitim ve dışa aktarımla aynı arayüzü kullandığından bu yöntem, hızlı test ve kolaylaştırılmış dağıtım için idealdir.

Bu yöntemde dışa aktarılmış OpenVINO modelini dizininden yükleyip görüntü veya video gibi bir girdi üzerinde çıkarım yapabilirsin. Ayrıca sisteminde bulunan donanıma bağlı olarak "intel:cpu", "intel:gpu" veya "intel:npu" gibi seçenekler belirterek hangi cihazda çalışacağını seçebilirsin.

Aşağıdaki kod parçacığı, dışa aktarılmış modelin nasıl yükleneceğini ve GPU'yu hedefleyerek bir görüntü üzerinde nasıl çıkarım yapılacağını gösterir. Çıkarım tamamlandıktan sonra çıktı görüntüsü “runs/detect/predict” dizinine kaydedilir.

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Çıkarım için yerel OpenVINO paketinden yararlanma#

Modelin üretimde nasıl çalışacağı üzerinde daha fazla kontrole ihtiyaç duyuyorsan çıkarım için yerel OpenVINO çalışma zamanını kullanabilirsin. Bu yöntem, modelleri daha büyük uygulamalara entegre ederken veya çıkarımın belirli donanımlarda nasıl yürütüleceğini ince ayarlamak istediğinde kullanışlıdır.

OpenVINO; eşzamansız yürütme ve mevcut işlem kaynaklarının verimli kullanımı gibi özelliklerle birlikte Intel CPU'larında, GPU'larında ve NPU'larında modelleri çalıştırmak için birleşik bir yol sunar. Kurulumu yapmak için model yapısını tanımlayan .xml dosyası ve eğitilmiş ağırlıkları içeren .bin dosyası dâhil olmak üzere dışa aktarılmış model dosyalarıyla doğrudan çalışabilirsin.

Kullanım senaryona bağlı olarak girdi boyutu veya ön işleme adımları gibi ayarları da değiştirebilirsin. Çıkarım kurulumu; OpenVINO çalışma zamanını başlatmayı, modeli hedef cihaz için yükleyip derlemeyi, girdi verilerini hazırlamayı ve ardından çıkarım yapmayı içerir.

Şekil 5. OpenVINO ile tipik bir çıkarım işlem hattı örneği (Kaynak)

Bu sayede modelin nasıl çalıştırılacağını ve genel dağıtımına nasıl uyacağını kontrol edebilirsin. OpenVINO çalışma zamanıyla çıkarım kurma ve çalıştırma hakkında daha fazla bilgi edinmek için resmî Ultralytics belgelerini inceleyebilirsin.

Intel donanımlarında Ultralytics YOLO26'nın gerçek dünya uygulamaları#

Ultralytics ve OpenVINO entegrasyonunun gerçek değeri, güvenilir ve düşük gecikmeli çıkarımın somut fark yaratabildiği üretim ortamlarında ortaya çıkar. Bu entegrasyonun anlamlı sonuçlar sağladığı başlıca sektörlerden bazıları şöyle:

• Üretim: Ultralytics YOLO26'yı OpenVINO'ya aktararak üretim hattı sistemleri; eksik bileşenler, hizalama bozuklukları veya yüzey hasarı gibi görsel kusurları Intel donanımlarında otomatik olarak tespit edebilir, böylece ürün kalitesini artırmaya ve maliyetli hataları azaltmaya yardımcı olur.
• Sağlık: Tıbbi görüntüleme ve hasta izleme sistemleri, dışa aktarılmış Ultralytics YOLO26 modellerini Intel donanımlarında yerel olarak çalıştırabilir; böylece güvenilir çıkarım performansını korurken katı veri gizliliği gereksinimlerini karşılayabilir.
• Akıllı şehirler: Trafik izleme ve kalabalık analizi, dışa aktarılmış Ultralytics YOLO26 modelleriyle Intel destekli uç kameralarda uygulanabilir; araç sayımı, yaya takibi ve olay tespiti gibi gerçek zamanlı bilgiler elde edilebilir.
• Otomotiv: Sürücü izleme ve araç içi algılama için düşük gecikme ve güç verimliliği kritik öneme sahiptir. Bu nedenle Intel donanımları ile dışa aktarılmış Ultralytics YOLO26 modelleri, gömülü otomotiv sistemleri için güçlü bir seçenektir.

Bu entegrasyon hakkında daha fazla bilgi edinmek istersen Intel OpenVINO DevCon atölye serisine katıl. “Açıklamadan Dağıtıma: Geti, Ultralytics YOLO26 ve OpenVINO™ ile Nesne Tespiti İşlem Hattı Oluşturma” başlıklı etkinlikte İş Ortaklıkları ve Ekosistem Yöneticimiz Francesco Mattioli, Intel'in Yapay Zekâ Yazılımı Tanıtım Elçisi Adrian Boguszewski ile birlikte gerçek dünyadaki endüstriyel senaryolar için üretime hazır bilgisayarlı görü işlem hatlarının nasıl oluşturulacağını canlı olarak gösterip anlatacak. Atölyede veri kümesi oluşturmadan model eğitimine, optimizasyondan uçta dağıtıma kadar uçtan uca eksiksiz bir nesne tespiti iş akışı ele alınacak.

OpenVINO dışa aktarma biçimini kullanmanın avantajları#

OpenVINO dışa aktarma biçimini kullanmanın başlıca avantajlarından bazıları şöyle:

• Erişilebilir ve kolay entegre edilir: Birleşik API'si ve 80'den fazla eğitim not defteriyle OpenVINO, önemli bir karmaşıklık eklemeden deneme aşamasından dağıtıma geçişi kolaylaştırır.
• Aynı modeli farklı donanımlarda çalıştır: OpenVINO, desteklenen Intel donanımlarında tek bir dışa aktarılmış modeli kullanmana ve her cihaz için yeniden yazman ya da uyarlaman gerekmeksizin CPU'larda, GPU'larda veya NPU'larda dağıtmana olanak tanır.
• Dışa aktarım sırasında yerleşik optimizasyon: OpenVINO'ya dışa aktarma, modelleri PyTorch ve TensorFlow gibi popüler çerçevelerden çıkarıma hazır optimize edilmiş bir biçime dönüştürür; böylece ayrı dönüştürme adımlarına gerek kalmaz.
• Donanım kaynaklarından daha iyi yararlanma: OpenVINO, Intel donanımlarında eşzamansız çıkarımı ve yük dengelemeyi destekleyerek gerçek dünya uygulamalarında verimliliği artırmaya yardımcı olur.

Ultralytics YOLO26'yı ExecuTorch ve OpenVINO arka ucuyla çalıştırma#

Ultralytics YOLO26'yı daha zorlu üretim ortamlarında dağıtıyorsan cihaz üzerinde verimliliği gelişmiş model sıkıştırmayla birleştiren başka bir seçenek daha var.

Cihaz üzerinde çıkarım çerçevesi olan ExecuTorch, Ultralytics YOLO26'yı farklı bir dışa aktarım ve çalışma zamanı yolu üzerinden Intel donanımlarında dağıtmana olanak tanıyan bir OpenVINO arka ucunu destekler.

Çalışma şekli şöyle: ExecuTorch modelin dışa aktarımını ve çalışma zamanı yürütmesini üstlenirken OpenVINO, altta donanım hızlandırma katmanı olarak görev yapar ve Intel CPU, GPU veya NPU'daki asıl hesaplamaları yönetir. İkisi birlikte çalışarak ExecuTorch'un taşınabilirliğini ve cihaz üzerindeki verimliliğini, OpenVINO'nun sunduğu donanıma özgü optimizasyonlarla bir araya getirir.

Nasıl çalıştığı ve ExecuTorch ile OpenVINO arka ucunda Ultralytics YOLO26'yı kullanmaya nasıl başlayacağın hakkında daha fazla bilgi için en yeni ExecuTorch ve OpenVINO güncellemelerini ele alan Intel blog yazısına göz at.

Önemli çıkarımlar#

Ultralytics ve OpenVINO entegrasyonu üzerinden YOLO26 modellerini dışa aktarmak, iş akışına karmaşıklık eklemeden Intel donanımlarındaki performansı artırır. İşlem hattını yeniden düzenlemeden eğitimden dağıtıma geçebilirsin. Böylece genel olarak gerçek dünya uygulamalarında modelleri Intel CPU'larında, GPU'larında ve NPU'larında verimli şekilde çalıştırmak için kolay bir yol elde edersin.

Görsel yapay zekâ hakkında daha fazla bilgi edinmek için topluluğumuza katıl ve GitHub depomuzu keşfet. Bilgisayarlı görü projelerine başlamak için lisanslama seçeneklerimize göz at. Üretimde yapay zekâ veya otomotiv sektöründe bilgisayarlı görü gibi yeniliklerle ilgileniyor musun? Daha fazlasını keşfetmek için çözüm sayfalarımızı ziyaret et.