Intel Core Ultra Series 3 (Panther Lake) Üzerinde OpenVINO ile Ultralytics YOLO26'yı Hızlandırma

Son birkaç yılda yapay zekâ ve bilgisayarlı görü, deneysel teknolojiler olmaktan çıkıp günlük iş operasyonlarının önemli bir parçası hâline geldi. Hatta anketler, kuruluşların yaklaşık 88%’inin işlerinin en az bir bölümünde yapay zekâ kullandığını gösteriyor.

Ancak bu benimsemeyi, ister üretim sistemlerinde ister kişisel projelerde olsun, gerçek değere dönüştürmek çoğu zaman modellerin dağıtıldıktan sonra gerçekte ne kadar iyi çalıştığına bağlıdır. Gerçek dünyadaki birçok senaryoda bilgisayarlı görü modelleri gibi Ultralytics YOLO26, üst düzey GPU'lar yerine uç cihazlarda ve çoğunlukla CPU'lar, tümleşik GPU'lar veya NPU'lar gibi çeşitli donanımlarda dağıtılır.

Performansın değişmeye başlayabileceği ve optimizasyonun kritik hâle geldiği nokta burasıdır. Bir ortamda iyi çalışan model, temel donanım için uygun şekilde optimize edilmemişse başka bir ortamda zorlanabilir.

Bunu kolaylaştırmak için Ultralytics Python paketi, YOLO26 modellerinin OpenVINO gibi optimize edilmiş biçimlere aktarılmasını destekler; böylece iş akışında değişiklik yapman gerekmeden Intel donanımlarında sorunsuzca çalışabilirler.

Örneğin, bir Ultralytics YOLO26 modeli OpenVINO biçimine aktarıldığında Intel Core Ultra Series 3 işlemcilerinde daha verimli çalışabilir ve GPU çıkarım hızları üç kata kadar artabilir.

Bu makalede, güncellenen Ultralytics ve OpenVINO entegrasyonunun YOLO26 modellerini Intel Core Ultra Series 3 donanımlarında dağıtmayı nasıl kolaylaştırdığını inceleyeceğiz. Hadi başlayalım!

Ultralytics x OpenVINO entegrasyonuna genel bakış#

Ultralytics Python paketi, YOLO26 gibi Ultralytics YOLO modellerini eğitmek, çıkarım gerçekleştirmek ve dağıtmak için tek bir arayüz sağlar. Eğitim ve denemeden dağıtım ve optimizasyona kadar görü yapay zekâ iş akışının farklı bölümlerine yardımcı olan çeşitli entegrasyonları destekler.

Dağıtım odaklı entegrasyonlardan biri, Ultralytics YOLO26 modellerini Intel donanımı için optimize edilmiş bir biçime aktarmanı sağlayan OpenVINO araç setiyle entegrasyondur. Bu işlem, YOLO modellerini Intel CPU'larında, GPU'larında ve NPU'larında, Intel® Core™ Ultra™ serisi işlemcilerle çalışan sistemler dâhil, daha verimli çalışan bir biçime dönüştürür.

Bu sayede modelleri her kurulum için manuel olarak ayarlamak zorunda kalmadan farklı Intel cihazlarında çalıştırmak daha kolay hâle gelir. İster yerel bir makinede, ister uç cihazda, ister daha büyük bir dağıtımda çalışıyor ol, aynı aktarılmış modeli yeniden kullanabilirsin.

Bu entegrasyonu özellikle kullanışlı kılan, mevcut Ultralytics iş akışına ne kadar sorunsuz şekilde uymasıdır. Ek araçlara veya karmaşık bir kuruluma ihtiyaç duymadan, eğitim ve çıkarım için kullandığın arayüzün aynısını kullanarak bir modeli aktarabilirsin.

Aktarıldıktan sonra model, ihtiyaç duyduğun kontrol ve esneklik düzeyine bağlı olarak çıkarım için Ultralytics Python paketi veya OpenVINO Runtime üzerinden kullanılabilir.

Yapay zekâ çıkarımı için OpenVINO ve Intel Panther Lake donanımına daha yakından bakış#

Aktarılmış bir Ultralytics YOLO26 modelinin Intel donanımında ne kadar verimli çalışabildiğini görmeden önce, OpenVINO ve Intel donanımının verimli çıkarım sağlamak için nasıl birlikte çalıştığını anlamak üzere biraz geriye dönelim.

OpenVINO, CPU'lar, tümleşik GPU'lar ve NPU'lar dâhil Intel donanımlarında yapay zekâ çıkarımını optimize etmek ve çalıştırmak için tasarlanmış açık kaynaklı bir araç setidir. Birleşik bir çalışma zamanı sağlar; böylece aynı modelin yeniden yazılmasına gerek kalmadan bu farklı hesaplama birimlerinde çalışmasını mümkün kılar.

Şekil 1. OpenVINO, modelleri birden çok donanım hedefinde dağıtmayı kolaylaştırır. (Kaynak)

Yeni Intel® Core™ Ultra™ Series 3 işlemcilerde (kod adı Panther Lake), yapay zekâ iş yükleri aynı işlemci içindeki birden çok hesaplama biriminde çalışır. Her çip, genel amaçlı görevler için CPU çekirdeklerini, paralel işleme için tümleşik bir GPU'yu ve özellikle yapay zekâ çıkarımı için tasarlanmış özel bir NPU'yu bir araya getirir.

OpenVINO, kodunu değiştirmeden CPU, GPU veya NPU fark etmeksizin bu hesaplama birimlerinden herhangi birini hedeflemene olanak tanıyan birleşik bir API sağlar. Çalışma zamanında çıkarımın hangi cihazda gerçekleştirileceğini belirtmen yeterlidir; böylece performans ve verimlilik ihtiyaçlarına göre üçü arasında geçiş yapmak kolaylaşır.

Intel® Core™ Ultra™ serisinde Ultralytics YOLO26'yı kıyaslama#

Ultralytics ve OpenVINO entegrasyonunu incelerken şunu merak ediyor olabilirsin: YOLO26'yı OpenVINO biçimine aktardığında model performansında ne tür artışlar bekleyebilirsin?

Çıkarım hızındaki fark, YOLO26 modelleri farklı biçimler ve hassasiyet düzeyleri arasında kıyaslandığında netleşir. Örneğin YOLO26'nın nano varyantını (YOLO26n) Panther Lake işlemcisi Intel Core Ultra X7 358H üzerinde çalıştırırken, çıkarım süresi PyTorch'ta FP32 hassasiyetinde görüntü başına 25.18 ms'den, tümleşik NPU ile aynı hassasiyette OpenVINO kullanıldığında 2.64 ms'ye düşer.

Bu, orijinal PyTorch FP32 temel değerinden daha hızlıdır ve gecikmenin kritik olduğu gerçek zamanlı ve uç uygulamalarda belirgin bir fark yaratabilir. Aynı model tümleşik Intel Arc GPU üzerinde çalıştırıldığında bu kazanımlar daha da belirgin hâle gelir.

Şekil 2. OpenVINO kullanılarak Intel Panther Lake GPU üzerinde Ultralytics YOLO26 çıkarımının kıyaslanması (Kaynak)

Şekil 3. OpenVINO kullanılarak Intel Panther Lake NPU üzerinde Ultralytics YOLO26 çıkarımının kıyaslanması (Kaynak)

Ultralytics YOLO26'yı OpenVINO biçimine aktarmanın iki yolunu inceleme#

YOLO26 modellerini OpenVINO biçimine aktarmanın iki temel yolu vardır. Ya Ultralytics Python paketini kullanabilir ya da bilgisayarlı görü iş akışlarını tek bir yerde oluşturup yönetmeye yönelik uçtan uca bir çalışma alanı olan Ultralytics Platform üzerinden doğrudan aktarabilirsin. Şimdi her iki yaklaşımı da adım adım ele alacağız.

YOLO26'yı aktarmak için Ultralytics Python paketini kullanma#

Ultralytics Python paketi, kod tabanlı bir iş akışı içinde YOLO26 modellerini OpenVINO biçimine aktarmak için basit bir yol sunar. Eğitim ve çıkarım için aynı arayüz kullanıldığından, ek araçlara ihtiyaç duymadan bir modeli aktarmak mevcut işlem hatlarına doğal biçimde uyar.

Başlamak için Ultralytics paketini yükleyebilirsin. Bunu bir terminalde veya komut isteminde “pip install ultralytics” komutunu çalıştırarak yapabilirsin. Jupyter Notebook veya Google Colab gibi etkileşimli bir ortamda çalışıyorsan aynı komutu başına ünlem işareti ekleyerek çalıştırabilirsin.

Yüklendikten sonra eğitilmiş bir YOLO26 modelini yükleyip doğrudan OpenVINO biçimine aktarabilirsin. Aşağıda gösterildiği gibi, önceden eğitilmiş bir YOLO26n modeli (yolo26n.pt) yüklenir ve ardından export yöntemi kullanılarak OpenVINO biçimine dönüştürülür.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

Kod çalıştırıldıktan sonra dönüştürülen model yeni bir dizine kaydedilir ve burada dağıtım için kullanılabilir.

Ultralytics Platform üzerinde YOLO26'yı aktarma#

Daha basit, kod gerektirmeyen bir yaklaşım arıyorsan YOLO26 modellerini doğrudan Ultralytics Platform üzerinden aktarabilirsin. Platform, bilgisayarlı görü iş akışının tamamını tek bir çalışma alanında bir araya getirerek ek kurulum olmadan eğitimden dağıtıma geçişi kolaylaştırır.

Modelin hazır olduğunda platformda açıp Export sekmesine gidebilirsin. Buradan dışa aktarma biçimi olarak OpenVINO'yu seçebilir ve görüntü boyutu veya hassasiyet gibi ayarları isteğe bağlı olarak değiştirebilirsin.

Şekil 4. Ultralytics Platform içinde YOLO26 aktarımına bir bakış

Platform dönüştürme işlemini otomatik olarak gerçekleştirir; bu nedenle komut dosyalarını, bağımlılıkları veya ortam yapılandırmasını yönetmen gerekmez. Aktarma tamamlandıktan sonra optimize edilmiş model indirilebilir ve Intel CPU'larında, GPU'larında ve NPU'larında dağıtım için kullanılabilir.

Ultralytics x OpenVINO entegrasyonunun sağladığı dağıtım seçenekleri#

Bir YOLO26 modeli OpenVINO biçimine aktarıldıktan sonra, iş akışına ve ihtiyaç duyduğun kontrol düzeyine bağlı olarak çıkarım çalıştırmanın birkaç yolu vardır. Daha basit ve entegre bir yaklaşım için Ultralytics Python paketini kullanabilir veya daha fazla esneklik ve kontrol için yerel OpenVINO çalışma zamanını kullanabilirsin.

Ultralytics Python paketiyle çıkarım çalıştırma#

Modelin OpenVINO biçimine aktarıldıktan sonra Ultralytics Python paketini kullanarak çıkarım çalıştırabilirsin. Bu yaklaşım, eğitim ve aktarmayla aynı arayüzü kullandığı için hızlı testler ve kolaylaştırılmış dağıtım için idealdir.

Bu yaklaşımla, aktarılmış OpenVINO modelini dizininden yükleyebilir ve görüntü veya video gibi bir girdi üzerinde çıkarım çalıştırabilirsin. Ayrıca sisteminde bulunan donanıma bağlı olarak "intel:cpu", "intel:gpu" veya "intel:npu" gibi seçenekleri belirterek çalıştırılacak cihazı seçebilirsin.

Aşağıdaki kod parçacığı, aktarılmış modelin nasıl yükleneceğini ve GPU hedeflenerek bir görüntü üzerinde çıkarımın nasıl çalıştırılacağını gösterir. Çıkarım tamamlandıktan sonra çıktı görüntüsü “runs/detect/predict” dizinine kaydedilir.

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Çıkarım için yerel OpenVINO paketinden yararlanma#

Modelinin üretimde nasıl çalışacağı üzerinde daha fazla kontrole ihtiyacın varsa çıkarım için yerel OpenVINO çalışma zamanını kullanabilirsin. Bu yöntem, modelleri daha büyük uygulamalara entegre ederken veya çıkarımın belirli donanımlarda nasıl gerçekleştirileceğini hassas biçimde ayarlamak istediğinde kullanışlıdır.

OpenVINO, Intel CPU'larında, GPU'larında ve NPU'larında modelleri çalıştırmak için asenkron yürütme ve mevcut hesaplama kaynaklarının verimli kullanımı gibi özelliklerle birlikte birleşik bir yol sunar. Bunu kurmak için, model yapısını tanımlayan .xml dosyası ve eğitilmiş ağırlıkları içeren .bin dosyası dâhil olmak üzere aktarılmış model dosyalarıyla doğrudan çalışabilirsin.

Kullanım alanına bağlı olarak girdi boyutu veya ön işleme adımları gibi ayarları da değiştirebilirsin. Çıkarımı kurmak; OpenVINO çalışma zamanını başlatmayı, modeli hedef cihaz için yükleyip derlemeyi, girdi verilerini hazırlamayı ve ardından çıkarımı çalıştırmayı içerir.

Şekil 5. OpenVINO ile tipik bir çıkarım işlem hattı örneği (Kaynak)

Bu, modelin nasıl yürütüleceğini ve genel dağıtımına nasıl uyacağını kontrol etmeni sağlar. OpenVINO çalışma zamanıyla çıkarımın nasıl kurulacağı ve çalıştırılacağı hakkında daha fazla bilgi edinmek için resmî Ultralytics belgelerini inceleyebilirsin.

Intel donanımında Ultralytics YOLO26'nın gerçek dünya uygulamaları#

Ultralytics ve OpenVINO entegrasyonunun gerçek değeri, güvenilir ve düşük gecikmeli çıkarımın somut bir fark yaratabildiği üretim ortamlarında ortaya çıkar. İşte bu entegrasyonun anlamlı sonuçlar sağladığı bazı önemli sektörler:

• Üretim: Ultralytics YOLO26'yı OpenVINO'ya aktararak üretim hattı sistemleri, Intel donanımı üzerinde eksik bileşenler, hizalama bozuklukları veya yüzey hasarı gibi görsel kusurları otomatik olarak tespit edebilir; bu da ürün kalitesinin iyileştirilmesine ve maliyetli hataların azaltılmasına yardımcı olur.

• Sağlık: Tıbbi görüntüleme ve hasta izleme sistemleri, aktarılmış Ultralytics YOLO26 modellerini Intel donanımında yerel olarak çalıştırabilir; böylece güvenilir çıkarım performansını korurken sıkı veri gizliliği gereksinimleri desteklenir.

• Akıllı şehirler: Trafik izleme ve kalabalık analizi, Intel destekli uç kameralar üzerinde aktarılmış Ultralytics YOLO26 modelleri kullanılarak dağıtılabilir; araç sayımı, yaya takibi ve olay tespiti gibi gerçek zamanlı içgörüler elde edilebilir.

• Otomotiv: Sürücü izleme ve kabin içi algılama için düşük gecikme ve güç verimliliği kritik olduğundan, Intel donanımı ile aktarılmış Ultralytics YOLO26 modellerinin birlikte kullanılması gömülü otomotiv sistemleri için güçlü bir seçenektir.

Bu entegrasyon hakkında daha fazla bilgi edinmek istiyorsan, Intel OpenVINO DevCon atölye serisinde yer alan “Açıklamadan Dağıtıma: Geti, Ultralytics YOLO26 ve OpenVINO™ ile Nesne Tespit İşlem Hattı Oluşturma” etkinliğinde bize katıl. Burada İş Ortaklıkları ve Ekosistem Yöneticimiz Francesco Mattioli, Intel'in yapay zekâ yazılımı savunucusu Adrian Boguszewski ile canlı bir gösterim gerçekleştirecek ve gerçek dünyadaki endüstriyel senaryolar için üretime hazır bilgisayarlı görü işlem hatlarının nasıl oluşturulacağını adım adım anlatacak. Atölyede veri kümesi oluşturma ve model eğitiminden optimizasyon ve uç dağıtımına kadar eksiksiz, uçtan uca bir nesne tespit iş akışı ele alınacak.

OpenVINO dışa aktarma biçimini kullanmanın avantajları#

OpenVINO dışa aktarma biçimini kullanmanın başlıca avantajlarından bazıları şunlardır:

• Erişilebilir ve kolay entegre edilebilir: Birleşik API'si ve 80'den fazla eğitim not defteriyle OpenVINO, önemli bir karmaşıklık eklemeden denemeden dağıtıma geçişi kolaylaştırır.

• Aynı modeli farklı donanımlarda çalıştırma: OpenVINO, desteklenen Intel donanımlarında tek bir aktarılmış modeli kullanmana ve her cihaz için yeniden yazman veya uyarlaman gerekmeksizin CPU'larda, GPU'larda veya NPU'larda dağıtım yapmana olanak tanır.

• Aktarım sırasında yerleşik optimizasyon: OpenVINO'ya aktarma, PyTorch ve TensorFlow gibi popüler çerçevelerdeki modelleri çıkarıma hazır optimize edilmiş bir biçime dönüştürür ve ayrı dönüştürme adımlarına duyulan ihtiyacı ortadan kaldırır.

• Donanım kaynaklarının daha iyi kullanımı: OpenVINO, Intel donanımlarında asenkron çıkarımı ve yük dengelemesini destekleyerek gerçek dünya uygulamalarında verimliliğin artırılmasına yardımcı olur.

Ultralytics YOLO26'yı ExecuTorch ve OpenVINO arka ucuyla çalıştırma#

Ultralytics YOLO26'yı daha zorlu üretim ortamlarında dağıtıyorsan, cihaz üzerinde verimliliği gelişmiş model sıkıştırmayla birleştiren başka bir seçenek daha vardır.

PyTorch'un cihaz üzerinde çıkarım çerçevesi ExecuTorch, Ultralytics YOLO26'yı farklı bir aktarım ve çalışma zamanı yolu üzerinden Intel donanımında dağıtmana olanak tanıyan bir OpenVINO arka ucunu destekler.

Çalışma biçimi şöyledir: ExecuTorch model aktarımını ve çalışma zamanı yürütmesini yönetirken OpenVINO altta donanım hızlandırma katmanı olarak görev yapar ve Intel CPU'su, GPU'su veya NPU'su üzerindeki gerçek hesaplamayı gerçekleştirir. İkisi birlikte çalışarak OpenVINO'nun sağladığı donanıma özgü optimizasyonlarla ExecuTorch'un taşınabilirliğini ve cihaz üzerindeki verimliliğini bir araya getirir.

Bunun nasıl çalıştığı ve ExecuTorch ile OpenVINO arka ucunda Ultralytics YOLO26'yı kullanmaya nasıl başlanacağı hakkında daha fazla bilgi edinmek için en son ExecuTorch ve OpenVINO güncellemelerini ele alan Intel bloguna göz atabilirsin.

Önemli çıkarımlar#

YOLO26 modellerinin Ultralytics ve OpenVINO entegrasyonu üzerinden aktarılması, iş akışına karmaşıklık eklemeden Intel donanımlarındaki performansı artırır. İşlem hattını yeniden düzenlemeden eğitimden dağıtıma geçebilirsin. Genel olarak bu, modelleri gerçek dünya uygulamalarında Intel CPU'larında, GPU'larında ve NPU'larında verimli şekilde çalıştırmak için basit bir yol sağlar.

Vision AI hakkında daha fazla bilgi edinmek için topluluğumuza katıl ve GitHub depomuzu incele. Bilgisayarlı görü projelerine başlamak için lisanslama seçeneklerimize göz at. Üretimde yapay zekâ veya otomotiv sektöründe bilgisayarlı görü gibi yeniliklerle ilgileniyor musun? Daha fazlasını keşfetmek için çözümler sayfalarımızı ziyaret et.