Ultralytics YOLO modellerini OpenVINO ile Intel'in AI PC'sinde çalıştırma

Ultralytics'ın yıllık hibrit etkinliği YOLO Vision 2024 (YV24), dünyanın dört bir yanından AI meraklılarını, geliştiricileri ve uzmanları en yeni bilgisayarlı görü yeniliklerini keşfetmek üzere bir araya getirdi. YV24, yeni atılımları tartışmak için harika bir fırsat ve platform sundu. Etkinlikte, AI sektörünün önde gelen isimleri en yeni yeniliklerini tanıttı. Bunlardan biri de etkinlikte yer alarak yeni çığır açan AI PC'si ve Intel OpenVINO'nun Ultralytics YOLO modelleriyle, örneğin Ultralytics YOLO11 ile, entegrasyonu hakkında bir açılış konuşması yapan Intel'di.

Konuşmayı, LandCover.ai veri kümesinin ortak yazarlarından biri olan ve geliştiricileri Intel'in OpenVINO araç seti hakkında bilgilendiren Yazılım Elçisi Adrian Boguszewski ile endüstriyel otomasyon ve AI alanlarında 20 yılı aşkın deneyime sahip AI PC Elçisi Dmitriy Pastushenkov yönetti. Etkinlik sırasında Adrian heyecanını paylaştı ve şöyle dedi: "Bugün bu harika etkinlikte olmamızın nedeni yalnızca Ultralytics'ın yeni bir YOLO sürümü sunması değil, aynı zamanda bu yeni modeli yeni donanımımızda çalışırken ve OpenVINO'nun yeni bir sürümüyle birlikte tanıtabilmemiz."

Bu makalede, Intel'ın YV24'teki konuşmasından öne çıkan noktaları ele alacak; AI PC'lerinin, Intel Core Ultra 200V Serisi'nin ayrıntılarına ve OpenVINO araç setini kullanarak Ultralytics YOLO modelleriyle nasıl entegre olduklarına değineceğiz. Hadi başlayalım!

2024'te çığır açan AI teknolojileri#

Dmitriy, açılış konuşmasına geleneksel AI ile üretken AI arasındaki temel farkları ele alarak başladı. Odak noktası, bu teknolojilerin ve kullanım alanlarının 2024'te nasıl geliştiğiydi. Bilgisayarlı görü ve doğal dil işleme gibi geleneksel AI teknikleri; poz tahmini, nesne tespiti ve ses tanıma gibi görevler için vazgeçilmez olmuştur. Buna karşılık üretken AI, sohbet robotları, metinden görüntü oluşturma, kod yazma ve hatta metinden video oluşturma gibi uygulamaları içeren daha yeni bir AI teknolojisi dalgasını temsil eder.

Şekil 1. Intel'den Adrian ve Dmitriy, YV24'te sahnede AI kullanım alanlarını tartışıyor.

Dmitriy, ikisi arasındaki ölçek farkına dikkat çekti. Geleneksel AI modelleri milyonlarca parametreden oluşurken, üretken AI modellerinin çok daha büyük bir ölçekte çalıştığını açıkladı. Üretken AI modelleri genellikle milyarlarca, hatta trilyonlarca parametre içerir ve bu da onları çok daha fazla hesaplama gücü gerektiren modeller haline getirir.

Intel AI PC: AI donanımında yeni bir sınır#

Dmitriy, Intel AI PC'yi hem geleneksel hem de üretken AI modellerini verimli bir şekilde çalıştırmanın giderek büyüyen zorluklarını ele almak üzere tasarlanmış yeni bir donanım çözümü olarak tanıttı. Intel AI PC, güçlü ve enerji verimli bir makinedir. Bulut tabanlı işlemeye ihtiyaç duymadan çok çeşitli AI modellerini yerel olarak çalıştırabilir.

Yerel işleme, hassas verilerin gizli tutulmasına yardımcı olur. AI modelleri internet bağlantılarından bağımsız çalışabildiğinde, sektörlerin gizlilik ve güvenlikle ilgili etik kaygıları giderilir.

Intel AI PC'nin arkasındaki itici güç, Intel Core Ultra 200V Serisi işlemcisidir. Bu işlemci üç temel bileşeni bir araya getirir: Merkezi İşlem Birimi (CPU), Grafik İşlem Birimi (GPU) ve Sinirsel İşlem Birimi (NPU). Her biri, farklı AI iş yüklerini ele alırken belirli bir rol oynar. CPU, hızlı yanıt gerektiren daha küçük ve düşük gecikmeli görevler için idealken GPU, AI modellerini çalıştırmak gibi yüksek verim gerektiren işlemler için optimize edilmiştir. Güç verimliliği için tasarlanan NPU ise gerçek zamanlı nesne tespiti gibi, YOLO11 modelleriyle gerçekleştirilen uzun süreli görevler için oldukça uygundur.

CPU'nun 5 TOPS'a (Saniyede Trilyon İşlem) kadar, GPU'nun 67 TOPS'a kadar performans sunabildiği ve NPU'nun sistem kaynaklarını tüketmeden AI görevlerini sürekli çalıştırmak için enerji verimli bir yol sağladığı vurgulandı.

Intel'ın AI alanındaki ilerlemeleri: Intel Core Ultra 200V serisi#

Intel Core Ultra 200V Serisi işlemcisi, üç AI motorunun tümünü (NPU, CPU ve GPU) tek bir küçük çipte birleştirir. Tasarımı, performanstan ödün vermeden dizüstü bilgisayarlar gibi kompakt cihazlar için son derece uygundur.

İşlemci ayrıca dahili RAM içerir ve ayrı grafik kartlarına duyulan ihtiyacı azaltır. Bu, güç tüketimini düşürmeye ve cihazı kompakt tutmaya yardımcı olur. Dmitriy, işlemcinin esnekliğini de vurguladı. Kullanıcılar, göreve bağlı olarak AI modellerini CPU, GPU veya NPU üzerinde çalıştırmayı seçebilir. Örneğin, YOLO11 modelleriyle nesne tespiti bu motorlardan herhangi birinde çalışabilirken metinden görüntü oluşturma gibi daha karmaşık görevlerde daha iyi performans için GPU ve NPU aynı anda kullanılabilir.

Sunum sırasında Dmitriy, çipi cebinden çıkararak böylesine gelişmiş AI görevlerini gerçekleştirebilmesine rağmen aslında ne kadar küçük olduğunu herkese açıkça gösterdi. Bu, Intel'ın güçlü AI yeteneklerini daha taşınabilir ve kullanışlı cihazlara nasıl taşıdığını göstermek için eğlenceli ve akılda kalıcı bir yöntemdi.

Şekil 2. Intel Core Ultra 200V İşlemcisi bir cebe sığabilir.

AI modellerini Intel OpenVINO ile optimize etme#

Intel'ın en yeni donanım geliştirmelerini sergiledikten sonra Dmitriy, AI'yi destekleyen Intel yazılım yığınına geçti. Intel'ın farklı cihazlarda AI modellerini verimli bir şekilde optimize etmek ve dağıtmak için tasarladığı açık kaynaklı çerçeve OpenVINO'yu tanıttı. OpenVINO görsel görevlerin ötesine geçerek doğal dil işleme, ses işleme, Transformer'lar vb. için kullanılan AI modellerini de destekler.

OpenVINO, PyTorch, TensorFlow, ve ONNX gibi popüler platformlarla uyumludur ve geliştiriciler bunu iş akışlarına kolayca dahil edebilir. Dmitriy'nin dikkat çektiği temel özelliklerden biri nicelemeydi. Niceleme, model ağırlıklarını sıkıştırarak boyutlarını küçültür; böylece büyük modeller buluta ihtiyaç duymadan yerel cihazlarda sorunsuzca çalışabilir. OpenVINO birden çok çerçevede çalışır; CPU, GPU, NPU, FPGA veya ARM cihazları üzerinde çalıştırılabilir ve Windows, Linux ile macOS işletim sistemlerini destekler. Dmitriy ayrıca OpenVINO'yu kullanmaya başlamanın ne kadar kolay olduğunu izleyicilere adım adım gösterdi.

Şekil 3. Dmitriy, OpenVINO'yu kullanmaya nasıl başlanacağını anlatıyor.

Ultralytics'ı Intel OpenVINO ile entegre etme#

Konuşmanın ikinci bölümünde söz Adrian'a geçti. Adrian, Ultralytics YOLO modelleri ile Intel'ın OpenVINO araç seti arasındaki sorunsuz entegrasyonu açıklayarak YOLO modeli dağıtımını kolaylaştırdı. Ultralytics Python paketini kullanarak bir YOLO modelini OpenVINO biçimine aktarmanın hızlı ve kolay olduğunu adım adım anlattı. Bu entegrasyon, geliştiricilerin modellerini Intel donanımı için optimize etmesini ve her iki platformdan da en iyi şekilde yararlanmasını çok daha kolay hale getirir.

Şekil 4. Adrian, Ultralytics'ın modelini OpenVINO biçimine aktarmayı nasıl kolaylaştırdığını açıklıyor.

Adrian, bir Ultralytics YOLO modeli eğitildikten sonra kullanıcıların birkaç basit komut satırı seçeneğiyle modeli dışa aktarabileceğini gösterdi. Örneğin kullanıcılar, modeli en yüksek kesinlik için kayan noktalı sürüm olarak mı yoksa daha iyi hız ve verimlilik için nicelemeli sürüm olarak mı dışa aktarmak istediklerini belirleyebilir. Ayrıca geliştiricilerin bu süreci doğrudan kod aracılığıyla yönetebileceğini ve çok fazla doğruluktan ödün vermeden performansı artırmak için INT8 niceleme gibi seçenekleri kullanabileceğini vurguladı.

Intel AI PC'de gerçek zamanlı AI demoları#

Intel ekibi, tüm bu teoriyi uygulamaya geçirerek Intel AI PC'de YOLO11 çalıştırarak gerçek zamanlı bir nesne tespiti demosu sundu. Adrian, sistemin modeli farklı işlemcilerde nasıl çalıştırdığını gösterdi: kayan noktalı modelle CPU'da saniyede 36 kare (FPS), tümleşik GPU'da 100 FPS'in üzerinde ve INT8 nicelemeli sürümle 70 FPS elde edildi. Intel AI PC'nin karmaşık AI görevlerini ne kadar verimli bir şekilde yönetebildiğini açıkça gösterdiler.

Ayrıca sistemin, tüm verilerin veya video karelerinin önceden hazır olduğu görevlerde CPU, GPU ve NPU'yu birlikte kullanarak modelleri paralel çalıştırabildiğine dikkat çekti. Bu, video gibi ağır iş yüklerini işlerken kullanışlıdır. Sistem iş yükünü farklı işlemciler arasında bölerek daha hızlı ve verimli hale getirebilir.

Adrian kapanışta, kullanıcıların evde demoları deneyebileceğini, buna insan sayma ve akıllı kuyruk yönetimi gibi çözümlerin de dahil olduğunu belirtti. Ardından kullanıcıların istemler girerek GPU üzerinde gerçek zamanlı rüya benzeri görüntüler oluşturabildiği bir bonus demo gösterdi. Bu, Intel AI PC'nin hem geleneksel AI görevleri hem de yaratıcı, üretken AI projeleri için çok yönlülüğünü ortaya koydu.

Intel OpenVINO ile gerçek zamanlı nesne tespiti#

Etkinlikte Intel'ın, Intel AI PC'lerinde çalıştırılan Ultralytics YOLO11'i kullanarak bir gerçek zamanlı nesne tespiti demosu sergilediği bir standı vardı. Katılımcılar, OpenVINO ile optimize edilip Intel Core Ultra 200V işlemcisinde dağıtılan modelin çalışırken nasıl göründüğünü izleme fırsatı buldu.

Şekil 5. Katılımcılar, Intel OpenVINO standında gerçek zamanlı bir demoyu görme fırsatı buldu.

Intel standında Dmitriy şöyle dedi: "YOLO Vision'a ilk kez katılıyorum ve Madrid'de olmaktan mutluyum. Ultralytics'ın YOLO11 modelini Intel Core Ultra 200V işlemcisinde çalışır halde sunuyoruz. Mükemmel performans gösteriyor ve modeli optimize edip dağıtmak için OpenVINO'yu kullanıyoruz. Ultralytics ile iş birliği yapmak ve CPU, GPU ve NPU'dan yararlanarak modeli en yeni Intel donanımında çalıştırmak çok kolaydı." Standda ayrıca katılımcıların eve götürebileceği tişört ve not defteri gibi eğlenceli hediyeler de vardı.

Önemli çıkarımlar#

Intel'ın Intel Core Ultra 200V Serisi işlemcilerini öne çıkaran YV24'teki teknoloji konuşması, OpenVINO araç setinin Ultralytics YOLO11 gibi AI modellerini nasıl optimize ettiğini gösterdi. Bu entegrasyon, kullanıcıların YOLO modellerini doğrudan cihazlarında çalıştırmasını ve nesne tespiti gibi bilgisayarlı görü görevlerinde yüksek performans elde etmesini sağlar. Bunun temel avantajı, kullanıcıların bulut hizmetlerine güvenmek zorunda kalmamasıdır.

Geliştiriciler ve AI meraklıları, YOLO modellerini zahmetsizce çalıştırıp ince ayar yapabilir ve gerçek zamanlı uygulamalar için CPU'lar, GPU'lar ve NPU'lar gibi donanımlardan tam anlamıyla yararlanabilir. Intel OpenVINO araç seti, Ultralytics YOLO modelleriyle birlikte gelişmiş AI yeteneklerini doğrudan kişisel cihazlara taşımak için yeni olanaklar sunar ve bu da onu çeşitli sektörlerde AI yeniliklerini ilerletmek isteyen geliştiriciler için ideal bir seçenek haline getirir.

Birlikte çalışalım ve yenilik yapalım! Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret et. AI'yi üretim ve sağlık gibi sektörlerde nasıl etki yaratmak için kullandığımızı gör.