Ultralytics YOLO modellerini OpenVINO ile Intel'in AI PC'sinde çalıştırma

Ultralytics'in her yıl düzenlediği hibrit etkinlik YOLO Vision 2024 (YV24), bilgisayarlı görü alanındaki en yeni yenilikleri keşfetmek üzere dünyanın dört bir yanından yapay zekâ meraklılarını, geliştiricileri ve uzmanları bir araya getirdi. YV24, yapay zekâ sektörünün önde gelen isimlerinin en son yeniliklerini sunduğu bir etkinlikti. Katılımcılar arasında yeni yapay zekâ bilgisayarını ve Intel OpenVINO'nun Ultralytics YOLO11 gibi Ultralytics YOLO modelleriyle entegrasyonunu anlatan Intel de vardı.

Konuşmayı, LandCover.ai veri kümesinin ortak yazarlarından ve geliştiricilere Intel'in OpenVINO araç setini tanıtan Yazılım Tanıtım Uzmanı Adrian Boguszewski ile endüstriyel otomasyon ve yapay zekâ alanında 20 yılı aşkın deneyime sahip Yapay Zekâ Bilgisayarı Tanıtım Uzmanı Dmitriy Pastushenkov yaptı. Etkinlik sırasında Adrian şöyle dedi: "Bugünkü etkinlik harika; yalnızca Ultralytics yeni bir YOLO sürümü sunduğu için değil, bu yeni modeli yeni donanımımızda çalışırken ve OpenVINO'nun yeni bir sürümüyle birlikte sunabildiğimiz için de."

Bu yazıda, Intel'in yapay zekâ bilgisayarını, Intel Core Ultra 200V Serisi'ni ve OpenVINO araç setini kullanarak Ultralytics YOLO modelleriyle nasıl entegre olduğunu ele alan Intel'in YV24 konuşmasındaki önemli noktaları inceleyeceğiz.

2024'te yapay zekâ teknolojileri#

Dmitriy, açılış konuşmasına geleneksel yapay zekâ ile üretken yapay zekâ arasındaki temel farkları açıklayarak başladı. Odak noktası, bu teknolojilerin ve kullanım alanlarının 2024'te nasıl geliştiğiydi. Bilgisayarlı görü ve doğal dil işleme gibi geleneksel yapay zekâ teknikleri; poz tahmini, nesne algılama ve ses tanıma gibi görevlerde önemli rol oynadı. Üretken yapay zekâ ise sohbet botları, metinden görüntü üretimi, kod yazma ve hatta metinden video üretimi gibi uygulamaları kapsayan yeni bir yapay zekâ teknolojisi dalını temsil ediyor.

Şekil 1. YV24 sahnesinde yapay zekâ kullanım alanlarını tartışan Intel'den Adrian ve Dmitriy.

Dmitriy, iki yaklaşımın ölçek bakımından nasıl farklılaştığına dikkat çekti. Geleneksel yapay zekâ modelleri milyonlarca parametreden oluşurken üretken yapay zekâ modellerinin çok daha büyük ölçekte çalıştığını açıkladı. Üretken yapay zekâ modelleri genellikle milyarlarca, hatta trilyonlarca parametre içeriyor ve bu nedenle çok daha fazla hesaplama gücü gerektiriyor.

Intel yapay zekâ PC'si: Yeni bir yapay zekâ donanım alanı#

Dmitriy, Intel yapay zekâ PC'sini hem geleneksel hem de üretken yapay zekâ modellerini verimli biçimde çalıştırmanın giderek artan zorluklarını ele almak üzere tasarlanmış yeni bir donanım çözümü olarak tanıttı. Intel yapay zekâ PC'si güçlü ve enerji verimli bir makinedir. Bulut tabanlı işleme ihtiyaç duymadan çok çeşitli yapay zekâ modellerini yerel olarak çalıştırabilir.

Yerel işleme, hassas verilerin gizli kalmasına yardımcı olur. Yapay zekâ modellerinin internet bağlantısı olmadan çalışabilmesi, gizlilik ve güvenlikle ilgili sektörel etik kaygıları gidermeye yardımcı olur.

Intel yapay zekâ bilgisayarının temelinde Intel Core Ultra 200V Serisi işlemci yer alıyor. Bu işlemci üç temel bileşeni bir araya getiriyor: merkezi işlem birimi (CPU), grafik işlem birimi (GPU) ve sinirsel işlem birimi (NPU). Her biri farklı türde yapay zekâ iş yüklerini yürütmede belirli bir rol üstleniyor. CPU, hızlı yanıt gerektiren küçük ve düşük gecikmeli görevler için idealken GPU, yapay zekâ modellerini çalıştırma gibi yüksek verimli işlemler için optimize edilmiştir. Güç verimliliği için tasarlanan NPU ise YOLO11 gibi modellerle gerçek zamanlı nesne algılama gibi uzun süreli görevler için uygundur.

CPU'nun saniyede 5 TOPS'a (trilyon işlem), GPU'nun 67 TOPS'a kadar performans sunabildiği ve NPU'nun sistem kaynaklarını tüketmeden yapay zekâ görevlerini sürekli çalıştırmak için enerji verimli bir yol sağladığı vurgulandı.

Intel'in yapay zekâ alanındaki gelişmeleri: Intel Core Ultra 200V serisi#

Intel Core Ultra 200V Serisi işlemci, üç yapay zekâ motorunu (NPU, CPU ve GPU) tek bir küçük yongada birleştiriyor. Tasarımı, dizüstü bilgisayarlar gibi kompakt cihazlar için oldukça uygun.

İşlemci ayrıca tümleşik RAM içeriyor ve ayrı grafik kartlarına duyulan ihtiyacı azaltıyor. Bu, güç tüketimini düşürmeye ve cihazı kompakt tutmaya yardımcı oluyor. Dmitriy, işlemcinin esnekliğini de vurguladı. Kullanıcılar, göreve bağlı olarak yapay zekâ modellerini CPU, GPU veya NPU'da çalıştırmayı seçebiliyor. Örneğin, YOLO11 modelleriyle nesne tespiti bu motorlardan herhangi birinde çalışabilirken metinden görüntü oluşturma gibi daha karmaşık görevlerde daha iyi performans için GPU ve NPU aynı anda kullanılabiliyor.

Sunum sırasında Dmitriy çipi cebinden çıkararak gelişmiş yapay zekâ görevlerini yerine getirebilmesine rağmen gerçekte ne kadar küçük olduğunu herkese açıkça gösterdi. Intel'in güçlü yapay zekâ yeteneklerini daha taşınabilir ve kullanışlı cihazlara nasıl taşıdığını göstermenin eğlenceli ve akılda kalıcı bir yoluydu.

Şekil 2. Intel Core Ultra 200V işlemci cebe sığabilir.

Intel OpenVINO ile yapay zekâ modellerini optimize etme#

Dmitriy, Intel'in en yeni donanımını tanıttıktan sonra Intel'in yapay zekâ yazılım yığınına geçti. Farklı cihazlarda yapay zekâ modellerini verimli biçimde optimize edip dağıtmak için tasarlanmış açık kaynaklı bir çerçeve olan OpenVINO'yu tanıttı. OpenVINO görsel görevlerin ötesine geçerek doğal dil işleme, ses işleme, transformer'lar ve daha fazlasında kullanılan yapay zekâ modellerini de destekliyor.

OpenVINO; PyTorch, TensorFlow ve ONNX gibi popüler çerçevelerle uyumludur ve geliştiriciler bunu iş akışlarına kolayca entegre edebilir. Dmitriy'nin dikkat çektiği temel özelliklerden biri nicemlemeydi. Nicemleme, büyük modellerin buluta ihtiyaç duymadan yerel cihazlarda sorunsuz çalışabilmesi için model ağırlıklarını sıkıştırarak boyutlarını küçültür. OpenVINO birden fazla çerçevede çalışır; CPU, GPU, NPU, FPGA ve hatta ARM cihazlarında çalıştırılabilir ve Windows, Linux ve macOS'u destekler. Dmitriy ayrıca OpenVINO'ya başlamanın ne kadar kolay olduğunu da izleyicilere anlattı.

Şekil 3. Dmitriy, OpenVINO'yu kullanmaya başlamanın yollarını anlatıyor.

Ultralytics'i Intel OpenVINO ile entegre etme#

Konuşmanın ikinci bölümünde mikrofon Adrian'a geçti. Adrian, YOLO modeli dağıtımını kolaylaştıran Ultralytics YOLO modelleri ile Intel'in OpenVINO araç seti arasındaki entegrasyonu anlattı. Ultralytics Python paketini kullanarak bir YOLO modelini OpenVINO biçimine dışa aktarmanın ne kadar hızlı ve kolay olduğunu adım adım açıkladı. Bu entegrasyon, geliştiricilerin modellerini Intel donanımı için optimize etmesini ve her iki platformdan da en iyi şekilde yararlanmasını çok daha kolay hâle getiriyor.

Şekil 4. Adrian, Ultralytics'in modeli OpenVINO biçimine aktarmayı nasıl kolaylaştırdığını açıklıyor.

Adrian, bir Ultralytics YOLO modeli eğitildikten sonra kullanıcıların birkaç basit komut satırı bayrağıyla modeli dışa aktarabileceğini gösterdi. Örneğin kullanıcılar, modeli en yüksek hassasiyet için kayan noktalı sürüm olarak mı yoksa daha yüksek hız ve verimlilik için nicemlenmiş sürüm olarak mı dışa aktaracaklarını belirtebilir. Ayrıca geliştiricilerin, doğruluktan fazla ödün vermeden performansı artırmak için INT8 nicemleme gibi seçeneklerden yararlanarak bu süreci doğrudan kod üzerinden yönetebileceğini vurguladı.

Intel AI PC'de gerçek zamanlı yapay zekâ demoları#

Intel ekibi, tüm bu teoriyi pratiğe dökerek Intel yapay zekâ bilgisayarında YOLO11 çalıştıran gerçek zamanlı bir nesne algılama demosu sundu. Adrian, sistemin modeli farklı işlemcilerde nasıl çalıştırdığını gösterdi: kayan noktalı modelle CPU'da saniyede 36 kare (FPS), tümleşik GPU'da 100 FPS'nin üzerinde ve INT8 ile nicemlenmiş sürümde 70 FPS. Demo, Intel yapay zekâ bilgisayarının karmaşık yapay zekâ görevlerini ne kadar verimli yürütebildiğini gösterdi.

Ayrıca sistemin, tüm verilerin veya video karelerinin önceden hazır olduğu görevlerde CPU, GPU ve NPU'yu birlikte kullanarak modelleri paralel çalıştırabildiğine dikkat çekti. Bu özellik, videolar gibi yoğun iş yüklerini işlerken kullanışlıdır. Sistem iş yükünü farklı işlemcilere dağıtarak işlemleri daha hızlı ve verimli hâle getirebilir.

Kapanışta Adrian, kullanıcıların evde demoları deneyebileceğinden, bunlar arasında kişi sayımı ve akıllı kuyruk yönetimi çözümlerinin de bulunduğundan bahsetti. Ardından, kullanıcıların istemler girerek GPU'da gerçek zamanlı rüya gibi görüntüler oluşturabildiği bir ekstra demo gösterdi. Demo, Intel yapay zekâ bilgisayarının hem geleneksel yapay zekâ görevlerinde hem de yaratıcı, üretken yapay zekâ projelerinde ne kadar çok yönlü olduğunu ortaya koydu.

Intel OpenVINO ile gerçek zamanlı nesne tespiti#

Etkinlikte Intel'in bir standı vardı ve burada Intel AI PC'de çalışan Ultralytics YOLO11 ile gerçek zamanlı nesne tespiti demosu sergilendi. Katılımcılar, OpenVINO ile optimize edilip Intel Core Ultra 200V işlemcide dağıtılan modeli çalışırken görme fırsatı buldu.

Şekil 5. Katılımcılar, Intel OpenVINO standında gerçek zamanlı bir demo izleme fırsatı buldu.

Intel standında Dmitriy şunları paylaştı: "YOLO Vision'a ilk kez katılıyorum ve Madrid'de olmaktan mutluyum. Ultralytics'in YOLO11 modelini Intel Core Ultra 200V işlemcide çalıştırarak tanıtıyoruz. Model mükemmel performans gösteriyor; modeli optimize etmek ve dağıtmak için OpenVINO kullanıyoruz. Ultralytics ile iş birliği yapmak ve modeli CPU, GPU ve NPU'dan yararlanarak en yeni Intel donanımında çalıştırmak çok kolay oldu." Standda ayrıca katılımcıların eve götürebileceği tişört ve defter gibi eğlenceli hediyeler de vardı.

Önemli çıkarımlar#

Intel'in YV24'te Intel Core Ultra 200V Serisi işlemcileri tanıttığı teknoloji konuşmasında, OpenVINO araç setinin Ultralytics YOLO11 gibi yapay zekâ modellerini nasıl optimize ettiği gösterildi. Bu entegrasyon, kullanıcıların YOLO modellerini doğrudan cihazlarında çalıştırmasını ve nesne tespiti gibi bilgisayarlı görü görevlerinde yüksek performans elde etmesini sağlıyor. En önemli avantajı, kullanıcıların bulut hizmetlerine bağlı kalmak zorunda olmaması.

Geliştiriciler ve yapay zekâ meraklıları, gerçek zamanlı uygulamalar için CPU, GPU ve NPU gibi donanımlardan tam anlamıyla yararlanarak YOLO modellerini çalıştırıp ince ayar yapabilir. Intel OpenVINO araç seti, Ultralytics YOLO modelleriyle birlikte gelişmiş yapay zekâ yeteneklerini doğrudan kişisel cihazlara taşımak için yeni olanaklar sunuyor ve farklı sektörlerde yapay zekâ uygulamaları geliştirenler için güçlü bir seçenek oluşturuyor.

Katkılarımızı keşfetmek ve topluluğumuzla etkileşime geçmek için GitHub depomuzu ziyaret et. Yapay zekâyı üretim ve sağlık hizmetleri gibi sektörlerde nasıl etki yaratmak için kullandığımızı gör.