Ultralytics YOLO modellerini OpenVINO ile Intel'in AI PC cihazında çalıştırmak
Dmitriy Pastushenkov ve Adrian Boguszewski'nin, YOLO modellerini Intel OpenVINO ile optimize etmek ve Intel'in AI PC cihazlarında gerçek zamanlı çıkarımlar çalıştırmak üzerine yaptıkları YOLO Vision 2024 konuşmasını tekrar izle.
Ultralytics'in yıllık hibrit etkinliği olan YOLO Vision 2024 (YV24), computer vision alanındaki en son yenilikleri keşfetmek üzere dünyanın dört bir yanından AI meraklılarını, geliştiricileri ve uzmanları bir araya getirdi. YV24, yeni çığır açan gelişmeleri tartışmak için harika bir fırsat ve platformdu. Etkinlikte, AI endüstrisindeki önemli oyuncular en son yeniliklerini tanıttı. Bunlar arasında, yeni çığır açan AI PC'lerini ve Ultralytics YOLO11 gibi Ultralytics YOLO models ile Intel OpenVINO’nun entegrasyonunu tanıtan bir açılış konuşması yapmak üzere etkinlikte yer alan Intel de vardı.
Konuşma, LandCover.ai dataset'inin ortak yazarı olan ve geliştiricileri Intel’in OpenVINO araç seti hakkında eğiten Yazılım Evangelisti Adrian Boguszewski ile industrial automation ve AI alanında 20 yıldan fazla deneyime sahip bir AI PC Evangelisti olan Dmitriy Pastushenkov tarafından yönetildi. Etkinlik sırasında Adrian heyecanını şu sözlerle paylaştı: "Bugün burası harika bir etkinlik, çünkü sadece Ultralytics a new YOLO version sunmadı, aynı zamanda bu yeni modelin yeni donanımımız üzerinde çalışmasını ve OpenVINO'nun yeni bir sürümünü sunabiliyoruz."
Bu makalede, Intel’s talk at YV24'deki temel önemli noktaları ele alacak, AI PC'lerinin ayrıntılarını, Intel Core Ultra 200V Serisini ve OpenVINO araç setini kullanarak Ultralytics YOLO modelleriyle nasıl entegre olduklarını inceleyeceğiz. Hadi başlayalım!
2024'te en ileri yapay zeka teknolojileri#
Dmitriy, açılış konuşmasına geleneksel AI ile generative AI arasındaki temel farkları ele alarak başladı. Odak noktası, bu teknolojilerin ve kullanım alanlarının 2024 yılında nasıl evrildiği etrafında şekillendi. Computer vision ve natural language processing gibi geleneksel AI teknikleri, pose estimation, object detection ve voice recognition gibi tasks için vazgeçilmez olmuştur. Ancak üretken yapay zeka; chatbots, text-to-image generation, code writing ve hatta text-to-video gibi uygulamaları içeren daha yeni bir AI teknolojisi dalgasını temsil eder.
Şekil 1. Intel'den Adrian ve Dmitriy, YV24'te sahnede yapay zeka kullanım durumlarını tartışıyor.
Dmitriy, ikisi arasındaki ölçek farkına dikkat çekti. traditional AI models milyonlarca parametreden oluşurken, üretken yapay zeka modellerinin çok daha büyük bir ölçekte çalıştığını açıkladı. Generative AI models genellikle milyarlarca hatta trilyonlarca parametre içerir, bu da onları çok daha computationally demanding hale getirir.
Intel AI PC: Yeni bir yapay zeka donanımı sınırı#
Dmitriy, Intel AI PC'yi, hem geleneksel hem de üretken yapay zeka modellerini verimli bir şekilde çalıştırmanın artan zorluklarını ele almak için tasarlanmış yeni bir donanım çözümü olarak tanıttı. Intel AI PC, güçlü ve enerji verimliliği yüksek bir makinedir. Bulut tabanlı işleme ihtiyaç duymadan, çok çeşitli yapay zeka modellerini yerel olarak çalıştırabilir.
Yerel işleme, hassas data private'ın korunmasına yardımcı olur. AI modelleri internet bağlantılarından bağımsız olarak çalışabildiğinde, endüstrilerin gizlilik ve güvenlikle ilgili ethical concerns yanıt bulur.
Intel AI PC'nin arkasındaki itici güç, Intel Core Ultra 200V Serisi işlemcidir. Bu işlemci üç temel bileşeni barındırır: Merkezi İşlem Birimi (CPU), Grafik İşlem Birimi (GPU) ve Sinirsel İşlem Birimi (NPU). Her biri, farklı türdeki AI iş yüklerinin işlenmesinde belirli bir rol oynar. CPU, hızlı yanıt gerektiren daha küçük, düşük gecikmeli görevler için idealdir; GPU ise AI modellerini çalıştırmak gibi yüksek verimli işlemler için optimize edilmiştir. Güç verimliliği için tasarlanan NPU, YOLO11 gibi modellerle real-time object detection gibi uzun süren görevler için çok uygundur.
CPU'nun 5 TOPS'a (Saniyede Trilyonlarca İşlem), GPU'nun 67 TOPS'a kadar çıkabildiği ve NPU'nun sistem kaynaklarını tüketmeden sürekli olarak yapay zeka görevlerini çalıştırmak için enerji verimli bir yol sunduğu vurgulandı.
Intel'in yapay zeka ilerlemeleri: Intel Core Ultra 200V serisi#
Intel Core Ultra 200V Serisi işlemci; NPU, CPU ve GPU olmak üzere üç yapay zeka motorunu tek bir küçük çipe entegre eder. Tasarımı, performanstan ödün vermeden dizüstü bilgisayarlar gibi kompakt cihazlar için mükemmel şekilde uygundur.
İşlemci ayrıca yerleşik RAM içerir, bu da ayrı grafik kartlarına olan ihtiyacı azaltır. Bu, güç kullanımını azaltmaya yardımcı olur ve cihazı kompakt tutar. Dmitriy ayrıca işlemcinin esnekliğini vurguladı. Kullanıcılar, göreve bağlı olarak AI modellerini CPU, GPU veya NPU üzerinde çalıştırmaya karar verebilirler. Örneğin, object detection with YOLO11 models bu motorların herhangi birinde çalışabilirken, metinden görsel üretimi gibi daha karmaşık görevler, daha iyi performans için hem GPU'yu hem de NPU'yu aynı anda kullanabilir.
Sunum sırasında Dmitriy çipi cebinden çıkardı ve bu kadar gelişmiş yapay zeka görevlerini yerine getirebilmesine rağmen ne kadar küçük olduğunu herkese açıkça gösterdi. Intel'in güçlü yapay zeka yeteneklerini nasıl daha taşınabilir ve pratik cihazlara getirdiğini göstermenin eğlenceli ve akılda kalıcı bir yoluydu.
Şekil 2. Intel Core Ultra 200V İşlemci cebe sığabilir.
Yapay zeka modellerini Intel OpenVINO ile optimize etme#
Intel'in en son hardware advancements'ini sergiledikten sonra Dmitriy, konuyu Intel'in yapay zekayı destekleyen yazılım yığınına getirdi. Farklı cihazlarda AI modellerini verimli bir şekilde optimize and deploy AI models için tasarlanmış open-source çerçevesi OpenVINO'yu tanıttı. OpenVINO görsel görevlerin ötesine geçerek doğal dil işleme, audio processing, transformers vb. için kullanılan AI modellerine desteğini genişletiyor.
OpenVINO, PyTorch, TensorFlow, ve ONNX gibi popüler platformlarla uyumludur ve geliştiriciler bunu iş akışlarına kolayca entegre edebilir. Dikkat çektiği önemli özelliklerden biri nicemlemedir (quantization). Quantization, büyük modellerin buluta ihtiyaç duymadan yerel cihazlarda sorunsuz çalışabilmesi için model ağırlıklarını sıkıştırarak boyutlarını küçültür. OpenVINO birden fazla çerçevede çalışır; CPU, GPU, NPU, FPGA veya hatta ARM cihazlarında çalışır ve Windows, Linux ile macOS'u destekler. Dmitriy ayrıca katılımcılara OpenVINO ile çalışmaya başlamanın ne kadar kolay olduğunu gösterdi.
Şekil 3. Dmitriy, OpenVINO ile nasıl başlanacağını anlatıyor.
Ultralytics'i Intel OpenVino ile entegre etme#
Konuşmanın ikinci bölümünde sözü YOLO model deployment sürecini basitleştiren Ultralytics YOLO modelleri ile Intel’in OpenVINO araç seti arasındaki kusursuz entegrasyonu açıklayan Adrian devraldı. Ultralytics Python package kullanarak exporting a YOLO model'in OpenVINO formatına dönüştürülmesinin ne kadar hızlı ve kolay olduğunu adım adım açıkladı. Bu entegrasyon, geliştiricilerin modellerini Intel donanımı için optimize etmelerini ve her iki platformdan da en iyi şekilde yararlanmalarını çok daha kolay hale getiriyor.
Şekil 4. Adrian, Ultralytics'in modelini OpenVINO formatına aktarmayı nasıl kolaylaştırdığını açıklıyor.
Adrian, bir Ultralytics YOLO modeli trained olduktan sonra kullanıcıların birkaç basit komut satırı bayrağı kullanarak dışarı aktarabileceğini gösterdi. Örneğin kullanıcılar, modeli maksimum precision için kayan noktalı bir sürüm olarak mı yoksa daha iyi hız ve verimlilik için nicemlenmiş (quantized) bir sürüm olarak mı dışarı aktarmak istediklerini belirtebilirler. Ayrıca geliştiricilerin, çok fazla doğruluktan ödün vermeden performance'i artırmak için INT8 nicemleme gibi seçenekleri kullanarak bu süreci directly through code nasıl yönetebileceklerini vurguladı.
Intel AI PC'de gerçek zamanlı yapay zeka demoları#
Tüm bu teoriyi pratiğe döken Intel ekibi, Intel AI PC üzerinde YOLO11 çalıştırarak gerçek zamanlı bir nesne algılama demosu sundu. Adrian, sistemin modeli farklı işlemcilerde nasıl işlediğini gösterdi; kayan noktalı model ile CPU'da saniyede 36 kare (FPS), entegre GPU'da 100'den fazla FPS ve INT8 nicemlenmiş sürümle 70 FPS elde etti. Intel AI PC'nin karmaşık AI görevlerini ne kadar verimli yönetebileceğini açıkça gösterdiler.
Ayrıca sistemin, verilerin veya video karelerinin tamamının önceden mevcut olduğu görevler için CPU, GPU ve NPU'yu birlikte kullanarak modelleri paralel çalıştırabileceğine dikkat çekti. Bu, videolar gibi ağır yükleri işlerken kullanışlıdır. Sistem, iş yükünü farklı işlemcilere bölerek daha hızlı ve verimli hale getirebilir.
Özetlemek gerekirse Adrian, kullanıcıların evde people counting ve intelligent queue management gibi solutions dahil olmak üzere try out demos yapabileceğini belirtti. Ardından kullanıcıların GPU üzerinde gerçek zamanlı olarak rüya benzeri görseller üretmek için komut istemleri girebileceği bonus demo gösterdi. Bu, Intel AI PC'nin hem geleneksel AI görevleri hem de yaratıcı, üretken AI projeleri için çok yönlülüğünü gösterdi.
Intel OpenVINO ile gerçek zamanlı nesne algılama#
Etkinlikte Intel, Intel AI PC üzerinde çalışan Ultralytics YOLO11 kullanan bir gerçek zamanlı nesne tespiti demosu sergiledikleri bir standa sahipti. Katılımcılar, OpenVINO ile optimize edilmiş ve Intel Core Ultra 200V işlemci üzerinde dağıtılmış modeli çalışırken görme fırsatı buldu.
Şekil 5. Katılımcılar, Intel OpenVINO standında gerçek zamanlı bir demoyu izleme fırsatı buldular.
Intel standında Dmitriy şunları paylaştı: "Bu benim YOLO Vision'daki ilk seferim ve Madrid'de olmaktan mutluyum. Ultralytics'in Intel Core Ultra 200V işlemci üzerinde çalışan YOLO11 modelini sunuyoruz. Mükemmel bir performans sergiliyor ve modeli optimize edip dağıtmak için OpenVINO kullanıyoruz. Ultralytics ile iş birliği yapmak ve modeli CPU, GPU ve NPU'dan yararlanarak en son Intel donanımı üzerinde çalıştırmak çok kolaydı." Standda ayrıca katılımcıların eve götürebileceği tişörtler ve not defterleri gibi bazı eğlenceli hediyeler de vardı.
Öne çıkanlar#
Intel'in YV24'teki, Intel Core Ultra 200V Serisi işlemcileri içeren teknoloji konuşması, OpenVINO araç setinin Ultralytics YOLO11 gibi yapay zeka modellerini nasıl optimize ettiğini sergiledi. Bu entegrasyon, kullanıcıların YOLO modellerini doğrudan cihazlarında çalıştırmalarını sağlayarak nesne algılama gibi bilgisayarlı görü görevleri için harika bir performans sunuyor. Temel avantaj, kullanıcıların bulut hizmetlerine güvenmek zorunda kalmamasıdır.
Geliştiriciler ve yapay zeka meraklıları, YOLO modellerini zahmetsizce çalıştırabilir ve ince ayar yapabilir, gerçek zamanlı uygulamalar için CPU, GPU ve NPU gibi donanımlardan tam olarak yararlanabilirler. Intel OpenVINO araç seti, Ultralytics YOLO modelleriyle birlikte, gelişmiş yapay zeka yeteneklerini doğrudan kişisel cihazlara getirmek için yeni olanaklar açıyor ve bu da onu çeşitli sektörlerde yapay zeka yeniliklerini teşvik etmek isteyen geliştiriciler için ideal bir seçenek haline getiriyor.
Birlikte çalışalım ve yenilikler yapalım! Katkılarımızı keşfetmek ve our community ile etkileşim kurmak için GitHub repository'imizi ziyaret edin. manufacturing ve healthcare gibi endüstrilerde etki yaratmak için yapay zekayı nasıl kullandığımızı görün.
