9 Ekim 2024
Dmitriy Pastushenkov ve Adrian Boguszewski'nin YOLO modellerini Intel OpenVino ile optimize etme ve Intel'in AI PC'sinde gerçek zamanlı çıkarımlar çalıştırma hakkındaki YOLO Vision 2024 konuşmasını tekrar ziyaret edin.
Ultralytics'in yıllık hibrit etkinliği olan YOLO Vision 2024 (YV24), bilgisayarla görme alanındaki en son yenilikleri keşfetmek için dünyanın dört bir yanından yapay zeka meraklılarını, geliştiricileri ve uzmanları bir araya getirdi. YV24, yeni atılımları tartışmak için harika bir fırsat ve platform oldu. Etkinlikte yapay zeka sektörünün önemli oyuncuları en son yeniliklerini tanıttı. Bunlar arasında Intel de yer aldı ve etkinlikte çığır açan yeni yapay zeka bilgisayarı ve Intel OpenVino' nun Ultralytics YOLO11 gibi Ultralytics YOLO modelleriyle entegrasyonu hakkında bir açılış konuşması yaptı.
Konuşma, LandCover.ai veri setinin ortak yazarı olan ve geliştiricileri Intel'in OpenVINO araç seti hakkında eğiten Yazılım Evangelisti Adrian Boguszewski ve endüstriyel otomasyon ve yapay zeka alanında 20 yılı aşkın deneyime sahip bir Yapay Zeka Bilgisayar Evangelisti olan Dmitriy Pastushenkov tarafından yönetildi. Etkinlik sırasında heyecanını paylaşan Adrian, "Bugün sadece Ultralytics yeni bir YOLO sürümü sunduğu için değil, aynı zamanda yeni donanımımız üzerinde çalışan bu yeni modeli ve OpenVINO'nun yeni bir sürümünü sunabildiğimiz için de harika bir etkinlik" dedi.
Bu makalede, Intel' in YV24'teki konuşmasında öne çıkan önemli noktalara göz atacak, yapay zeka bilgisayarları Intel Core Ultra 200V Serisini ve OpenVINO araç setini kullanarak Ultralytics YOLO modelleriyle nasıl entegre olduklarını inceleyeceğiz. Hadi başlayalım!
Dmitriy, açılış konuşmasına geleneksel yapay zeka ile üretici yapay zeka arasındaki temel farklara değinerek başladı. Odak noktası, bu teknolojilerin ve kullanım durumlarının 2024'te nasıl gelişeceği etrafında dönüyordu. Bilgisayarla görme ve doğal dil işleme gibi geleneksel YZ teknikleri, poz tahmini, nesne algılama ve ses tanıma gibi görevler için gerekli olmuştur. Bununla birlikte, üretken YZ, sohbet robotları, metinden görüntü oluşturma, kod yazma ve hatta metinden videoya gibi uygulamaları içeren daha yeni bir YZ teknolojisi dalgasını temsil etmektedir.
Dmitriy, ikisi arasındaki ölçek farkına dikkat çekti. Geleneksel YZ modelleri milyonlarca parametreden oluşurken, üretken YZ modellerinin çok daha büyük bir ölçekte çalıştığını açıkladı. Üretken YZ modelleri genellikle milyarlarca hatta trilyonlarca parametre içeriyor ve bu da onları hesaplama açısından çok daha zorlu hale getiriyor.
Dmitriy, hem geleneksel hem de üretken yapay zeka modellerini verimli bir şekilde çalıştırmanın artan zorluklarını ele almak için tasarlanmış yeni bir donanım çözümü olarak Intel AI PC'yi tanıttı. Intel AI PC güçlü ve enerji tasarruflu bir makinedir. Bulut tabanlı işlemeye ihtiyaç duymadan çok çeşitli yapay zeka modellerini yerel olarak çalıştırabilir.
Yerel işleme, hassas verilerin gizli tutulmasına yardımcı olur. Yapay zeka modelleri internet bağlantılarından bağımsız olarak çalışabildiğinde, endüstrilerin gizlilik ve güvenlikle ilgili etik kaygıları da giderilmiş olur.
Intel AI PC'nin arkasındaki itici güç Intel Core Ultra 200V Serisi işlemcidir. Bu işlemci üç temel bileşene sahiptir: Merkezi İşlem Birimi (CPU), Grafik İşlem Birimi (GPU) ve Sinirsel İşlem Birimi (NPU). Her biri, farklı yapay zeka iş yüklerinin ele alınmasında belirli bir rol oynar. CPU, hızlı yanıt gerektiren daha küçük, düşük gecikmeli görevler için idealken, GPU, yapay zeka modellerini çalıştırmak gibi yüksek verimli işlemler için optimize edilmiştir. Güç verimliliği için tasarlanan NPU, YOLO11 gibi modellerle gerçek zamanlı nesne algılama gibi uzun süreli görevler için çok uygundur.
CPU'nun 5 TOPS'a (Saniyede Trilyonlarca İşlem), GPU'nun 67 TOPS'a kadar sunabildiği ve NPU'nun sistem kaynaklarını tüketmeden yapay zeka görevlerini sürekli olarak çalıştırmak için enerji açısından verimli bir yol sağladığı vurgulandı.
Intel Core Ultra 200V Serisi işlemci, üç yapay zeka motorunu (NPU, CPU ve GPU) tek bir küçük çipe entegre eder. Tasarımı, performanstan ödün vermeden dizüstü bilgisayarlar gibi kompakt cihazlar için mükemmel şekilde uygundur.
İşlemci ayrıca dahili RAM içeriyor ve ayrı grafik kartlarına olan ihtiyacı azaltıyor. Bu da güç kullanımını azaltmaya yardımcı oluyor ve cihazın kompakt kalmasını sağlıyor. Dmitriy ayrıca işlemcinin esnekliğini de vurguladı. Kullanıcılar, göreve bağlı olarak yapay zeka modellerini CPU, GPU veya NPU üzerinde çalıştırmaya karar verebiliyor. Örneğin, YOLO11 modelleriyle nesne algılama bu motorlardan herhangi birinde çalışabilirken, metinden görüntüye oluşturma gibi daha karmaşık görevler daha iyi performans için aynı anda hem GPU hem de NPU'yu kullanabilir.
Sunum sırasında Dmitriy çipi cebinden çıkararak, bu kadar gelişmiş yapay zeka görevlerini yerine getirebilmesine rağmen ne kadar küçük olduğunu herkese net bir şekilde gösterdi. Bu, Intel'in güçlü yapay zeka yeteneklerini daha taşınabilir ve pratik cihazlara nasıl getirdiğini göstermenin eğlenceli ve unutulmaz bir yoluydu.
Intel'in en son donanım gelişmelerini sergileyen Dmitriy, daha sonra Intel'in yapay zekayı destekleyen yazılım yığınına geçti. Intel'in yapay zeka modellerini farklı cihazlarda verimli bir şekilde optimize etmek ve dağıtmak için tasarladığı açık kaynak çerçevesi OpenVINO'yu tanıttı. OpenVINO, görsel görevlerin ötesine geçerek desteğini doğal dil işleme, ses işleme, dönüştürücüler vb. için kullanılan yapay zeka modellerine kadar genişletiyor.
OpenVINO, PyTorch, TensorFlow ve ONNX gibi popüler platformlarla uyumludur ve geliştiriciler bunu iş akışlarına kolayca dahil edebilirler. Dikkat çektiği önemli bir özellik niceleme idi. Niceleme, model ağırlıklarını sıkıştırarak boyutlarını küçültür, böylece büyük modeller buluta ihtiyaç duymadan yerel cihazlarda sorunsuz bir şekilde çalışabilir. OpenVINO, CPU, GPU, NPU, FPGA ve hatta ARM cihazlarında çalışan birden fazla çerçevede çalışır ve Windows, Linux ve macOS'u destekler. Dmitriy ayrıca dinleyicilere OpenVINO ile çalışmaya başlamanın ne kadar kolay olduğunu anlattı.
Konuşmanın ikinci bölümünde mikrofon, Ultralytics YOLO modelleri ile Intel'in OpenVINO araç seti arasındaki sorunsuz entegrasyonu açıklayan ve YOLO model dağıtım sürecini basitleştiren Adrian'a geçti. Ultralytics Python paketini kullanarak bir YOLO modelini OpenVINO formatına aktarmanın nasıl hızlı ve basit olduğunu adım adım açıkladı. Bu entegrasyon, geliştiricilerin modellerini Intel donanımı için optimize etmelerini ve her iki platformdan da en iyi şekilde yararlanmalarını çok daha kolay hale getiriyor.
Adrian, bir Ultralytics YOLO modeli eğitildikten sonra, kullanıcıların birkaç basit komut satırı bayrağı kullanarak modeli dışa aktarabileceğini gösterdi. Örneğin, kullanıcılar modeli maksimum hassasiyet için kayan noktalı bir sürüm olarak mı yoksa daha iyi hız ve verimlilik için nicelenmiş bir sürüm olarak mı dışa aktarmak istediklerini belirleyebilirler. Ayrıca, geliştiricilerin çok fazla doğruluktan ödün vermeden performansı artırmak için INT8 niceleme gibi seçenekleri kullanarak bu süreci doğrudan kod aracılığıyla nasıl yönetebileceklerini de vurguladı.
Tüm bu teoriyi uygulamaya koyan Intel ekibi, YOLO11 'i Intel AI PC'de çalıştırarak gerçek zamanlı bir nesne algılama demosu sundu. Adrian, sistemin modeli farklı işlemciler arasında nasıl ele aldığını, kayan nokta modeliyle CPU'da saniyede 36 kare (FPS), entegre GPU'da 100 FPS'nin üzerinde ve INT8 nicelleştirilmiş sürümle 70 FPS'ye nasıl ulaştığını sergiledi. Intel AI PC'nin karmaşık AI görevlerini ne kadar verimli bir şekilde yönetebileceğini göstermeyi başardılar.
Ayrıca sistemin, tüm verilerin veya video karelerinin önceden mevcut olduğu görevler için CPU, GPU ve NPU'yu birlikte kullanarak modelleri paralel olarak çalıştırabileceğine dikkat çekti. Bu, videolar gibi ağır yükleri işlerken kullanışlıdır. Sistem iş yükünü farklı işlemciler arasında paylaştırarak daha hızlı ve daha verimli hale getirebiliyor.
Adrian konuşmasını tamamlarken, kullanıcıların insan sayma ve akıllı kuyruk yönetimi gibi çözümleri içeren demoları evde deneyebileceklerinden bahsetti. Ardından, kullanıcıların GPU üzerinde gerçek zamanlı olarak rüya benzeri görüntüler oluşturmak için komutlar girebilecekleri bir bonus demo gösterdi. Bu demo, Intel AI PC'nin hem geleneksel AI görevleri hem de yaratıcı, üretken AI projeleri için çok yönlülüğünü gösterdi.
Etkinlikte Intel, Intel AI PC'lerinde çalışan YOLO11'i kullanarak gerçek zamanlı bir nesne algılama demosu sergiledikleri bir stant açtı. Katılımcılar OpenVINO ile optimize edilmiş ve Intel Core Ultra 200V işlemci üzerinde konuşlandırılmış modeli çalışırken görebildiler.
Intel standında Dmitry şunları söyledi: "YOLO Vision'a ilk kez katılıyorum ve Madrid'de olmaktan çok mutluyum. Intel Core Ultra 200V işlemci üzerinde çalışan Ultralytics'in YOLO11 modelini sunuyoruz. Mükemmel performans gösteriyor ve modeli optimize etmek ve dağıtmak için OpenVINO kullanıyoruz. Ultralytics ile işbirliği yapmak ve modeli CPU, GPU ve NPU kullanarak en yeni Intel donanımı üzerinde çalıştırmak çok kolaydı." Stantta ayrıca katılımcıların evlerine götürebilecekleri tişörtler ve dizüstü bilgisayarlar gibi bazı eğlenceli hediyeler de vardı.
Intel'in YV24'te Intel Core Ultra 200V Serisi işlemcilerin yer aldığı teknoloji konuşmasında, OpenVINO araç setinin Ultralytics YOLO11 gibi yapay zeka modellerini nasıl optimize ettiği gösterildi. Bu entegrasyon, kullanıcıların YOLO modellerini doğrudan cihazlarında çalıştırmalarını sağlayarak nesne algılama gibi bilgisayarla görme görevleri için mükemmel performans sunuyor. En önemli avantajı, kullanıcıların bulut hizmetlerine güvenmek zorunda kalmamasıdır.
Geliştiriciler ve yapay zeka meraklıları, gerçek zamanlı uygulamalar için CPU'lar, GPU'lar ve NPU'lar gibi donanımlardan tam olarak yararlanarak YOLO modellerini zahmetsizce çalıştırabilir ve ince ayar yapabilir. Intel OpenVINO araç seti, Ultralytics YOLO modelleri ile birlikte, gelişmiş yapay zeka yeteneklerini doğrudan kişisel cihazlara getirmek için yeni olanaklar sunarak, çeşitli sektörlerde yapay zeka yeniliklerini teşvik etmek isteyen geliştiriciler için ideal bir seçenek haline getiriyor.
İşbirliği yapalım ve yenilik yapalım! Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret edin. Üretim ve sağlık hizmetleri gibi sektörlerde etki yaratmak için yapay zekayı nasıl kullandığımızı görün.
.webp)
