9 Ekim 2024
Dmitriy Pastushenkov ve Adrian Boguszewski'nin Intel OpenVino ile YOLO modellerini optimize etme ve Intel'in AI PC'sinde gerçek zamanlı çıkarımlar çalıştırma hakkındaki YOLO Vision 2024 konuşmasını tekrar ziyaret edin.
YOLO Vision 2024 (YV24), Ultralytics'in yıllık hibrit etkinliği, bilgisayar görüşü alanındaki en son yenilikleri keşfetmek için dünyanın dört bir yanından yapay zeka meraklılarını, geliştiricileri ve uzmanları bir araya getirdi. YV24, yeni atılımları tartışmak için harika bir fırsat ve platformdu. Etkinlikte, yapay zeka endüstrisindeki kilit oyuncular en son yeniliklerini tanıttı. Bunlar arasında, yeni çığır açan AI PC'leri ve Intel OpenVino'nun Ultralytics YOLO11 gibi Ultralytics YOLO modelleriyle entegrasyonu hakkında bir açılış konuşması sunan Intel de yer aldı.
Konuşmayı, LandCover.ai veri setinin ortak yazarı olan ve geliştiricileri Intel'in OpenVINO araç seti hakkında eğiten bir Yazılım Savunucusu olan Adrian Boguszewski ve endüstriyel otomasyon ve yapay zeka alanında 20 yılı aşkın deneyime sahip bir Yapay Zeka PC Savunucusu olan Dmitriy Pastushenkov yönetti. Etkinlik sırasında Adrian heyecanını paylaşarak şunları söyledi: "Bugün harika bir etkinlik, sadece Ultralytics'in yeni bir YOLO sürümü sunması değil, aynı zamanda bu yeni modeli yeni donanımımızda ve OpenVINO'nun yeni bir sürümünde çalışır halde sunabiliyor olmamız da etkili."
Bu makalede, Intel'in YV24'teki konuşmasından öne çıkan önemli noktalara göz atacak, yapay zeka bilgisayarlarının, Intel Core Ultra 200V Serisinin ve OpenVINO araç setini kullanarak Ultralytics YOLO modelleriyle nasıl entegre olduklarının ayrıntılarına ineceğiz. Hadi başlayalım!
Dmitriy, açılış konuşmasına geleneksel yapay zekâ ve üretken yapay zekâ arasındaki temel farklılıklara değinerek başladı. Odak noktası, bu teknolojilerin ve kullanım alanlarının 2024'te nasıl geliştiğiydi. Bilgisayarlı görü ve doğal dil işleme gibi geleneksel yapay zekâ teknikleri, poz tahmini, nesne tespiti ve ses tanıma gibi görevler için çok önemli olmuştur. Bununla birlikte, üretken yapay zekâ, sohbet robotları, metinden görüntüye oluşturma, kod yazma ve hatta metinden videoya gibi uygulamaları içeren daha yeni bir yapay zekâ teknolojisi dalgasını temsil etmektedir.
Dmitriy, ikisi arasındaki ölçek farkına dikkat çekti. Geleneksel yapay zekâ modelleri milyonlarca parametreden oluşurken, üretken yapay zekâ modellerinin çok daha büyük bir ölçekte çalıştığını açıkladı. Üretken yapay zekâ modelleri genellikle milyarlarca hatta trilyonlarca parametre içerir, bu da onları çok daha hesaplama açısından zorlu hale getirir.
Dmitriy, hem geleneksel hem de üretken yapay zekâ modellerini verimli bir şekilde çalıştırmanın artan zorluklarını ele almak için tasarlanmış yeni bir donanım çözümü olarak Intel AI PC'yi tanıttı. Intel AI PC, güçlü ve enerji tasarruflu bir makinedir. Bulut tabanlı işlemeye ihtiyaç duymadan çok çeşitli yapay zekâ modellerini yerel olarak çalıştırabilir.
Yerel işleme, hassas verilerin gizli kalmasına yardımcı olur. Yapay zeka modelleri internet bağlantılarından bağımsız olarak çalışabildiğinde, endüstrilerin gizlilik ve güvenlik konusundaki etik kaygıları yanıtlanmış olur.
Intel AI PC'nin itici gücü, Intel Core Ultra 200V Serisi işlemcidir. Bu işlemci üç temel bileşeni içerir: Merkezi İşlem Birimi (CPU), Grafik İşlem Birimi (GPU) ve Nöral İşlem Birimi (NPU). Her biri, farklı türdeki AI iş yüklerini ele almada belirli bir rol oynar. CPU, hızlı yanıt gerektiren daha küçük, düşük gecikmeli görevler için idealdir; GPU ise AI modellerini çalıştırmak gibi yüksek verimli işlemler için optimize edilmiştir. Güç verimliliği için tasarlanan NPU ise gerçek zamanlı nesne tespiti gibi uzun süren görevler için YOLO11 ile çok uygundur.
CPU'nun saniyede 5 TOPS'a (Trilyon İşlem), GPU'nun 67 TOPS'a kadar performans gösterebildiği ve NPU'nun sistem kaynaklarını tüketmeden sürekli olarak yapay zeka görevlerini çalıştırmak için enerji açısından verimli bir yol sağladığı vurgulandı.
Intel Core Ultra 200V Serisi işlemci, üç yapay zekâ motorunu (NPU, CPU ve GPU) tek bir küçük çipte birleştirir. Tasarımı, performanstan ödün vermeden dizüstü bilgisayarlar gibi kompakt cihazlar için mükemmeldir.
İşlemci ayrıca yerleşik RAM içerir ve ayrı grafik kartlarına olan ihtiyacı azaltır. Bu, güç kullanımını azaltmaya ve cihazı kompakt tutmaya yardımcı olur. Dmitriy ayrıca işlemcinin esnekliğini vurguladı. Kullanıcılar, göreve bağlı olarak yapay zeka modellerini CPU, GPU veya NPU üzerinde çalıştırmaya karar verebilirler. Örneğin, YOLO11 modelleriyle nesne algılama bu motorların herhangi birinde çalışabilirken, metinden görüntüye oluşturma gibi daha karmaşık görevler, daha iyi performans için aynı anda hem GPU hem de NPU'yu kullanabilir.
Dmitriy, sunum sırasında çipi cebinden çıkararak, bu kadar gelişmiş yapay zeka görevlerini yerine getirme yeteneğine rağmen, aslında ne kadar küçük olduğuna dair herkese net bir fikir verdi. Intel'in güçlü yapay zeka yeteneklerini daha taşınabilir ve pratik cihazlara nasıl getirdiğini göstermenin eğlenceli ve akılda kalıcı bir yoluydu.
Dmitriy, Intel'in en son donanım gelişmelerini sergiledikten sonra, dikkatini Intel'in yapay zekayı destekleyen yazılım yığınına çevirdi. Intel'in farklı cihazlarda açık kaynaklı ve yapay zeka modellerini optimize etmek ve dağıtmak için tasarlanmış çerçevesi olan OpenVINO'yu tanıttı. OpenVINO, görsel görevlerin ötesine geçerek doğal dil işleme, ses işleme, dönüştürücüler vb. için kullanılan yapay zeka modellerine desteğini genişletiyor.
OpenVINO, PyTorch, TensorFlow ve ONNX gibi popüler platformlarla uyumludur ve geliştiriciler bunu iş akışlarına kolayca dahil edebilirler. Dikkat çektiği önemli özelliklerden biri de nicelemeydi. Niceleme, büyük modellerin buluta ihtiyaç duymadan yerel cihazlarda sorunsuz çalışabilmesi için model ağırlıklarını sıkıştırarak boyutlarını küçültür. OpenVINO, CPU, GPU, NPU, FPGA ve hatta ARM cihazlarında çalışan birden çok çerçevede çalışır ve Windows, Linux ve macOS'u destekler. Dmitriy ayrıca OpenVINO'ya başlamanın ne kadar kolay olduğunu da izleyicilere gösterdi.
Konuşmanın ikinci bölümünde, sözü Ultralytics YOLO modelleri ile Intel'in OpenVINO araç seti arasındaki kusursuz entegrasyonu açıklayan ve YOLO model dağıtımını kolaylaştıran Adrian'a devredildi. Ultralytics Python paketini kullanarak bir YOLO modelini dışa aktarmanın OpenVINO formatına ne kadar hızlı ve basit olduğunu adım adım açıkladı. Bu entegrasyon, geliştiricilerin modellerini Intel donanımı için optimize etmelerini ve her iki platformdan da en iyi şekilde yararlanmalarını çok daha kolay hale getiriyor.
Adrian, bir Ultralytics YOLO modeli eğitildikten sonra, kullanıcıların birkaç basit komut satırı işareti kullanarak modeli dışa aktarabileceğini gösterdi. Örneğin, kullanıcılar maksimum hassasiyet için modeli kayan nokta sürümü olarak mı yoksa daha iyi hız ve verimlilik için nicelenmiş bir sürüm olarak mı dışa aktarmak istediklerini belirleyebilirler. Ayrıca, geliştiricilerin doğrudan kod aracılığıyla bu süreci nasıl yöneteceklerini ve çok fazla doğruluktan ödün vermeden performansı artırmak için INT8 niceleme gibi seçenekleri nasıl kullanabileceklerini vurguladı.
Tüm bu teoriyi pratiğe döken Intel ekibi, Intel AI PC'de YOLO11 çalıştırarak nesne tespitinin gerçek zamanlı bir demosunu sundu. Adrian, sistemin modeli farklı işlemcilerde nasıl yönettiğini, kayan nokta modeliyle CPU'da saniyede 36 kare (FPS), entegre GPU'da 100 FPS'nin üzerinde ve INT8 nicelenmiş sürümüyle 70 FPS elde ettiğini gösterdi. Intel AI PC'nin karmaşık yapay zeka görevlerini ne kadar verimli bir şekilde yönetebildiğini göstermeyi başardılar.
Ayrıca, sistemin tüm veri veya video karelerinin önceden mevcut olduğu görevler için CPU, GPU ve NPU'yu birlikte kullanarak modelleri paralel olarak çalıştırabileceğine dikkat çekti. Bu, videolar gibi ağır yükleri işlerken kullanışlıdır. Sistem, iş yükünü farklı işlemciler arasında bölerek daha hızlı ve daha verimli hale getirebilir.
Sonuç olarak, Adrian kullanıcıların evde demo sürümlerini deneyebileceklerini, çözümlerin arasında insan sayma ve akıllı sıra yönetimi gibi özelliklerin bulunduğunu belirtti. Ardından, kullanıcıların GPU üzerinde gerçek zamanlı olarak rüya benzeri görüntüler oluşturmak için istemler girebilecekleri bir bonus demo gösterdi. Bu, Intel AI PC'nin hem geleneksel yapay zeka görevleri hem de yaratıcı, üretken yapay zeka projeleri için çok yönlülüğünü gösterdi.
Etkinlikte Intel'in, Intel AI PC'lerinde çalışan YOLO11 kullanan bir gerçek zamanlı nesne algılama demosunu sergilediği bir standı vardı. Katılımcılar, OpenVINO ile optimize edilmiş ve Intel Core Ultra 200V işlemcide dağıtılmış modeli çalışırken görme fırsatı buldular.
Dmitry Intel standında şunları paylaştı: "Bu benim ilk YOLO Vision etkinliğim ve Madrid'de olmaktan mutluluk duyuyorum. Ultralytics'in YOLO11 modelini Intel Core Ultra 200V işlemcide çalıştırarak sunuyoruz. Mükemmel performans gösteriyor ve modeli optimize etmek ve dağıtmak için OpenVINO'yu kullanıyoruz. Ultralytics ile işbirliği yapmak ve modeli en son Intel donanımında, CPU, GPU ve NPU'yu kullanarak çalıştırmak çok kolaydı." Stantta ayrıca katılımcıların eve götürmesi için tişörtler ve defterler gibi eğlenceli hediyeler de vardı.
Intel'in YV24'teki teknoloji konuşması, Intel Core Ultra 200V Serisi işlemcileri öne çıkararak, OpenVINO araç setinin Ultralytics YOLO11 gibi yapay zeka modellerini nasıl optimize ettiğini gösterdi. Bu entegrasyon, kullanıcıların YOLO modellerini doğrudan cihazlarında çalıştırmasını sağlayarak, nesne tespiti gibi bilgisayar görüşü görevleri için harika bir performans sunar. Temel fayda, kullanıcıların bulut hizmetlerine güvenmek zorunda kalmamasıdır.
Geliştiriciler ve yapay zeka meraklıları, YOLO modellerini zahmetsizce çalıştırıp ince ayar yaparak, gerçek zamanlı uygulamalar için CPU'lar, GPU'lar ve NPU'lar gibi donanımlardan tam olarak yararlanabilirler. Intel OpenVINO araç seti, Ultralytics YOLO modelleriyle birlikte, gelişmiş yapay zeka yeteneklerini doğrudan kişisel cihazlara getirmek için yeni olanaklar sunarak, çeşitli sektörlerde yapay zeka yeniliklerini yönlendirmeye istekli geliştiriciler için ideal bir seçenek haline geliyor.
Gelin işbirliği yapalım ve yenilikler geliştirelim! Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret edin. AI'yı üretim ve sağlık hizmetleri gibi sektörlerde nasıl etkili hale getirdiğimizi görün.
.webp)