Sözlük

CPU

CPU'nun Yapay Zeka ve Makine Öğrenimindeki hayati rolünü keşfedin. Veri hazırlama, çıkarım ve GPU'lar/TPU'lar ile karşılaştırıldığında nasıl kullanıldığını öğrenin.

YOLO modellerini Ultralytics HUB ile basitçe
eğitin

Daha fazla bilgi edinin

Genellikle basitçe işlemci olarak adlandırılan Merkezi İşlem BirimiCPU), talimatları yürüten ve sistemin çalışması için gereken birincil hesaplamaları gerçekleştiren bir bilgisayarın çekirdek bileşenidir. Yazılım talimatları tarafından belirlenen temel aritmetik, mantık, kontrol ve giriş/çıkış (I/O) işlemlerini gerçekleştirir. Yapay Zeka (AI) ve Makine Öğrenimi (ML) alanlarında, GPU 'lar ve TPU 'lar gibi özel donanımlar derin öğrenme modellerinin eğitimi gibi görevler için paralel işlemede üstünlük sağlarken, CPU genel iş akışını düzenleyen temel ve çok yönlü bir bileşen olmaya devam etmektedir.

Yapay Zeka ve Makine Öğrenimindeki Rolü

CPU'lar, talimat dizilerini hızlı bir şekilde yürütme ve çeşitli hesaplama görevlerini yerine getirme konusunda mükemmel olan genel amaçlı işlemciler olarak tasarlanmıştır. Performansı etkileyen temel özellikler arasında saat hızı (saniyede kaç işlem) ve çekirdek sayısı (görevlerin paralel yürütülmesine izin verir) yer alır. gibi üreticilerin modern CPU'ları olsa da Intel ve AMD birden fazla çekirdeğe sahip olsalar da GPU'ların devasa paralel mimarisine sahip değiller, bu da onları derin öğrenme eğitiminde yaygın olan büyük ölçekli matris çarpımları için daha az uygun hale getiriyor.

Bununla birlikte, CPU'lar AI/ML boru hatlarında birkaç kritik işlev için vazgeçilmezdir:

  • Veri Hazırlama: Veri kümelerinin yüklenmesi, veri temizleme, dönüştürme ve veri artırma gibi görevler genellikle CPU'larda verimli bir şekilde çalışır. Pandas gibi kütüphaneler ve Scikit-learn 'in bazı bölümleri büyük ölçüde CPU işlemeye dayanır. Bilgisayarla görme projeleri için veri hazırlamak CPU bir adımdır.
  • İş Akışı Orkestrasyonu: CPU'lar, farklı donanım bileşenleri (GPU'lar gibi) ve yazılım modülleri arasındaki görevleri koordine ederek ML işlem hatlarının genel yürütme akışını yönetir.
  • Geleneksel Makine Öğrenimi Modelleri: Destek Vektör Makineleri (SVM ) ve Rastgele Ormanlar gibi birçok klasik makine öğrenimi algoritması genellikle CPU'lar üzerinde eğitilir ve etkili bir şekilde çalışır.
  • Çıkarım: GPU'lar çıkarım için yüksek verim sunarken, CPU'lar özellikle sınırlı kaynaklara sahip ortamlarda(Edge AI) veya tek tahminler için gecikmenin toplu iş verimine göre önceliklendirildiği durumlarda gerçek zamanlı çıkarım için sıklıkla kullanılır. ONNX Runtime ve Intel' in OpenVINO araç seti gibi çerçeveler, CPU'larda optimize edilmiş çıkarım yetenekleri sağlar. Ultralytics modelleri aşağıdaki gibi formatlara aktarılabilir ONNXCPU dağıtımı için, model dışa aktarma belgelerinde ayrıntılı olarak açıklanmıştır.
  • Giriş/Çıkış (I/O) İşlemleri: CPU'lar, modellerin ve verilerin yüklenmesi için gerekli olan depolama ve ağ iletişiminden veri okuma ve yazma işlemlerini gerçekleştirir.

CPU vs. GPU ve TPU

CPU'lar, GPU'lar ve TPU'lar arasındaki temel fark mimarilerinde ve kullanım amaçlarında yatmaktadır:

  • CPU: Sıralı görevlerin düşük gecikmeli yürütülmesi için optimize edilmiş genel amaçlı işlemci. Birkaç güçlü çekirdeğe sahiptir. Kontrol akışı, işletim sistemi işlevleri ve çeşitli hesaplamalar için idealdir.
  • GPU: Başlangıçta grafikler içindi, şimdi yapay zeka için yaygın olarak kullanılıyor. Büyük veri bloklarının ( derin öğrenmedeki matrisler gibi) paralel işlenmesi için optimize edilmiş binlerce küçük çekirdeğe sahiptir. Örnekler için NVIDIA GPU 'lara bakın. Gibi modeller için eğitimi önemli ölçüde hızlandırır Ultralytics YOLO.
  • TPU: Google'ın özel donanımı, özellikle sinir ağlarında kullanılan tensor hesaplamalarını hızlandırmak için tasarlanmıştır. TensorFlow çerçeve. Belirli makine öğrenimi iş yüklerinde yüksek verim ve verimlilik için optimize edilmiştir.

YOLOv10 gibi karmaşık modellerin eğitimi için GPU'lara veya TPU'lara büyük ölçüde bağımlı sistemlerde bile YOLO11CPU genel sistemi yönetir, verileri hazırlar ve iş akışının hızlandırıcılar için uygun olmayan kısımlarını ele alır. Doğru donanımı seçmek, verimli model dağıtımı için bu ödünleşimleri anlamayı gerektirir.

CPU Kullanan Gerçek Dünya Yapay Zeka/ML Örnekleri

  1. Doğal Dil İşleme (NLP) Ön İşleme: Metnin daha küçük birimlere (kelimeler veya alt kelimeler) ayrıldığı tokenizasyon gibi görevler NLP'de temeldir. Hugging Face' in Tokenizers 'ı gibi kütüphaneler, veriler model çıkarımı veya eğitimi için GPU 'ya aktarılmadan önce genellikle bu işlemleri CPU üzerinde verimli bir şekilde gerçekleştirir.
  2. Uç Cihaz Çıkarsaması: Birçok Edge AI uygulaması, ML modellerini Raspberry Pi veya ARM mimarisine dayalı cihazlar gibi sınırlı güç ve hesaplama kaynaklarına sahip cihazlarda kullanır. Bu senaryolarda, çıkarım genellikle doğrudan cihazın CPU'sunda çalışır, muhtemelen TensorFlow Lite gibi optimize edilmiş kütüphaneler veya OpenVINO temel nesne algılama veya anahtar kelime belirleme gibi görevler için kabul edilebilir performans elde etmek. Bu dağıtımları yönetmek Ultralytics HUB gibi platformlar aracılığıyla kolaylaştırılabilir.

CPU'nun yeteneklerini ve sınırlamalarını anlamak, veri işlemeden(veri toplama kılavuzuna bakın) çeşitli donanım platformlarında verimli dağıtıma kadar uçtan uca yapay zeka sistemlerini tasarlamak ve optimize etmek için çok önemlidir.

Tümünü okuyun