CPU

Merkezi İşlem BirimiCPU) bir bilgisayarın kontrol merkezi olarak görev yapan birincil bileşenidir, talimatların yürütülmesi ve sistem genelinde veri akışının düzenlenmesi. Genellikle şu şekilde anılır Cihazın "beyni" olan CPU , işletim sistemini çalıştırmak gibi genel amaçlı bilgi işlem görevlerini yerine getirir ve giriş/çıkış işlemlerinin yönetilmesi. Bu bağlamda yapay zeka (AI) ve makine öğrenimi (ML), CPU bir temel rol. Ağır işler için gereken devasa paralelliği sunmasa da model eğitimi, veri ön işleme için kritik öneme sahiptir, sistem mantığını yönetmek ve güç tüketimi ve donanım maliyetlerinin yüksek olduğu uç cihazlarda çıkarım yapmak kısıtlamalar.

CPU vs. GPU ve TPU

Donanım ortamını anlamak optimize etmek için çok önemlidir makine öğrenimi işlemleri (MLOps). CPU , mimari ve kullanım amacı bakımından GPU'lar ve TPU'lar gibi hızlandırıcılardan önemli ölçüde farklıdır:

• CPU (Merkezi İşlem Birimi): Düşük gecikmeli, sıralı işleme için tasarlanmıştır. Az sayıda güçlü çekirdeğe sahiptir ve aşağıdakileri gerçekleştirebilir karmaşık mantık ve dallanma. Bu, onu aşağıdaki gibi görevler için ideal hale getirir veri temizleme ve genel yönetim boru hattı. Başlıca mimariler arasında x86Intel, AMD) ve ARM bulunmaktadır.
• GPU (Grafik İşleme Birimi): Başlangıçta grafik oluşturmak için tasarlanan GPU'lar binlerce küçük çekirdeği kullanarak paralel işleme. Bu mimari çok önemlidir 'de bulunan matris işlemleri için derin öğrenme (DL) ve önemli ölçüde hızlandırır büyük sinir ağlarının eğitimi.
• TPU (Tensor İşleme Birimi): Bir Uygulamaya Özel Entegre Devre (ASIC) gibi çerçevelerde tensor hesaplamalarını hızlandırmak için Google tarafından özel olarak geliştirilmiştir. TensorFlow.

Yapay Zeka İş Akışlarındaki Rolü

GPU'lar genellikle eğitim için odak noktası olsa da CPU , yapay zeka yaşam döngüsü boyunca vazgeçilmez olmaya devam ediyor.

1. Veri Ön İşleme: Bir modelin verileri "görebilmesi" için önce görüntülerin veya metinlerin yüklenmesi ve dönüştürülmüştür. Yeniden boyutlandırma, normalleştirme ve veri artırımı tipik olarak aşağıdakiler tarafından ele alınır gibi kütüphaneleri kullanarak CPU NumPy ve OpenCV. Verimli CPU işleme GPU 'nun aşağıdakileri yapmasını engeller veri beklerken boşta oturuyor.
2. İşlem Sonrası: Bir model ham tahminler ürettikten sonra, CPU genellikle son işlemleri gerçekleştirir hesaplamalar. Örneğin, nesne algılamada, CPU yürütür Maksimum Olmayan Bastırma (NMS) için örtüşen sınırlayıcı kutuları filtreleyin ve en emin tespitleri koruyun.
3. Kenar Çıkarım: Birçok gerçek dünya senaryosunda, pahalı GPU'ların kullanılması mümkün değildir. Edge yapay zeka, hafif çalışmaları için büyük ölçüde CPU'lara güveniyor Raspberry Pi gibi cihazlardaki modeller veya mobil Telefonlar.

Gerçek Dünya Uygulamaları

CPU'lar, çok yönlülük ve enerji verimliliğinin hammaddeden daha öncelikli olduğu geniş bir uygulama yelpazesini kolaylaştırır verim.

• Akıllı Gözetim Sistemleri: Birçok güvenlik sistemi aşağıdakileri kullanır üzerinde çalışan hareket algılama algoritmaları standart CPU'lar. Sistem, video akışlarını kayıt cihazında yerel olarak işleyerek uyarıları tetikleyebilir veya Yalnızca etkinlik algılandığında kayıt yaparak, özel bir GPU gerektirmeden depolama ve bant genişliğinden tasarruf sağlar.
• Endüstriyel IoT (IIoT): Üretimde, Kestirimci bakım sistemleri genellikle endüstriyel kontrolörlerin gömülü CPU'ları. Bu sistemler sensör verilerini (titreşim, sıcaklık) gerçek zamanlı olarak izler hafif regresyon veya sınıflandırma modelleri kullanarak makine arızalarını tahmin etmek için üretim otomasyonu sorunsuz çalışır.

CPU üzerinde Çıkarım Çalıştırma

Geliştiriciler CPU 'yu sıklıkla hata ayıklama, test etme veya uzmanlık gerektirmeyen ortamlarda modelleri dağıtmak için kullanırlar Donanım. Gibi çerçeveler PyTorch kullanıcıların CPU'yu açıkça hedefler. Ayrıca, modelleri aşağıdaki gibi formatlara dönüştürmek ONNX ya da OpenVINO araç seti önemli ölçüde optimize edebilir Intel CPU'larda çıkarım hızları.

Aşağıdaki örnekte, aşağıdakilerin nasıl zorlanacağı gösterilmektedir Ultralytics YOLO11CPU üzerinde çıkarım yapmak için model. Bu performansını karşılaştırmak için özellikle yararlıdır standart donanım.

from ultralytics import YOLO

# Load the official YOLO11 nano model
model = YOLO("yolo11n.pt")

# Run inference on an image, explicitly setting the device to CPU
# This bypasses any available GPU to simulate an edge deployment environment
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")

# Display the detection results
results[0].show()

Kullanarak device="cpu" argümanı, hesaplamanın merkezi işlemci üzerinde kalmasını sağlar, geliştiricilerin model uyumluluğunu doğrulamasına olanak tanır sunucusuz bilişim ortamlar veya düşük güç uç cihazlar.