CPU

Merkezi İşlem Birimi (CPU), bir bilgisayarın talimatları yürüten ve bir bilgi işlem cihazının içindeki işlemlerin çoğunu gerçekleştiren birincil bileşenidir. Genellikle bilgisayarın "beyni" olarak adlandırılan CPU'nun ana rolü, bir bilgisayar programını oluşturan talimat dizilerini yerine getirmektir. Makine öğrenimi (ML) ve yapay zeka (AI) bağlamında CPU, tüm sistemi yöneten, veri hazırlamayı idare eden ve özel donanım için uygun olmayan görevleri yürüten temel bir unsurdur. Model eğitimi sırasında ağır hesaplamaların çoğunu gerçekleştirmese de, rolü eksiksiz bir yapay zeka iş akışı için vazgeçilmezdir.

CPU vs. GPU ve TPU

CPU'lar, GPU'lar ve TPU 'lar arasındaki temel fark mimarilerinde ve kullanım amaçlarında yatmaktadır:

• CPU: Sıralı görevlerin düşük gecikmeli yürütülmesi için optimize edilmiş genel amaçlı bir işlemci. Birkaç güçlü çekirdeğe sahiptir, bu da onu işletim sistemini, kontrol akışını ve çok çeşitli hesaplamaları yönetmek için ideal hale getirir. Önde gelen üreticiler arasında Intel ve AMD bulunmaktadır.
• GPU: Başlangıçta grafikler için tasarlanan GPU'lar, mimarileri nedeniyle artık yapay zeka için yaygın olarak kullanılmaktadır. Derin öğrenmede kullanılan matrisler gibi büyük veri bloklarının paralel işlenmesi için optimize edilmiş binlerce küçük çekirdeğe sahiptirler. Bu paralellik, Ultralytics YOLO11 gibi modeller için eğitimi önemli ölçüde hızlandırır.
• TPU: Google'ın özel donanımı olan Uygulamaya Özel Entegre Devre (ASIC), sinir ağlarında kullanılan tensör hesaplamalarını hızlandırmak için özel olarak tasarlanmıştır. Bulut platformlarında TensorFlow ve PyTorch gibi çerçeveler için son derece optimize edilmiştir.

Eğitim modelleri için büyük ölçüde GPU'lara veya TPU'lara dayanan sistemlerde bile CPU genel sistemi yönetir, verileri hızlandırıcı için hazırlar ve iş akışının paralel hesaplama için optimize edilmemiş kısımlarını ele alır. Bu ödünleşimleri anlamak, verimli model dağıtımı için çok önemlidir.

CPU Kullanan Gerçek Dünya Yapay Zeka/ML Örnekleri

Özel donanımlar büyük ölçekli eğitimlerde üstünlük sağlarken, CPU'lar özellikle belirli kısıtlamaların olduğu ortamlarda birçok yapay zeka görevi için hayati önem taşımaya devam etmektedir.

1. Doğal Dil İşleme (NLP) Ön İşleme: Metin verileri eğitim veya çıkarım için bir modele beslenmeden önce ön işleme tabi tutulmalıdır. Metnin daha küçük birimlere ayrıldığı tokenizasyon gibi görevler NLP'de temeldir. Hugging Face'in Tokenizers 'ı gibi kütüphaneler, işlenen veriler GPU'ya gönderilmeden önce bu sıralı işlemleri genellikle CPU üzerinde verimli bir şekilde gerçekleştirir.
2. Uç Cihaz Çıkarsaması: Birçok Edge AI uygulaması, ML modellerini Raspberry Pi veya ARM mimarisine dayalı cihazlar gibi sınırlı güç ve hesaplama kaynaklarına sahip cihazlarda kullanır. Bu senaryolarda, çıkarım genellikle doğrudan cihazın CPU'sunda çalışır. TensorFlow Lite veya OpenVINO araç seti gibi optimize edilmiş kütüphaneler, temel nesne algılama veya anahtar kelime belirleme gibi görevlerde kabul edilebilir performans elde etmek için kullanılır. Bu dağıtımların yönetimi, Ultralytics HUB gibi platformlar ve Docker gibi konteynerleştirme araçları aracılığıyla kolaylaştırılabilir.

CPU'nun yeteneklerini ve sınırlamalarını anlamak, veri toplamadan farklı donanım platformlarında verimli dağıtım sağlamaya kadar uçtan uca yapay zeka sistemlerini tasarlamak ve optimize etmek için çok önemlidir. Bu, başarılı bir MLOps stratejisinin kilit bir yönüdür.