Neural Processing Unit (NPU)

Sinir İşleme Birimi (NPU), yapay zeka ve makine öğrenimi algoritmalarının yürütülmesini hızlandırmak için özel olarak tasarlanmış bir donanım devresidir. Genel amaçlı işlemcilerin aksine NPU'lar, derin öğrenme modellerinin merkezinde yer alan karmaşık ve paralel matris işlemlerini doğal olarak işleyen bir mimariyle geliştirilmiştir. Bu hesaplamaları son derece verimli bir şekilde yürüten NPU, güç tüketimini önemli ölçüde azaltırken çıkarım gecikmesini de belirgin şekilde iyileştirir. Bu da onları, pilin hızla tükenmesine yol açmadan karmaşık modellerin verimli bir şekilde çalıştırılmasının kritik olduğu modern cep telefonları, dizüstü bilgisayarlar ve özel IoT cihazları için vazgeçilmez bir bileşen haline getirir.

Link to this sectionNPU Diğer İşlemcilere Karşı#

Bir NPU'nun değerini anlamak için, onu yapay zeka dünyasındaki diğer yaygın donanım hızlandırıcılarından ayırmak faydalı olacaktır:

• Merkezi İşlem Birimi (CPU): Bilgisayarın genel amaçlı "beyni". Makine öğrenimi kodlarını çalıştırabilir olsa da CPU'lar görevleri sırayla işler; bu da onları modern görüntü modellerinin gerektirdiği yoğun matris çarpımı işlemleri için yavaş ve verimsiz kılar.
• Grafik İşleme Birimi (GPU): Paralel işleme için tasarlanan GPU'lar, ağır derin öğrenme iş yüklerini yönetmede üstün performans gösterir. Ancak önemli ölçüde güç tüketir ve yüksek ısı üretirler, bu da onları pille çalışan uç bilişim yerine bulut tabanlı eğitim için daha uygun kılar.
• Tensor İşleme Birimi (TPU): Google tarafından makine öğrenimi için geliştirilmiş uygulamaya özel bir entegre devredir. Kavram olarak NPU'ya benzer olsa da, TPU'lar genellikle büyük ölçekli bulut bilişim sunucu raflarıyla ilişkilendirilirken, NPU'lar genellikle doğrudan tüketici sınıfı Çip Üzerindeki Sistemlere (SoC) entegre edilir.

Link to this sectionNPU'ların Gerçek Dünya Uygulamaları#

NPU'nun yükselişi, sürekli bir bulut bağlantısına ihtiyaç duymadan yapay zeka (AI) uygulamalarını doğrudan kullanıcı cihazlarında çalıştırma imkanı sağlamıştır.

• Akıllı Telefonlar ve Mobil Görüntüleme: Modern mobil cihazlar, hesaplamalı fotoğrafçılığı, gerçek zamanlı yüz tanımayı ve yerel metin çevirisini güçlendirmek için Apple Neural Engine veya Qualcomm Hexagon NPU gibi dahili NPU'lardan yoğun bir şekilde yararlanır. Görüntü verilerini cihaz üzerinde işleyerek hem pil ömrünü korurlar hem de veri gizliliğini sağlarlar.
• Yapay Zeka Destekli Dizüstü Bilgisayarlar: Gelişmiş PC işlemcileri artık, video konferans sırasında arka plan bulanıklaştırma ve göz takibi gibi arka plan görevlerini ana CPU'yu yormadan yönetmek için entegre NPU'lara sahiptir; bu da kullanıcıların sorunsuz bir şekilde çoklu görev yapmasına olanak tanır.
• Uç Yapay Zeka Dağıtımları: Akıllı güvenlik kameraları ve robotik sistemler, Google Coral Edge TPU veya gömülü Intel donanımı gibi özel NPU'ları kullanarak doğrudan kaynakta anlık nesne algılama gerçekleştirir. Bu, bant genişliği darboğazlarını ortadan kaldırır ve anlık karar alma süreçlerini mümkün kılar.

Link to this sectionNPU'ları Ultralytics YOLO ile Kullanmak#

NPU'lardan yararlanmak isteyen geliştiriciler için bilgisayarlı görü modelleri dağıtmak inanılmaz derecede basit hale geldi. Güçlü Ultralytics YOLO26 modelini kullanarak eğitilmiş ağını çeşitli donanım hızlandırıcıları için optimize edilmiş formatlara dışa aktarabilirsin. Bu yaşam döngüsünün tamamını kolaylaştırmak için Ultralytics Platform, bulut veri kümesi yönetimi, otomatik etiketleme ve optimize edilmiş modelleri neredeyse her türlü model dağıtımı ortamına dağıtmak için güçlü araçlar sunar.

When working locally, you can use framework integrations like ONNX Runtime, PyTorch ExecuTorch, or TensorFlow Lite to target the NPU. Below is a quick Python example demonstrating how to export a YOLO model to the OpenVINO format, which seamlessly delegates computing workloads to Intel NPUs for accelerated real-time inference.

from ultralytics import YOLO

# Load the highly recommended Ultralytics YOLO26 Nano model
model = YOLO("yolo26n.pt")

# Export to OpenVINO with int8 quantization for optimal NPU performance
model.export(format="openvino", int8=True)

# Run highly efficient, accelerated inference on the edge device
results = model("path/to/environment_image.jpg")