CPU

وحدة المعالجة المركزية (CPU) هي المعالج متعدد الأغراض الذي يشغّل نظام تشغيل الحاسوب وبرامجه. تنفّذ التعليمات على عدد قليل من الأنوية القوية، صُمم كل منها لإنجاز تدفق واحد من التعليمات بسرعة، مع ذاكرات مخبئية كبيرة والتنبؤ بالتفرع والتنفيذ خارج الترتيب، وهي خصائص تسرّع التعليمات البرمجية المعقدة والمتفرعة. وفي أنظمة الذكاء الاصطناعي (AI)، تحمّل CPU البيانات وتفك ترميزها، وتطبق تعزيز البيانات، وتغذي وحدات GPU والمسرّعات الأخرى، وتعالج الخطوات المحيطة بالنموذج، مثل تغيير حجم الصور قبل الاستدلال وكبت غير الأعظم بعد اكتشاف الأجسام. كما تشغّل النموذج نفسه عندما لا يتوفر مسرّع أو لا تكون كلفته مبررة، بدءًا من الحواسيب المحمولة والوظائف السحابية وصولًا إلى Raspberry Pi، ما يجعل زمن استجابة الاستدلال على CPU هدفًا تصميميًا أساسيًا لنماذج الذكاء الاصطناعي الطرفي.

كيفية تشغيل وحدات CPU للشبكات العصبية#

تقضي الشبكة العصبية معظم وقتها في ضرب المصفوفات، وتسرّع وحدات CPU هذه العملية بثلاث طرق. تعمل عدة أنوية، من 4 في لوحة صغيرة إلى أكثر من 100 في شريحة خادم، على أجزاء مختلفة من دفعة أو طبقة بالتوازي. وداخل كل نواة، تطبّق وحدات SIMD (تعليمة واحدة وبيانات متعددة) تعليمة واحدة على أعداد كثيرة في آنٍ واحد: AVX2 وAVX-512 في شرائح x86 من Intel وAMD، وNEON في شرائح Arm مثل تلك الموجودة في الهواتف وحواسيب Apple silicon Mac ولوحات Raspberry Pi، مع امتداد SVE الأوسع في شرائح خوادم Arm الأحدث. وتضيف الشرائح الحديثة وحدات للمصفوفات، مثل امتدادات المصفوفات المتقدمة (AMX) من Intel في معالجات خوادم Xeon منذ عام 2023 وامتداد المصفوفات القابل للتوسع (SME) من Arm، وهي تضرب كتلًا صغيرة من قيم BF16 أو INT8 لكل تعليمة.

لا يزال معدل إنتاجية CPU أقل بكثير من GPU، لأن CPU تخصص مساحة الشريحة للذاكرات المخبئية ومنطق التحكم لتحقيق أداء سريع أحادي المسار، بدلًا من تخصيصها لآلاف وحدات الحساب، كما تقرأ الأوزان من ذاكرة النظام العادية بعرض نطاق ترددي لا يتجاوز جزءًا من عرض نطاق ذاكرة GPU. وتسد محركات الاستدلال جزءًا من الفجوة: إذ تدمج ONNX Runtime وOpenVINO من Intel وNCNN من Tencent الطبقات، وتختار أسرع النوى البرمجية لمجموعة التعليمات المتاحة، وتشغّل نماذج مكمّمة إلى INT8 لا تنقل سوى ربع البيانات التي تنقلها الأوزان ذات الدقة FP32. وعادةً ما يستند اختيار المحرك والدقة لنشر النماذج على CPU إلى العتاد:

صممت Ultralytics YOLO26 لهذا النوع من العتاد، ويعمل YOLO26n أسرع بنسبة تصل إلى 43% من YOLO11n في استدلال ONNX على CPU على وحدة CPU من Intel Xeon، بينما يسرّع التصدير إلى OpenVINO الاستدلال على CPU حتى 3 مرات. يشغّل هذا الرمز YOLO26 على CPU، ثم يصدّره إلى OpenVINO ويشغّل النموذج المُصدّر:

from ultralytics import YOLO

# ⁨شغّل أصغر نموذج لاكتشاف الأجسام من YOLO26 على CPU، حتى عند توفر GPU⁩
model = YOLO("yolo26n.pt")
results = model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")
print(results[0].speed)  # ⁨المللي ثانية للمعالجة المسبقة والاستدلال والمعالجة اللاحقة⁩

# ⁨صدّر إلى تنسيق OpenVINO وشغّل النموذج المُصدّر على CPU نفسه⁩
path = model.export(format="openvino")
ov_model = YOLO(path)
results = ov_model.predict("https://ultralytics.com/images/bus.jpg", device="cpu")
print(results[0].speed)

يقسّم كل قاموس speed زمن معالجة صورة واحدة إلى المعالجة المسبقة والاستدلال والمعالجة اللاحقة، لذا تقارن مخرجات الطباعة زمن الاستدلال باستخدام PyTorch وOpenVINO على الجهاز الذي يشغّل الرمز.

CPU مقابل GPU مقابل TPU مقابل NPU#

• CPU: عدد قليل من الأنوية القوية للتعليمات البرمجية متعددة الأغراض والمتفرعة. يحتوي كل حاسوب على وحدة CPU، وهي تشغّل أي نموذج دون عتاد إضافي، لكن بإنتاجية أقل من المسرّعات أدناه.
• GPU: آلاف الأنوية الأبسط، إلى جانب أنوية Tensor لإجراء حسابات المصفوفات وذاكرة ذات عرض نطاق ترددي عالٍ. وتُعد وحدات GPU العتاد القياسي للتدريب والاستدلال عالي الإنتاجية.
• TPU: شريحة متخصصة من Google مبنية حول وحدات كبيرة لضرب المصفوفات، ومتوفرة على Google Cloud، وباسم Edge TPU ضمن وحدات استدلال صغيرة.
• NPU: مسرّع للشبكات العصبية منخفض استهلاك الطاقة، مدمج في شرائح الهواتف والحواسيب المحمولة والأنظمة المضمنة. وتجمع شرائح Intel Core Ultra وAMD Ryzen AI وQualcomm Snapdragon وApple M-series بين أنوية CPU ووحدة GPU ووحدة NPU في معالج واحد.

تطبيقات عملية#

• مسارات بيانات التدريب: أثناء تدريب GPU، تقرأ عمليات العمال على CPU الصور من القرص وتفك ترميزها وتغيّر حجمها وتعززها، ثم تجمعها في دفعات. ويؤدي نقص أنوية CPU إلى انتظار GPU باهظة الثمن للبيانات.
• الكاميرات الذكية والأجهزة الطرفية: تشغّل أجراس الأبواب ومستشعرات البيع بالتجزئة والكاميرات الصناعية نماذج صغيرة لاكتشاف الأجسام على معالجاتها، فتبقى مقاطع الفيديو على الجهاز ولا تغادره إلا التنبيهات.
• الاستدلال عديم الخوادم والاستدلال السحابي: غالبًا ما تعمل وظائف السحابة ونقاط النهاية منخفضة الحركة على مثيلات تعتمد على CPU فقط، إذ يبدأ تشغيلها بسرعة وتكلف أقل من حجز GPU.
• نماذج اللغة الكبيرة محليًا: تشغّل مشاريع مثل llama.cpp نماذج GGUF المكمّمة على وحدات CPU في الحواسيب المحمولة، حيث تتحدد سرعة التوليد أساسًا بسرعة وصول الذاكرة إلى الأوزان الخاصة بكل رمز.