Edge AI

الذكاء الاصطناعي الطرفي هو تشغيل نماذج الذكاء الاصطناعي (AI) على الأجهزة التي تنتج البيانات أو بالقرب منها، مثل الهواتف والكاميرات والمركبات والروبوتات وبوابات المصانع، بدلًا من إرسال تلك البيانات إلى مركز بيانات بعيد. وتزيل معالجة إطار الكاميرا أو المقطع الصوتي في موضع التقاطه زمن الذهاب والإياب عبر الشبكة، فتصل القرارات خلال أجزاء من الثانية. ويواصل الجهاز العمل دون اتصال، وتظل المدخلات الحساسة محلية حفاظًا على خصوصية البيانات، ولا حاجة إلى بث الفيديو الخام إلى السحابة، ما يوفر عرض النطاق الترددي. لكن ذلك يفرض ميزانية محدودة للذاكرة والحوسبة والطاقة، فضلًا عن تحدي تحديث النماذج عبر أسطول من الأجهزة.

كيف يعمل الذكاء الاصطناعي الطرفي#

تُدرَّب النماذج عادةً في السحابة باستخدام وحدات GPU، ثم تُصغَّر وتُسرَّع بما يكفي لتشغيلها على الجهاز المستهدف. وتُسهم أساليب مثل تكميم النماذج إلى FP16 أو INT8، وتشذيب النماذج، وتقطير المعرفة في تقليص حجم النماذج، بينما يحوّل التصدير النماذج إلى التنسيق الذي يشغّله محرك الاستدلال على الجهاز، مثل TensorRT على أجهزة NVIDIA، وLiteRT على Android، وCore ML على أجهزة Apple، أو NCNN على وحدات CPU بمعمارية ARM. بعد ذلك، يجري الجهاز الاستدلال محليًا ولا يرسل إلى الخادم إلا المعلومات المهمة، مثل تنبيه أو عدد أو مقطع قصير. وتُسهم عمليات الرفع هذه أيضًا في حلقة التحسين: إذ تُوسم الأمثلة الصعبة المجمّعة من الميدان، ويُعاد تدريب النموذج، ثم يُرسل الإصدار الجديد إلى الأجهزة لاسلكيًا.

عتاد الذكاء الاصطناعي الطرفي#

• وحدات المعالجة العصبية (NPUs): مسرّعات مخصصة مدمجة في معظم شرائح الهواتف والحواسيب المحمولة الحديثة، مثل Neural Engine من Apple ووحدة Hexagon NPU من Qualcomm، وتشغّل نماذج مكمّمة ضمن ميزانية الطاقة المتاحة للهاتف.
• NVIDIA Jetson: وحدات مدمجة تجمع بين وحدة CPU بمعمارية ARM ووحدة GPU من NVIDIA، مخصصة للروبوتات والطائرات المسيّرة والكاميرات الذكية التي تحتاج إلى معدل نقل بيانات بمستوى وحدات GPU.
• Raspberry Pi: حواسيب أحادية اللوحة منخفضة التكلفة تشغّل نماذج صغيرة على وحدة CPU بمعمارية ARM أو على لوحات مسرّعات إضافية.
• المتحكمات الدقيقة: الفئة الأصغر، حيث تعمل نماذج لا يتجاوز حجمها بضع مئات من الكيلوبايتات باستهلاك طاقة بمستوى الملّي واط.

نشر نموذج على الأجهزة الطرفية#

يلائم كل صنف من الأجهزة تنسيق تصدير مختلفًا. وعلى Raspberry Pi، يُعد NCNN الأسرع بين التنسيقات التي تقيس Ultralytics أداءها مع Ultralytics YOLO26، ويتيح التصدير مرة واحدة وتحميل المجلد المُصدّر تشغيل الكاشف نفسه باستخدام ذلك المحرك:

from ultralytics import YOLO

# ⁨حمّل أصغر نموذج لكشف الكائنات من YOLO26⁩
model = YOLO("yolo26n.pt")

# ⁨التصدير إلى NCNN، وهو إطار استدلال محسّن لوحدات CPU بمعمارية ARM⁩
path = model.export(format="ncnn")  # creates 'yolo26n_ncnn_model/'

# ⁨إجراء الاستدلال باستخدام النموذج المُصدّر، كما على الجهاز⁩
ncnn_model = YOLO(path)
results = ncnn_model("https://ultralytics.com/images/bus.jpg")
results[0].save(filename="bus_ncnn.jpg")

تعرض الصورة المحفوظة عمليات الكشف التي حسبها محرك NCNN. وغالبًا ما تُحزّم التطبيقات على الجهاز في حاويات Docker كي تعمل الصورة نفسها على أسطول من اللوحات المتطابقة.

الذكاء الاصطناعي الطرفي والمصطلحات ذات الصلة#

• الحوسبة الطرفية: النهج الأوسع لمعالجة أي بيانات بالقرب من مصدرها، بدءًا من تصفية قراءات المستشعرات ووصولًا إلى تخزين المحتوى مؤقتًا. والذكاء الاصطناعي الطرفي هو حوسبة طرفية يكون عبء العمل فيها نموذجًا للتعلم الآلي.
• التعلم الآلي فائق الصغر (TinyML): أصغر فئات الذكاء الاصطناعي الطرفي، ويعمل على متحكمات دقيقة بذاكرة لا تتجاوز بضعة كيلوبايتات.
• التعلم الاتحادي: يدرّب نموذجًا مشتركًا عبر أجهزة عديدة بإرسال تحديثات الأوزان بدلًا من البيانات الخام. ويشير الذكاء الاصطناعي الطرفي عادةً إلى الاستدلال، بينما ينقل التعلم الاتحادي التدريب إلى الأجهزة نفسها.

تطبيقات الذكاء الاصطناعي الطرفي#

• المركبات ذاتية القيادة: تكشف السيارات وروبوتات التوصيل المشاة والمركبات والمسارات على متنها، إذ لا يمكن السماح لاتصال متأخر أو منقطع بتأخير الكبح.
• الكاميرات الذكية: تجري كاميرات البيع بالتجزئة والمرور والأمن كشف الأجسام محليًا، وترسل أعدادًا أو تنبيهات بدلًا من بث الفيديو باستمرار.
• الفحص الصناعي: ترفض الكاميرات على خطوط الإنتاج القطع المعيبة خلال أجزاء من الثانية، كما تكشف مستشعرات الاهتزاز في الآلات الحالات الشاذة قبل أن تؤدي إلى توقف التشغيل.
• الهواتف الذكية: تعالج الهواتف الصور وتحوّل الكلام إلى نص وتشغّل نماذج لغوية صغيرة على الجهاز، مثل النموذج الذي يضم نحو 3 مليارات معلمة وتشغّله Apple Intelligence على أجهزة Apple، وتصل إليه التطبيقات عبر إطار Foundation Models من Apple.