نشر تطبيقات الرؤية الحاسوبية على أجهزة ذكاء الحافة

بفضل التطورات الأخيرة في computer vision والذكاء الاصطناعي (AI)، فإن ما كان يوماً مجرد مجال بحثي أصبح الآن يقود تطبيقات مؤثرة عبر مجموعة من الصناعات. من السيارات ذاتية القيادة إلى التصوير الطبي والأمان، تحل أنظمة computer vision مشكلات حقيقية على نطاق واسع.

تتضمن العديد من هذه التطبيقات تحليل الصور والفيديو في الوقت الفعلي، ولا يكون الاعتماد على الحوسبة السحابية عملياً دائماً بسبب التأخير (latency)، والتكاليف، ومخاوف الخصوصية. يُعد Edge AI حلاً رائعاً في هذه الحالات. من خلال تشغيل نماذج vision AI مباشرة على أجهزة الحافة (edge devices)، يمكن للشركات معالجة البيانات بشكل أسرع، وبتكلفة معقولة، وأمان أكبر، مما يجعل الذكاء الاصطناعي في الوقت الفعلي أكثر سهولة في الوصول إليه.

خلال YOLO Vision 2024 (YV24)، الحدث الهجين السنوي الذي تستضيفه Ultralytics، كان أحد الموضوعات المركزية هو إضفاء الطابع الديمقراطي على vision AI من خلال جعل نشر النماذج أكثر سهولة وكفاءة للمستخدم. ناقش Guy Dahan، مهندس الحلول الأول في NVIDIA، كيف تساعد حلول الأجهزة والبرمجيات من NVIDIA، بما في ذلك أجهزة الحوسبة الطرفية، وخوادم الاستدلال، وأطر التحسين، ومزودات نشر الذكاء الاصطناعي، المطورين على تحسين الذكاء الاصطناعي على الحافة.

في هذه المقالة، سنستكشف النقاط الرئيسية من الكلمة الرئيسية لـ Guy Dahan في YV24 وكيف تجعل ابتكارات NVIDIA الأخيرة نشر الرؤية بالذكاء الاصطناعي أسرع وأكثر قابلية للتوسع.

ما هو الذكاء الاصطناعي الطرفي (Edge AI)؟#

بدأ Guy Dahan حديثه بالتعبير عن حماسه للانضمام إلى YV24 افتراضياً واهتمامه بحزمة Ultralytics Python ونماذج Ultralytics YOLO models، قائلاً: "أنا أستخدم Ultralytics منذ يوم صدورها. أنا حقاً معجب بـ Ultralytics - كنت أستخدم YOLOv5 حتى قبل ذلك، وأنا متحمس حقاً لهذه الحزمة."

ثم قدم مفهوم الذكاء الاصطناعي الطرفي، موضحاً أنه يتضمن إجراء عمليات حساب الذكاء الاصطناعي مباشرة على أجهزة مثل الكاميرات أو الطائرات بدون طيار أو الآلات الصناعية، بدلاً من إرسال البيانات إلى خوادم سحابية بعيدة للمعالجة.

بدلاً من انتظار رفع الصور أو الفيديوهات، وتحليلها، ثم إعادتها مع النتائج، يجعل الذكاء الاصطناعي الطرفي من الممكن تحليل البيانات فوراً على الجهاز نفسه. وهذا يجعل أنظمة الرؤية بالذكاء الاصطناعي أسرع وأكثر كفاءة وأقل اعتماداً على الاتصال بالإنترنت. الذكاء الاصطناعي الطرفي مفيد بشكل خاص لتطبيقات اتخاذ القرار في الوقت الفعلي، مثل السيارات ذاتية القيادة، وكاميرات المراقبة، والمصانع الذكية.

الفوائد الرئيسية للذكاء الاصطناعي الطرفي#

بعد تقديم الذكاء الاصطناعي الطرفي، سلط Guy Dahan الضوء على مزاياه الرئيسية، مع التركيز على الكفاءة، وتوفير التكاليف، وأمن البيانات. وأوضح أن إحدى أكبر المزايا هي زمن الوصول المنخفض - نظراً لأن نماذج الذكاء الاصطناعي تعالج البيانات مباشرة على الجهاز، فلا داعي لإرسال المعلومات إلى السحابة وانتظار الاستجابة.

يساعد الذكاء الاصطناعي الطرفي أيضاً في تقليل التكاليف وحماية البيانات الحساسة. إرسال كميات كبيرة من البيانات إلى السحابة، خاصة تدفقات الفيديو، يمكن أن يكون مكلفاً. ومع ذلك، فإن معالجتها محلياً يقلل من تكاليف النطاق الترددي والتخزين.

تتمثل إحدى المزايا الرئيسية الأخرى في data privacy لأن المعلومات تبقى على الجهاز بدلاً من نقلها إلى خادم خارجي. يُعد هذا الأمر مهمًا بشكل خاص لتطبيقات الرعاية الصحية، والتمويل، والأمان، حيث يُعد الحفاظ على البيانات محلية وآمنة أولوية قصوى.

الشكل 1. Guy Dahan يقدم عرضاً عن بُعد في YV24 حول فوائد الذكاء الاصطناعي الطرفي.

بناءً على هذه الفوائد، علق Guy Dahan على التبني المتزايد للذكاء الاصطناعي الطرفي. وأشار إلى أنه منذ قدمت NVIDIA جهاز Jetson في عام 2014، زاد الاستخدام عشرة أضعاف. اليوم، يعمل أكثر من 1.2 مليون مطور باستخدام أجهزة Jetson.

نظرة عامة على NVIDIA Jetson: جهاز للذكاء الاصطناعي الطرفي#

ركز Guy Dahan بعد ذلك على NVIDIA Jetson devices، وهي عائلة من أجهزة الحوسبة الطرفية للذكاء الاصطناعي مصممة لتقديم أداء عالي مع استهلاك منخفض للطاقة. تُعد أجهزة Jetson مثالية لتطبيقات computer vision في قطاعات مثل الروبوتات، والزراعة، والرعاية الصحية، والاتمتة الصناعية. وأضاف Guy Dahan: "أجهزة Jetsons هي أجهزة Edge AI مصممة خصيصاً للذكاء الاصطناعي. قد أضيف أيضاً أنها صُممت في الأصل في الغالب من أجل computer vision."

تأتي أجهزة Jetson في ثلاث فئات، كل منها مناسب لاحتياجات مختلفة:

• مستوى الدخول: توفر هذه الأجهزة من 20 إلى 40 تريليون عملية في الثانية (TOPS) من أداء الذكاء الاصطناعي باستهلاك طاقة من 10 إلى 15 وات، مما يجعلها خياراً ميسور التكلفة للتطبيقات الطرفية.
• المستوى السائد (Mainstream): توازن بين الأداء والكفاءة، وتوفر من 70 إلى 200 TOPS باستهلاك طاقة من 20 إلى 40 وات، وهي مناسبة لأحمال عمل الذكاء الاصطناعي المتوسطة.
• الأداء العالي: توفر ما يصل إلى 275 TOPS باستهلاك طاقة من 60 إلى 75 وات، وهي مصممة لتطبيقات الذكاء الاصطناعي الصعبة مثل الروبوتات والأتمتة.

أيضاً، تحدث Guy Dahan عن جهاز Jetson AGX Thor القادم، والذي سيتم إطلاقه هذا العام، وقال إنه سيوفر ثمانية أضعاف أداء وحدة معالجة الرسومات (GPU)، وضعف سعة الذاكرة، وأداء محسناً لوحدة المعالجة المركزية (CPU). إنه مصمم خصيصاً للروبوتات الشبيهة بالبشر وتطبيقات الذكاء الاصطناعي الطرفي المتقدمة.

التحديات المتعلقة بنشر نماذج الرؤية الحاسوبية#

انتقل Guy Dahan بعد ذلك لمناقشة الجانب البرمجي للذكاء الاصطناعي الطرفي وأوضح أنه حتى مع وجود أجهزة قوية، يمكن أن يكون نشر النماذج بكفاءة أمراً صعباً.

تُعد إحدى أكبر العقبات هي التوافق، حيث غالباً ما يعمل مطورو الذكاء الاصطناعي مع AI frameworks مختلفة مثل PyTorch وTensorFlow. قد يكون الانتقال بين هذه الأطر أمراً صعباً، مما يتطلب من المطورين إعادة إنشاء بيئات العمل لضمان تشغيل كل شيء بشكل صحيح.

قابلية التوسع هي تحدٍ رئيسي آخر. تتطلب نماذج الذكاء الاصطناعي قوة حوسبة كبيرة، وكما قال Dahan: "لم تكن هناك أبداً شركة ذكاء اصطناعي تريد طاقة حوسبة أقل". يمكن أن يصبح توسيع تطبيقات الذكاء الاصطناعي عبر أجهزة متعددة مكلفاً بسرعة، مما يجعل التحسين أمراً ضرورياً.

أيضاً، تُعد خطوط أنابيب الذكاء الاصطناعي معقدة، وغالباً ما تتضمن أنواعاً مختلفة من البيانات، والمعالجة في الوقت الفعلي، وتكامل الأنظمة. يبذل المطورون جهداً كبيراً للتأكد من أن نماذجهم تتفاعل بسلاسة مع النظم البيئية للبرمجيات الحالية. يُعد التغلب على هذه التحديات جزءاً أساسياً من جعل AI deployments أكثر كفاءة وقابلية للتوسع.

الشكل 2. التحديات في نشر النماذج.

تبسيط النشر باستخدام خادم Triton Inference Server من NVIDIA#

بعد ذلك، وجه Guy Dahan انتباهه إلى Triton Inference Server من NVIDIA. وأشار إلى أن العديد من الشركات والشركات الناشئة تبدأ في تطوير الذكاء الاصطناعي دون تحسين نماذجها بشكل كامل. قد يؤدي إعادة تصميم خط أنابيب ذكاء اصطناعي بأكمله من الصفر إلى تعطيل العمل واستغراق وقت طويل، مما يجعل التوسع بكفاءة أمراً صعباً.

بدلاً من الحاجة إلى إصلاح شامل للنظام، يتيح Triton للمطورين تحسين مسارات عمل الذكاء الاصطناعي الخاصة بهم تدريجياً، ودمج مكونات أكثر كفاءة دون كسر إعداداتهم الحالية. مع دعم أطر عمل متعددة للذكاء الاصطناعي، بما في ذلك TensorFlow وPyTorch وONNX وTensorRT، يتيح Triton النشر السلس عبر بيئات السحابة، ومراكز البيانات، والأجهزة الطرفية بأقل قدر من التعديلات.

الشكل 3. نظرة عامة على خادم NVIDIA Triton Inference Server.

فيما يلي بعض المزايا الرئيسية لخادم Triton Inference Server من NVIDIA:

• التجميع التلقائي (Automatic batching): يقوم Triton بتجميع طلبات الذكاء الاصطناعي المتعددة معاً قبل معالجتها، مما يقلل من التأخير (زمن الوصول) ويحسن سرعة الاستدلال (الوقت الذي يستغرقه نموذج الذكاء الاصطناعي لإنتاج النتائج).
• تكامل Kubernetes: خادم Triton أصلي في السحابة، مما يعني أنه يعمل بسلاسة مع Kubernetes (نظام يساعد في إدارة وتوسيع تطبيقات الذكاء الاصطناعي عبر أجهزة كمبيوتر أو خوادم سحابية متعددة).
• مفتوح المصدر وقابل للتخصيص: يمكن للمطورين تعديل Triton ليتناسب مع احتياجاتهم الخاصة، مما يضمن المرونة لمجموعة واسعة من تطبيقات الذكاء الاصطناعي.

تعظيم أداء الذكاء الاصطناعي باستخدام NVIDIA TensorRT#

لنفترض أنك تبحث عن تسارع أكبر؛ يُعد NVIDIA TensorRT خياراً مثيراً للاهتمام لتحسين نماذج الذكاء الاصطناعي الخاصة بك. أوضح Guy Dahan أن TensorRT هو محسن تعلم عميق عالي الأداء مصمم لوحدات معالجة الرسومات NVIDIA GPUs. يمكن تحويل النماذج من TensorFlow وPyTorch وONNX وMXNet إلى ملفات عالية الكفاءة قابلة للتنفيذ بواسطة وحدة معالجة الرسومات باستخدام TensorRT.

ما يجعل TensorRT موثوقاً للغاية هو تحسيناته الخاصة بالأجهزة. لن يعمل النموذج الذي تم تحسينه لأجهزة Jetson بنفس الكفاءة على وحدات معالجة الرسومات الأخرى لأن TensorRT يضبط الأداء بدقة بناءً على الجهاز المستهدف. يمكن أن يؤدي نموذج الرؤية الحاسوبية المضبوط بدقة إلى زيادة في سرعة الاستدلال تصل إلى 36 ضعفاً مقارنة بالنماذج غير المحسنة.

لفت Guy Dahan الانتباه أيضاً إلى دعم Ultralytics لـ TensorRT، متحدثاً عن كيف يجعل نشر نماذج الذكاء الاصطناعي أسرع وأكثر كفاءة. يمكن تصدير نماذج Ultralytics YOLO exported مباشرة إلى تنسيق TensorRT، مما يتيح للمطورين تحسينها لوحدات معالجة الرسومات NVIDIA GPUs دون الحاجة إلى إجراء أي تغييرات.

DeepStream 7.0: مجموعة أدوات لتحليلات البث#

ختاماً للمحادثة بنبرة إيجابية، استعرض Guy Dahan برنامج DeepStream 7.0 - وهو إطار عمل للذكاء الاصطناعي مصمم لمعالجة الفيديو، والصوت، وبيانات المستشعرات في الوقت الفعلي باستخدام وحدات معالجة الرسومات NVIDIA GPUs. صُمم هذا البرنامج لدعم تطبيقات computer vision عالية السرعة، وهو يتيح اكتشاف الكائنات، وتتبعها، والتحليلات عبر الأنظمة المستقلة، والأمان، والاتمتة الصناعية، والمدن الذكية. من خلال تشغيل الذكاء الاصطناعي مباشرة على أجهزة الحافة، يلغي DeepStream الاعتماد على السحابة، مما يقلل من التأخير (latency) ويحسن الكفاءة.

الشكل 4. استكشاف DeepStream 7.0 في YV24 مع Guy Dahan.

على وجه التحديد، يمكن لـ DeepStream التعامل مع معالجة الفيديو المدعومة بالذكاء الاصطناعي من البداية إلى النهاية. وهي تدعم مسارات العمل الشاملة، بدءاً من فك تشفير الفيديو والمعالجة المسبقة وصولاً إلى استدلال الذكاء الاصطناعي والمعالجة اللاحقة.

مؤخراً، قدم DeepStream العديد من التحديثات لتعزيز نشر الذكاء الاصطناعي، مما جعله أكثر سهولة وقابلية للتوسع. تعمل الأدوات الجديدة على تبسيط التطوير، وتحسين تتبع الكاميرات المتعددة، وتحسين خطوط أنابيب الذكاء الاصطناعي لأداء أفضل.

يتمتع المطورون الآن بدعم موسع لبيئات Windows، وقدرات محسنة لدمج المستشعرات لدمج البيانات من مصادر متعددة، وإمكانية الوصول إلى تطبيقات مرجعية مبنية مسبقاً لتسريع النشر. تجعل هذه التحسينات من DeepStream حلاً أكثر مرونة وكفاءة لتطبيقات الذكاء الاصطناعي في الوقت الفعلي، مما يساعد المطورين على توسيع نطاق تحليلات الفيديو الذكية بسهولة.

أبرز النقاط#

كما هو موضح في الكلمة الرئيسية لـ Guy Dahan في YV24، فإن الذكاء الاصطناعي الطرفي يعيد تعريف تطبيقات الرؤية الحاسوبية. ومع التطورات في الأجهزة والبرامج، أصبحت المعالجة في الوقت الفعلي أسرع وأكثر كفاءة وفعالية من حيث التكلفة.

مع تبني المزيد من الصناعات للذكاء الاصطناعي الطرفي، سيكون معالجة التحديات مثل التجزئة وتعقيد النشر مفتاحاً لإطلاق إمكاناته الكاملة. إن تبني هذه الابتكارات سيدفع نحو تطبيقات ذكاء اصطناعي أكثر ذكاءً واستجابة، مما يشكل مستقبل الرؤية الحاسوبية.

كن جزءاً من our growing community! استكشف our GitHub repository لمعرفة المزيد عن الذكاء الاصطناعي، وتحقق من our licensing options لبدء مشاريع vision AI الخاصة بك. هل أنت مهتم بالابتكارات مثل AI in healthcare وcomputer vision in manufacturing؟ تفضل بزيارة صفحة الحلول الخاصة بنا لمعرفة المزيد!