نشر تطبيقات الرؤية الحاسوبية على أجهزة Edge AI

بفضل التطورات الحديثة في الرؤية الحاسوبية والذكاء الاصطناعي (AI)، أصبح ما كان يومًا مجرد مجال بحثي يقود الآن تطبيقات مؤثرة في مجموعة واسعة من الصناعات. فمن السيارات ذاتية القيادة إلى التصوير الطبي والأمن، تعمل أنظمة الرؤية الحاسوبية على حل مشكلات حقيقية على نطاق واسع.

تنطوي العديد من هذه التطبيقات على تحليل الصور والفيديو في الوقت الفعلي، ولا يكون الاعتماد على الحوسبة السحابية عمليًا دائمًا بسبب زمن الاستجابة والتكاليف ومخاوف الخصوصية. يُعد الذكاء الاصطناعي الطرفي حلًا رائعًا في هذه الحالات. فمن خلال تشغيل نماذج ذكاء اصطناعي للرؤية مباشرةً على الأجهزة الطرفية، تستطيع الشركات معالجة البيانات بسرعة أكبر وبتكلفة أقل وبأمان أعلى، مما يجعل الذكاء الاصطناعي في الوقت الفعلي متاحًا بدرجة أكبر.

خلال فعالية YOLO Vision 2024 (YV24) الهجينة السنوية التي تستضيفها Ultralytics، تمثّل أحد المحاور الرئيسية في إتاحة ذكاء اصطناعي للرؤية للجميع، من خلال جعل النشر أكثر سهولة وكفاءة للمستخدم. ناقش Guy Dahan، مهندس الحلول الأول في NVIDIA، كيف تساعد حلول NVIDIA للأجهزة والبرمجيات، بما في ذلك أجهزة الحوسبة الطرفية وخوادم الاستدلال وأطر التحسين وحزم SDK لنشر الذكاء الاصطناعي، المطورين على تحسين الذكاء الاصطناعي على الحافة.

سنستعرض في هذه المقالة أبرز الاستنتاجات من الكلمة الرئيسية التي ألقاها Guy Dahan في YV24، وكيف تجعل أحدث ابتكارات NVIDIA نشر ذكاء اصطناعي للرؤية أسرع وأكثر قابلية للتوسع.

ما الذكاء الاصطناعي الطرفي؟#

بدأ Guy Dahan حديثه بالتعبير عن حماسه للمشاركة افتراضيًا في YV24 واهتمامه بحزمة Python من Ultralytics ونماذج YOLO من Ultralytics، قائلًا: "لقد استخدمت Ultralytics منذ اليوم الذي أُطلقت فيه. أنا معجب جدًا بـ Ultralytics؛ فقد استخدمت YOLOv5 حتى قبل ذلك، وأنا من المتحمسين جدًا لهذه الحزمة."

ثم قدّم مفهوم الذكاء الاصطناعي الطرفي، موضحًا أنه يتضمن تشغيل عمليات الذكاء الاصطناعي مباشرةً على أجهزة مثل الكاميرات أو الطائرات المسيّرة أو الآلات الصناعية، بدلًا من إرسال البيانات إلى خوادم سحابية بعيدة لمعالجتها.

بدلًا من انتظار تحميل الصور أو مقاطع الفيديو وتحليلها ثم إرسال النتائج مرة أخرى، يتيح الذكاء الاصطناعي الطرفي تحليل البيانات فورًا على الجهاز نفسه. وهذا يجعل أنظمة ذكاء اصطناعي للرؤية أسرع وأكثر كفاءة وأقل اعتمادًا على الاتصال بالإنترنت. ويفيد الذكاء الاصطناعي الطرفي بوجه خاص في تطبيقات اتخاذ القرارات في الوقت الفعلي، مثل السيارات ذاتية القيادة وكاميرات المراقبة والمصانع الذكية.

الفوائد الرئيسية للذكاء الاصطناعي الطرفي#

بعد تقديم الذكاء الاصطناعي الطرفي، سلّط Guy Dahan الضوء على مزاياه الرئيسية، مع التركيز على الكفاءة وتوفير التكاليف وأمن البيانات. وأوضح أن إحدى أكبر الفوائد تتمثل في انخفاض زمن الاستجابة؛ إذ تعالج نماذج الذكاء الاصطناعي البيانات مباشرةً على الجهاز، فلا حاجة إلى إرسال المعلومات إلى السحابة وانتظار استجابة.

يساعد الذكاء الاصطناعي الطرفي أيضًا على خفض التكاليف وحماية البيانات الحساسة. فقد يكون إرسال كميات كبيرة من البيانات إلى السحابة، ولا سيما تدفقات الفيديو، مكلفًا. غير أن معالجتها محليًا يقلل تكاليف النطاق الترددي والتخزين.

ومن المزايا الرئيسية الأخرى خصوصية البيانات، إذ تبقى المعلومات على الجهاز بدلًا من نقلها إلى خادم خارجي. ويكتسب ذلك أهمية خاصة في تطبيقات الرعاية الصحية والتمويل والأمن، حيث يمثل إبقاء البيانات محلية وآمنة أولوية قصوى.

الشكل 1. يقدم Guy Dahan عرضًا عن بُعد في YV24 حول فوائد الذكاء الاصطناعي الطرفي.

وبناءً على هذه الفوائد، علّق Guy Dahan على الانتشار المتزايد للذكاء الاصطناعي الطرفي. وأشار إلى أنه منذ أن طرحت NVIDIA منصة Jetson في عام 2014، ازداد الاستخدام عشرة أضعاف. ويعمل اليوم أكثر من 1.2 مليون مطور باستخدام أجهزة Jetson.

نظرة عامة على NVIDIA Jetson: جهاز للذكاء الاصطناعي الطرفي#

ركّز Guy Dahan بعد ذلك على أجهزة NVIDIA Jetson، وهي عائلة من أجهزة الحوسبة الطرفية للذكاء الاصطناعي المصممة لتقديم أداء عالٍ مع استهلاك منخفض للطاقة. وتُعد أجهزة Jetson مثالية لتطبيقات الرؤية الحاسوبية في قطاعات مثل الروبوتات والزراعة والرعاية الصحية والأتمتة الصناعية. وأضاف Guy Dahan: "أجهزة Jetson هي أجهزة للذكاء الاصطناعي الطرفي صُممت خصيصًا للذكاء الاصطناعي. بل قد أضيف أنها صُممت في الأصل بالدرجة الأولى للرؤية الحاسوبية."

تأتي أجهزة Jetson في ثلاث فئات، تناسب كل منها احتياجات مختلفة:

• الفئة المبتدئة: توفر هذه الأجهزة أداءً للذكاء الاصطناعي يتراوح بين 20 و40 تريليون عملية في الثانية (TOPS)، مع استهلاك طاقة يتراوح بين 10 و15 واط، مما يجعلها خيارًا اقتصاديًا للتطبيقات الطرفية.
• الفئة الرئيسية: توازن بين الأداء والكفاءة، إذ توفر من 70 إلى 200 TOPS مع استهلاك طاقة يتراوح بين 20 و40 واط، ما يجعلها مناسبة لأحمال عمل الذكاء الاصطناعي متوسطة المستوى.
• فئة الأداء العالي: توفر ما يصل إلى 275 TOPS مع استهلاك طاقة يتراوح بين 60 و75 واط، وقد صُممت لتطبيقات الذكاء الاصطناعي demanding مثل الروبوتات والأتمتة.

كما شارك Guy Dahan معلومات عن Jetson AGX Thor المرتقبة، التي ستُطلق هذا العام، وقال إنها ستوفر أداءً لوحدة معالجة الرسومات (GPU) يعادل ثمانية أضعاف، وسعة ذاكرة مضاعفة، وأداءً محسنًا لوحدة المعالجة المركزية (CPU). وقد صُممت خصيصًا للروبوتات الشبيهة بالبشر وتطبيقات الذكاء الاصطناعي الطرفي المتقدمة.

التحديات المرتبطة بنشر نماذج الرؤية الحاسوبية#

انتقل Guy Dahan بعد ذلك إلى مناقشة الجانب البرمجي للذكاء الاصطناعي الطرفي، موضحًا أنه حتى مع وجود أجهزة قوية، قد يكون نشر النماذج بكفاءة أمرًا صعبًا.

تتمثل إحدى أكبر العقبات في التوافق، إذ يعمل مطورو الذكاء الاصطناعي غالبًا باستخدام أطر الذكاء الاصطناعي المختلفة مثل PyTorch وTensorFlow. وقد يكون الانتقال بين هذه الأطر صعبًا، إذ يتطلب من المطورين إعادة إنشاء البيئات لضمان تشغيل كل شيء على نحو صحيح.

وتُعد قابلية التوسع تحديًا رئيسيًا آخر. تتطلب نماذج الذكاء الاصطناعي قدرًا كبيرًا من القدرة الحاسوبية، وكما قال Dahan: "لم توجد قط شركة ذكاء اصطناعي تريد قدرة حوسبة أقل." وقد يصبح توسيع نطاق تطبيقات الذكاء الاصطناعي عبر أجهزة متعددة مكلفًا بسرعة، مما يجعل التحسين أمرًا ضروريًا.

كما أن مسارات الذكاء الاصطناعي معقدة، وغالبًا ما تتضمن أنواعًا مختلفة من البيانات والمعالجة في الوقت الفعلي وتكامل الأنظمة. ويبذل المطورون جهدًا كبيرًا لضمان تفاعل نماذجهم بسلاسة مع منظومات البرمجيات القائمة. ويُعد التغلب على هذه التحديات جزءًا أساسيًا من جعل عمليات نشر الذكاء الاصطناعي أكثر كفاءة وقابلية للتوسع.

الشكل 2. تحديات نشر النماذج.

تبسيط النشر باستخدام NVIDIA Triton Inference Server#

بعد ذلك، وجّه Guy Dahan اهتمامه إلى Triton Inference Server من NVIDIA. وأشار إلى أن العديد من الشركات والشركات الناشئة تبدأ تطوير الذكاء الاصطناعي دون تحسين نماذجها بالكامل. وقد تكون إعادة تصميم مسار ذكاء اصطناعي كامل من الصفر عملية مربكة وتستغرق وقتًا طويلًا، مما يصعّب التوسع بكفاءة.

بدلًا من اشتراط إجراء إصلاح شامل للنظام، يتيح Triton للمطورين تحسين مسارات عمل الذكاء الاصطناعي وصقلها تدريجيًا، مع دمج مكونات أكثر كفاءة دون تعطيل إعدادهم الحالي. وبفضل دعمه لأطر ذكاء اصطناعي متعددة، بما في ذلك TensorFlow وPyTorch وONNX وTensorRT، يتيح Triton نشرًا سلسًا عبر البيئات السحابية ومراكز البيانات والأجهزة الطرفية مع إجراء تعديلات طفيفة.

الشكل 3. نظرة عامة على Triton Inference Server من NVIDIA.

فيما يلي بعض المزايا الرئيسية لـ Triton Inference Server من NVIDIA:

• التجميع التلقائي: يجمع Triton طلبات ذكاء اصطناعي متعددة معًا قبل معالجتها، مما يقلل التأخيرات (زمن الاستجابة) ويحسن سرعة الاستدلال (الوقت الذي يستغرقه نموذج الذكاء الاصطناعي لإنشاء النتائج).
• التكامل مع Kubernetes: Triton أصيل سحابيًا، أي إنه يعمل بسلاسة مع Kubernetes (نظام يساعد على إدارة تطبيقات الذكاء الاصطناعي وتوسيع نطاقها عبر أجهزة كمبيوتر أو خوادم سحابية متعددة).
• مفتوح المصدر وقابل للتخصيص: يستطيع المطورون تعديل Triton ليلائم احتياجاتهم الخاصة، مما يضمن المرونة لمجموعة واسعة من تطبيقات الذكاء الاصطناعي.

تعظيم أداء الذكاء الاصطناعي باستخدام NVIDIA TensorRT#

لنفترض أنك تبحث عن تسريع أكبر؛ يُعد NVIDIA TensorRT خيارًا مثيرًا للاهتمام لتحسين نماذج الذكاء الاصطناعي لديك. أوضح Guy Dahan بالتفصيل أن TensorRT مُحسِّن للتعلم العميق عالي الأداء، صُمم لوحدات GPU من NVIDIA. ويمكن تحويل النماذج من TensorFlow وPyTorch وONNX وMXNet إلى ملفات عالية الكفاءة قابلة للتنفيذ على GPU باستخدام TensorRT.

ما يجعل TensorRT موثوقًا إلى هذا الحد هو تحسيناته الخاصة بالأجهزة. فلن يعمل نموذج مُحسّن لأجهزة Jetson بالكفاءة نفسها على وحدات GPU أخرى، لأن TensorRT يضبط الأداء بدقة استنادًا إلى الأجهزة المستهدفة. ويمكن لنموذج رؤية حاسوبية مضبوط بدقة أن يحقق زيادة في سرعة الاستدلال تصل إلى 36 ضعفًا مقارنةً بالنماذج غير المحسّنة.

كما لفت Guy Dahan الانتباه إلى دعم Ultralytics لـ TensorRT، موضحًا كيف يجعل ذلك نشر نماذج الذكاء الاصطناعي أسرع وأكثر كفاءة. ويمكن تصدير نماذج Ultralytics YOLO مباشرةً إلى تنسيق TensorRT، مما يتيح للمطورين تحسينها لوحدات GPU من NVIDIA دون الحاجة إلى إجراء أي تغييرات.

DeepStream 7.0: حزمة أدوات لتحليلات التدفقات#

وفي ختام حديثه المميز، استعرض Guy Dahan DeepStream 7.0، وهو إطار للذكاء الاصطناعي مصمم لمعالجة بيانات الفيديو والصوت والمستشعرات في الوقت الفعلي باستخدام وحدات GPU من NVIDIA. وقد صُمم لدعم تطبيقات الرؤية الحاسوبية عالية السرعة، ويتيح اكتشاف الأجسام وتعقّبها وتحليلها عبر الأنظمة الذاتية وأنظمة الأمن والأتمتة الصناعية والمدن الذكية. ومن خلال تشغيل الذكاء الاصطناعي مباشرةً على الأجهزة الطرفية، يلغي DeepStream الاعتماد على السحابة، مما يقلل زمن الاستجابة ويحسن الكفاءة.

الشكل 4. استكشاف DeepStream 7.0 في YV24 مع Guy Dahan.

وعلى وجه التحديد، يستطيع DeepStream معالجة الفيديو المدعوم بالذكاء الاصطناعي من البداية إلى النهاية. وهو يدعم مسارات العمل الشاملة، بدءًا من فك ترميز الفيديو والمعالجة المسبقة، ووصولًا إلى استدلال الذكاء الاصطناعي والمعالجة اللاحقة.

قدّم DeepStream مؤخرًا عدة تحديثات لتعزيز نشر الذكاء الاصطناعي، مما جعله أكثر سهولة وقابلية للتوسع. وتعمل الأدوات الجديدة على تبسيط عملية التطوير وتحسين التعقّب باستخدام كاميرات متعددة وتحسين مسارات الذكاء الاصطناعي لتحقيق أداء أفضل.

أصبح لدى المطورين الآن دعم موسّع لبيئات Windows، وقدرات محسّنة لدمج بيانات المستشعرات من مصادر متعددة، وإمكانية الوصول إلى تطبيقات مرجعية مُعدة مسبقًا لتسريع النشر. وتجعل هذه التحسينات DeepStream حلًا أكثر مرونة وكفاءة لتطبيقات الذكاء الاصطناعي في الوقت الفعلي، مما يساعد المطورين على توسيع نطاق تحليلات الفيديو الذكية بسهولة.

أهم النقاط المستخلصة#

وكما أوضحت الكلمة الرئيسية التي ألقاها Guy Dahan في YV24، يعيد الذكاء الاصطناعي الطرفي تعريف تطبيقات الرؤية الحاسوبية. ومع التقدم في الأجهزة والبرمجيات، تصبح المعالجة في الوقت الفعلي أسرع وأكثر كفاءة وأقل تكلفة.

ومع تبني مزيد من الصناعات للذكاء الاصطناعي الطرفي، سيكون التصدي لتحديات مثل التجزؤ وتعقيد النشر أساسيًا لإطلاق إمكاناته الكاملة. وسيؤدي تبني هذه الابتكارات إلى تطوير تطبيقات ذكاء اصطناعي أكثر ذكاءً واستجابةً، مما يسهم في تشكيل مستقبل الرؤية الحاسوبية.

كن جزءًا من مجتمعنا المتنامي! استكشف مستودعنا على GitHub لمعرفة المزيد عن الذكاء الاصطناعي، واطّلع على خيارات الترخيص لدينا لبدء مشاريع ذكاء اصطناعي للرؤية. هل تثير فضولك ابتكارات مثل الذكاء الاصطناعي في الرعاية الصحية والرؤية الحاسوبية في التصنيع؟ تفضل بزيارة صفحات حلولنا لمعرفة المزيد!