مقارنة بين نشر رؤية الحاسوب عبر السحابة المُدارة والنشر المُستضاف ذاتياً

عادة ما يكون النشر السحابي المُدار الطريقة الأسرع لإطلاق خدمة رؤية حاسوبية. وعادة ما يكون الاستضافة الذاتية الخيار الأفضل عندما تكون زمن الانتقال، أو حدود البيانات، أو التحكم في البنية التحتية متطلبات أساسية صعبة. الجزء الصعب هو أن الفرق غالباً ما تقارن بين الاثنين قبل تحديد أي جزء من النظام ترغب في التحكم فيه.

يحتوي تطبيق الرؤية على أربعة مواقع على الأقل يجب اتخاذ قرار بشأنها: مكان تخزين الصور، مكان تدريب النماذج، مكان تشغيل الاستدلال، ومكان تشغيل التطبيق المحيط. لا يجب أن تتطابق تلك القرارات. يمكن للفريق الاحتفاظ بالصور المصدرية والتدريب على بنيته التحتية الخاصة، وتشغيل الاستدلال على أجهزة الحافة، ومع ذلك استخدام منصة مُدارة لتتبع التجارب وإدارة النماذج.

تدعم نماذج Ultralytics YOLO هذا النوع من سير العمل القابل للنقل. يمكن لمنصة Ultralytics إدارة البيانات ودورة حياة التدريب، بينما يمكن تشغيل النماذج المُصدّرة على البنية التحتية التي تناسب التطبيق. لذلك لا يكون الخيار الصحيح دائماً سحابياً أو مستضافاً ذاتياً. غالباً ما يكون هجيناً مع حد صريح لكل مكون.

النشر السحابي المُدار مقابل الاستضافة الذاتية في لمحة#

اختر السحابة المُدارة عندما تكون السرعة والطلب المتغير والفريق الهندسي الصغير هي الأهم. اختر الاستضافة الذاتية عندما يجب أن يبقى عبء العمل داخل بيئة خاضعة للرقابة أو يجب أن يستمر الاستدلال بدون اتصال بشكة الإنترنت. اختر الهجين عندما تكون للبيانات والتدريب والاستدلال متطلبات مختلفة.

ما تعنيه السحابة المُدارة للرؤية الحاسوبية#

في النشر المُدار، يقوم المزود بتشغيل بعض أو كل البنية التحتية الكامنة وراء تقديم النماذج. يوفر الفريق نموذجاً أو يختار نموذجاً مُداراً، ويقوم بتكوين نقطة نهاية، ويدفع مقابل الموارد أو الطلبات التي تستهلكها.

قد يتعامل المزود مع توفير نقاط النهاية، وفحوصات السلامة، والتوسع التلقائي، والتحديثات لطبقة التقديم، والتكامل مع حزمة المراقبة الخاصة به. هذا يزيل قدراً كبيراً من عمل المنصة، ولكنه لا يزيل مسؤولية التطبيق. لا يزال الفريق يمتلك جودة النموذج، والتحقق من صحة المدخلات، ومنطق الأعمال، وسياسات الوصول، والقرار بشأن الصور المسموح لها بالوصول إلى الخدمة.

تكون السحابة المُدارة أقوى عندما يتغير حركة المرور بشكل كبير بمرور الوقت، وتستخدم المؤسسة تلك السحابة بالفعل، وتتناسب رحلة شبكة الإنترنت الذهاب والإياب مع ميزانية زمن الانتقال. كما أنها مفيدة أثناء مرحلة تجريبية، عندما يؤدي شراء وتشغيل أسطول وحدات معالجة رسومية مخصص إلى تحميل التكاليف مقدماً قبل فهم عبء العمل.

التضحية هي الاعتماد على نموذج نقطة النهاية للمزود، والمناطق، والحصص، وهيكل التسعير. الخدمة التي تكون رخيصة بحجم تجريبي يمكن أن تصبح أعلى تكلفة إنتاجية إذا قامت كل كاميرا بإرسال كل إطار إلى السحابة.

ما تعنيه الاستضافة الذاتية للرؤية الحاسوبية#

تعني الاستضافة الذاتية أن المؤسسة تدير بنية التحتية لتقديم الخدمات. يمكن أن يكون ذلك خادماً في مركز بيانات، أو مجموعة Kubernetes، أو حاسوباً صناعياً بجوار خط إنتاج، أو جهازاً مدمجاً متصلاً بكاميرا.

تتحكم المؤسسة في المكان الذي تتدفق فيه البيانات ومتى تتغير البرمجيات. كما أنها تمتلك تخطيط السعة، وبرامج تشغيل وحدات معالجة الرسوميات، وتوافق وقت التشغيل، ونشر النماذج، والمراقبة، وتحديثات الأمان، والنسخ الاحتياطي والاسترداد. عبارة "تعمل على أجهزتنا" ليست نموذج تشغيل حتى يكون لكل مهمة من تلك المهام مالك.

تكون الاستضافة الذاتية أقوى عندما يجب أن يستمر الاستدلال دون اتصال بالإنترنت، أو لا يمكن للصور مغادرة الموقع، أو يجعل عبء العمل المتوقع عالي الحجم الحوسبة المخصصة اقتصادية. كما أنها الخيار الطبيعي للتطبيقات التي يجب أن تعود فيها النتيجة ضمن ميزانية زمن الانتقال التي لا تستطيع رحلة السحابة الذهاب والإياب تلبيتها.

التضحية هي العمق التشغيلي. الحاوية العاملة على وحدة معالجة رسومية واحدة ليست مثل خدمة الإنتاج الموثوقة عبر العديد من المواقع.

قارن التكلفة الحقيقية#

لا تقارن سعر طلب نقطة النهاية السحابية سعر شراء خادم. قارن النظام بأكمله خلال نفس الفترة وعبء العمل.

بالنسبة للسحابة المُدارة، قم بتضمين:

• حوسبة الاستدلال وأي سعة دنيا مزودة؛
• التخزين ونقل البيانات؛
• المراقبة، والتسجيل، والعناصر المحتفظ بها؛
• نقاط نهاية التطوير والمرحلة؛
• الموارد الخاملة التي تبقى نشطة بين الفترات؛ و
• وقت الهندسة لتكامل الخدمات والتحكم في التكاليف.

بالنسبة للاستضافة الذاتية، قم بتضمين:

• الخوادم، وأجهزة الحافة، والمسرعات، والسعة الاحتياطية؛
• التثبيت، والطاقة، والتبريد، والوصول إلى الموقع؛
• التنسيق، والمراقبة، وبنية التحتية للتحديث؛
• وقت الموظفين لبرامج التشغيل، وأوقات التشغيل، والأمان، والحوادث؛
• الأجهزة البديلة والدعم؛ و
• السعة المحتفظ بها لذروات الأحمال أو الفشل.

يغير شكل عبء العمل الإجابة. السحابة جذابة للطلب غير المؤكد أو المتقطع لأنه يمكن إضافة السعة دون شراء أجهزة. تصبح البنية التحتية المخصصة أكثر جاذبية عندما يكون الاستخدام مرتفعاً ويمكن التنبؤ به، شريطة أن تمتلك المؤسسة بالفعل الأشخاص لتشغيلها.

قارن زمن الانتقال وعرض النطاق الترددي#

أعباء عمل الرؤية الحاسوبية حساسة بشكل غير معتاد لحركة البيانات. الصور والفيديو أكبر بكثير من حمولات API العادية، ويمكن للكاميرا توليد إطارات أكثر مما يحتاج التطبيق لتحليله.

ابدأ بميزانية زمن الانتقال الشاملة للتطبيق. قم بتضمين الالتقاط، والترميز، ونقل الشبكة، والاصطفاف، والاستدلال، والوقت اللازم لتسليم القرار مرة أخرى إلى الآلة أو المستخدم. إذا كان القرار يتحكم في روبوت، أو خط إنتاج، أو تنبيه أمان، فقد يكون الاستدلال المحلي مطلوباً حتى لو ظلت إدارة النموذج في السحابة.

عراض النطاق الترددي هو قيد منفصل. إرسال فيديو مستمر إلى نقطة نهاية بعيدة يمكن أن يهيمن على التكلفة ويفشل عندما يكون الاتصال غير مستقر. يمكن لنظام الحافة تشغيل الاستدلال محلياً وإرسال الأحداث، أو البيانات الوصفية، أو الإطارات المختارة فقط إلى المنبع.

قارن الخصوصية وحدود البيانات#

"في الموقع" و"خاص" ليست مرادفات. يمكن أن يظل النظام المستضاف ذاتياً مؤمناً بشكل سيء، ويمكن للخدمة المُدارة توفير ضوابط قوية. يبدأ القرار بخريطة البيانات:

• أين يتم التقاط وتخزين الصور المصدرية؛
• ما إذا كانت الصور المشتقة أو المقتطعة تغادر الموقع؛
• أين يتم تخزين التسميات والتعليقات التوضيحية؛
• أي عناصر نموذجية تشفر المعلومات المستفادة من البيانات؛
• أي موظفين وأنظمة يمكنهم الوصول إلى كل طبقة؛ و
• المدة التي يتم فيها الاحتفاظ بسجلات السجلات، والطلبات، والمخرجات.

يوضح تكامل On Premise من منصة Ultralytics لماذا يجب أن يكون الحد محددًا. تبقى بكسلات مجموعة البيانات المصدرية والمشتقة على الكمبيوتر المتصل للاستيعاب والمعاينة والتدريب. يتم تخزين الفئات والتسميات والتعليقات التوضيحية كبيانات وصفية للمنصة، وتتدفق مقاييس التدريب إلى المنصة، ويتم تحميل أفضل نقطة تفتيش لسير العمل لاحقًا. يحافظ هذا التصميم على وحدات بكسل مجموعة البيانات محلية دون الادعاء بأن كل قطعة أثرية تبقى محلية.

راجع توثيق Ultralytics Platform On Premise الحالي مقابل متطلبات المؤسسة قبل التعامل معه كتحكم في الامتثال.

قارن التوسع والموثوقية#

يمكن للمنصات المُدارة تقليل العمل اللازم لإضافة سعة نقاط النهاية، ولكن التوسع التلقائي ليس فورياً ولدى كل خدمة حدود. قم بقياس بدايات الباردة، وسلوك الطوابير، والسعة المتاحة في المنطقة المطلوبة.

يتطلب التوسع المستضاف ذاتياً هندسة متعمدة. يقرر الفريق كيفية حزم النماذج، وكيفية موازنة الطلبات، وكيفية جدولة وحدات معالجة الرسوميات، وما يحدث عندما يفشل عقدة. يمكن لـ Kubernetes المساعدة في تنسيق تلك البنية التحتية، ولكنه لا يقرر عدد النسخ المتماثلة الصحيح، أو سياسة النشر، أو هدف زمن الانتقال.

بالنسبة لأساطيل الحافة، تتضمن الموثوقية أكثر من وقت تشغيل نقطة النهاية. قد تفقد الأجهزة الاتصال، وتعمل على مراجعات أجهزة مختلفة وتفوت التحديثات. يحتاج خط إنتاج إلى إصدار النماذج، والنشر المرحلي، والرجوع للخلف، وريقة لتشخيص الأعطال دون زيارة كل موقع.

ثلاثة أنماط نشر عملية#

التدريب المُدار والاستدلال المُدار#

استخدم هذا النمط عندما يريد الفريق أقصر طريق من مجموعة بيانات إلى نقطة نهاية ويكون زمن الانتقال السحابي مققبولاً. إنه يقلل من ملكية البنية التحتية ويناسب التطبيقات التجريبية، والادوات الداخلية، والخدمات ذات الطلب المتغير.

الضوابط الرئيسية هي حدود التكاليف، والتعامل مع البيانات الإقليمية، والوصول إلى نقطة النهاية، ومسار التصدير إذا كان يجب أن تنتقل الخدمة لاحقاً.

التدريب المُدار والاستدلال المستضاف ذاتياً#

استخدم هذا النمط عندما تبسط حوسبة السحابة تطوير النموذج ولكن يجب تشغيل الاستدلال محلياً. قم بالتدريب والتقييم في البيئة المُدارة، وقم بتصدير نموذج مختبر، ونشره على الحافة أو مركز البيانات.

هذا النمط شائع في التصنيع والروبوتات لأن تكرار النماذج يستفيد من حوسبة السحابة بينما لا يمكن لقرارات الإنتاج الاعتماد على رحلة شبكة ذهاباً وإياباً.

البيانات المحلية والتدريب باستخدام أدوات دورة الحياة المُدارة#

استخدم هذا النمط عندما يجب أن تبقى بيانات المصدر على بنية تحتية خاضعة للرقابة ولكن الفريق لا يزال يريد واجهة مشتركة للتعليقات التوضيحية، والمقاييس، وإدارة النماذج. تم تصميم Ultralytics Platform On Premise لهذا الانقسام: تظل بكسلات مجموعة البيانات وحوسبة التدريب على الكمبيوتر المتصل بينما تتصل البيانات الوصفية المحددة، والمقاييس، ونقطة التفتيش المكتملة بالمنصة.

وثّق الحدود بلغة تشغيلية. اذكر ما يظل محلياً، وما يتم تحميله، وأي مسارات عمل سحابية تعالج الصور المقدمة بشكل منفصل.

مسار قرار لأعباء العمل الشائعة#

فحص المصنع. فضل الاستدلال المحلي أو على الحافة عندما يجب أن توقف النتيجة أو تحول جزءاً بسرعة الخط. لا يزال التدريب المُدار منطقياً.

تحليلات التجزئة أو المرافق. استخدم المعالجة المسبقة للحافة عندما يجعل الفيديو المستمر عرض النطاق الترددي أو الخصوصية صعبة. أرسل الأحداث أو الإطارات المختارة إلى السحابة حيثما كان ذلك مناسباً.

تحليل الصور المجمعة. غالباً ما تكون السحابة المُدارة مناسبة عندما لا يكون زمن الانتقال تفاعلياً وتصل الوظائف دفعات.

المواقع المعزولة هوائياً أو المتصلة بشكل متقطع. استضف ذاتياً وقت التشغيل الكامل المطلوب للاستدلال والعمليات. لا تجعل مستوى التحكم السحابي جزءاً من المسار الحرج.

واجهة برمجة تطبيقات الرؤية الموجهة للمطورين. يمكن لننقاط النهاية المُدارة تقليل وقت الإطلاق، خاصة أثناء عدم تأكد حركة المرور. صمم حدود الطلبات، والمراقبة، ومسار الخروج قبل أن ينمو الحجم.

خطط للخروج قبل النشر#

لا يُثبت قابلية النقل بتنزيل ملف نموذج. اختبر المسار الكامل:

1. تصدير النموذج إلى بيئة تشغيل تدعمها الأجهزة المستهدفة.
2. إعادة إنتاج المعالجة المسبقة والمعالجة اللاحقة خارج الخدمة الأصلية.
3. التحقق من تكافؤ المخرجات على مجموعة اختبار ثابتة.
4. إعادة إنشاء إجراءات المراقبة، والتحكم في الوصول، والنشر.
5. قياس زمن الانتقال واستخدام الموارد في بيئة الوجهة.
6. توثيق كيفية انتقال البيانات، والتسميات، وإصدارات النماذج، وسجلات التدقيق.

هذا التمرين يحسن أيضاً عملية النشر الحالية. فهو يكشف عن الاعتماديات الخفية قبل أن تفرض انقطاعاً في الخدمة، أو تغييراً في الأسعار، أو متطلبات بيانات جديدة ترحيلاً متسرعاً.