FinOps for AI
يربط FinOps للذكاء الاصطناعي تكاليف أعباء العمل بالقيمة التجارية، ما يساعد الفرق على تخصيص الإنفاق وتحسين استخدام الحوسبة وقياس التكلفة لكل نتيجة مفيدة.
FinOps للذكاء الاصطناعي هو نهج لإدارة الإنفاق على الذكاء الاصطناعي من خلال الربط بين استخدام الموارد والتكاليف والقيمة التجارية. ويجمع فرق الشؤون المالية والهندسة وعلوم البيانات والمنتجات لفهم تكلفة أعباء عمل الذكاء الاصطناعي، وتحديد المسؤولية المالية، وتحسين القيمة المقدمة مقابل كل دولار. ويشمل نطاقه تدريب النماذج والاستدلال—أي استخدام النماذج المدرَّبة لتوليد التنبؤات—إلى جانب البيانات والبنية التحتية والخدمات الداعمة.
كيف يغيّر الذكاء الاصطناعي FinOps السحابي#
توسّع أعباء عمل الذكاء الاصطناعي نطاق إدارة تكاليف الحوسبة السحابية المألوفة لتشمل الأجهزة المتخصصة والتجارب ومتطلبات جودة النماذج. يستهلك التدريب وقت GPU عبر تجارب متكررة، بينما يؤدي تقديم النماذج إلى تكاليف إنتاج مستمرة. وكثيرًا ما تُحاسب النماذج اللغوية الكبيرة المستضافة بحسب عدد الرموز الواردة والصادرة، وهي وحدات النص التي يعالجها النموذج. وتزيد البنية التحتية المشتركة وأحجام الطلبات المتغيرة من صعوبة توزيع التكاليف والتنبؤ بها.
يطبّق إطار FinOps للذكاء الاصطناعي مبادئ توزيع التكاليف والتنبؤ والتحسين والمساءلة المالية على أعباء العمل هذه. ويعني الذكاء الاصطناعي من أجل FinOps استخدام الذكاء الاصطناعي لتنفيذ مهام الإدارة المالية، مثل اكتشاف الحالات الشاذة في الإنفاق. وتتولى MLOps إدارة دورة حياة النموذج التشغيلية؛ ويضيف FinOps المسؤولية المالية وقياس القيمة إلى القرارات المتخذة خلال دورة الحياة.
كيف تعمل دورة FinOps#
يتبع FinOps ثلاث مراحل متكررة: الإبلاغ، لإظهار الاستخدام والتكاليف؛ والتحسين، لتحسين استهلاك الموارد وعمليات الشراء؛ والتشغيل، لترسيخ المسؤولية والميزانيات والضوابط. وتعود النتائج إلى عملية القياس مع تغير أعباء العمل. وتوفر فرق الشؤون المالية الميزانيات والخبرة في المشتريات، وينفذ المهندسون تغييرات الموارد، ويحدد مالكو المنتجات النتائج التي تبرر الإنفاق.
تجمع أدوات FinOps بيانات الفوترة مع بيانات قابلية الملاحظة، مثل أعداد الطلبات واستخدام الرموز ومعدل الاستفادة من GPU ومدد التدريب. وتربط معرّفات المشروعات ووسوم الموارد الإنفاق بالفرق أو المنتجات. ويعرض تقرير توزيع التكاليف التكاليف المخصصة لكل فريق؛ أما تحصيل التكاليف فيحمّل تلك التكاليف على ميزانية الفريق. وتتطلب نقاط النهاية المشتركة توزيعًا قائمًا على الاستخدام، لأن عدة تطبيقات قد تستهلك البنية التحتية نفسها.
تطبّق منصة Ultralytics هذه المبادئ من خلال التدريب السحابي: إذ تقدّر المدة والتكلفة استنادًا إلى النموذج المحدد ومجموعة البيانات وإعدادات التدريب وGPU قبل بدء التدريب، ثم تحاسب على وقت GPU الفعلي. ويربط ذلك تخطيط التجارب بالاستهلاك المقاس لموارد الحوسبة.
قياس التكلفة لكل نتيجة مفيدة#
تعبّر اقتصاديات الوحدة عن الإنفاق لكل وحدة عمل أو مخرَج تجاري. وتشمل مقاييس البنية التحتية التكلفة لكل ساعة GPU والتكلفة لكل ألف تنبؤ. أما مقاييس الأعمال فتربط هذا الإنفاق بالمهام المنجزة أو المخرجات المقبولة أو طلبات العملاء التي تمت معالجتها. ويجعل استخدام حد موحد للتكاليف المقارنات ذات معنى؛ فتتضمن تكلفة التقديم وحده ونفقات دورة الحياة الكاملة بنودًا مختلفة.
في الرؤية الحاسوبية، يعتمد حجم الاستدلال على عدد الكاميرات والإطارات التي يجري تحليلها في الثانية ومدة التشغيل. ولـالفحص البصري أيضًا مهلة معالجة: إذ يجب أن تصل التنبؤات قبل وصول القطعة إلى آلية الرفض. لذلك تأخذ مقارنات التكلفة في الحسبان زمن استجابة الاستدلال وجودة المهمة إلى جانب معدل الإنتاجية.
تشمل التكلفة الإجمالية للملكية وسم البيانات والتكامل والأجهزة والتخزين والشبكات والتشغيل والصيانة. وتشمل عمليات النشر السحابية السعة المخصصة غير المستخدمة؛ أما عمليات نشر الحوسبة الطرفية فتشمل اقتناء الأجهزة واستهلاك الطاقة وإدارة أسطول الأجهزة واستبدالها. وتحدد هذه التكاليف اقتصاديات تشغيل عبء العمل نفسه عبر بُنى مختلفة.
أساليب التحسين وآثارها التشغيلية#
يجمع تحسين تكاليف الذكاء الاصطناعي وتعلّم الآلة بين خيارات البنية التحتية وهندسة النماذج. وتلائم مواءمة الموارد الأجهزة مع متطلبات عبء العمل، ويعدّل التحجيم التلقائي السعة وفقًا للطلب، وتحدّ خطوط الأنابيب المؤتمتة من تكرار المعالجة. ويقلل تكميم النماذج الدقة العددية، بينما ينقل تقطير المعرفة السلوك المتعلَّم إلى نموذج أصغر. ويتتبّع تقييم الجودة ومراقبة النماذج الآثار التشغيلية لهذه التغييرات.
يوفر شراء موارد التدريب وسيلة أخرى للتحسين. يشغّل Amazon SageMaker AI Managed Spot Training مهام التدريب على سعة حوسبة فائضة بأسعار مخفّضة. وتؤدي انقطاعات السعة إلى إطالة مدة الإنجاز، لذا يصبح حفظ نقاط التحقق مهمًا للحفاظ على العمل المنجز. وينسخ SageMaker نقاط التحقق المحفوظة إلى Amazon S3 ويستعيدها عند إعادة تشغيل مهمة تدريب متوقفة، ما يتيح استئناف التدريب من آخر نقطة تحقق.
