Model Card

بطاقة النموذج وثيقة منظّمة تشرح وظيفة نموذج الذكاء الاصطناعي أو تعلّم الآلة، وكيفية تطويره وتقييمه، ومجالات استخدامه، والقيود أو المخاطر التي ينبغي للمستخدمين معرفتها. وهي بمثابة ورقة معلومات عملية للمطورين والمراجعين والقائمين على النشر وأصحاب المصلحة المتأثرين، وتدعم الشفافية في الذكاء الاصطناعي دون الحاجة إلى الوصول إلى الشيفرة المصدرية أو البنية الداخلية للنموذج. وفي هذا السياق، لا علاقة لبطاقة النموذج بـ«بطاقة التعريف» الخاصة بعارضات الأزياء، التي تُعدّ ملفًا مهنيًا.

ما الذي تتضمنه بطاقة النموذج#

تجمع بطاقة النموذج المفيدة بين الأدلة التقنية والإرشادات الواضحة. وينبغي أن يتناسب مستوى تفصيلها مع أثر النموذج: فقد لا يحتاج مصنّف صور تجريبي إلا إلى بطاقة موجزة، بينما يتطلب النموذج الذي يؤثر في القرارات الصحية أو المالية توثيقًا أكثر تفصيلًا.

تشمل المكونات الشائعة ما يلي:

• الغرض والملكية والإصدار: تحدد النموذج والفريق المسؤول وإصدار النشر والمهمة والمدخلات والمخرجات المدعومة ومعلومات التواصل أو الصيانة.
• بيانات التدريب وسياق التطوير: تصف مصادر البيانات وظروف جمعها وممارسات وسمها والمعالجة المسبقة وبنية النموذج وإجراء التدريب والافتراضات المهمة. ويمكن تلخيص البيانات الحساسة أو الخاصة دون الإفصاح عنها.
• التقييم ومقاييس الأداء: تعرض المقاييس على مجموعات بيانات تحقق أو اختبار محددة بوضوح. وبالنسبة إلى اكتشاف الأجسام، قد تشمل هذه المقاييس الدقة والاستدعاء ومتوسط الدقة المتوسط وزمن استدلال النموذج والنتائج لكل فئة على حدة أو لمجموعات فرعية ذات دلالة من البيانات.
• الاستخدامات المقصودة والاستثناءات: تشرح التطبيقات المناسبة وظروف التشغيل المتوقعة والإشراف البشري المطلوب والسيناريوهات التي لم يُصمم النموذج لها.
• القيود والمخاطر: توثّق حالات الإخفاق المعروفة وحالات عدم اليقين ومخاوف الخصوصية والاعتبارات الأمنية واحتمال وجود تحيز في مجموعة البيانات. وينبغي أن تذكر أيضًا العواقب المحتملة للتنبؤات غير الصحيحة.

تقدم وثائق بطاقات النماذج في Amazon SageMaker مثالًا على سجل دورة حياة منظّم يغطي الاستخدام المقصود وتفاصيل التدريب والتقييم وتقديرات المخاطر والتوصيات. وتوضح مجموعات عامة مثل بطاقات النماذج لدى Google DeepMind كيف يمكن للبطاقات إيصال القدرات وتقييمات السلامة والقيود إلى جمهور أوسع.

أهمية بطاقات النماذج#

تساعد بطاقات النماذج الفرق على اتخاذ قرارات مستنيرة قبل اعتماد نموذج أو نشره. فقد يخفي مقياس بارز الأداء الضعيف على الفئات النادرة أو البيئات غير المألوفة أو مجموعات مستخدمين محددة. ومن خلال توثيق مجموعة بيانات التقييم وظروف الاختبار والنتائج لكل مجموعة، توفر البطاقة للقراء السياق اللازم لتفسير تلك الأرقام.

كما تدعم بطاقات النماذج الحوكمة والمساءلة. ويؤكد إطار NIST لإدارة مخاطر الذكاء الاصطناعي أهمية إدارة الجدارة بالثقة طوال دورة حياة الذكاء الاصطناعي، بينما يدعو مبدأ الشفافية وقابلية التفسير لدى OECD إلى توفير معلومات مفيدة عن قدرات الذكاء الاصطناعي وقيوده. وتوفر بطاقات النماذج أداة عملية لتحقيق هذه الأهداف.

تحسّن البطاقات داخل المؤسسات تسليم المهام بين علماء البيانات وفرق المنتجات ومراجعي الامتثال ومهندسي العمليات. وتوسّع أنظمة مثل IBM AI Factsheets نطاق هذا النهج، إذ تجمع البيانات الوصفية للنموذج خلال مراحل التطوير والموافقة والنشر والمراقبة.

الوثائق ذات الصلة والفروق الأساسية#

تخدم عدة مستندات ذات صلة أغراضًا مختلفة:

• بطاقات البيانات: تصف مصدر مجموعة البيانات وتركيبها وعملية جمعها وشروط الوصول إليها واستخداماتها المقصودة وقيودها. وتركز بطاقة النموذج على النموذج المدرّب، مع ضرورة الإشارة إلى وثائق مجموعات البيانات ذات الصلة.
• سجل النماذج: يخزّن عناصر النماذج وإصداراتها وتسلسلها ومعلومات النسب بينها وحالة نشرها ويديرها. ويوضح سير عمل سجل النماذج في MLflow هذا الدور التشغيلي. تنقل بطاقة النموذج المعنى والمخاطر، بينما يدير سجل النماذج أصول النماذج. ويمكن ربط الاثنين.
• بطاقة النظام: توثّق نظام ذكاء اصطناعي كاملًا، وقد تشمل نماذج متعددة وموجّهات ومكونات استرجاع وضمانات وواجهات وعمليات بشرية. أما بطاقة النموذج فنطاقها أضيق، إذ تركز على مستوى النموذج.
• تقرير قابلية التفسير: يفحص أسباب إصدار النموذج لمخرجات معينة. وتلخص بطاقة النموذج السلوك العام والقيود، لكنها لا تحل محل تفسيرات التنبؤات الفردية.

تطبيقات في العالم الواقعي#

• الفحص البصري في التصنيع: قد ينشر مصنع نموذج رؤية حاسوبية من أجل اكتشاف العيوب. ويمكن أن تسرد بطاقة النموذج فئات العيوب المدعومة ومواضع الكاميرات وافتراضات الإضاءة والأداء في اكتشاف العيوب النادرة والحد الأدنى لأحجام الأجسام وزمن الاستجابة على الأجهزة الطرفية. فإذا كانت الخدوش لا تُكتشف كثيرًا في ظروف الإضاءة العاكسة، فإن توثيق هذا القيد يساعد المشغلين على طلب مراجعة يدوية أو جمع صور تدريب إضافية.

• دعم التصوير السريري: يمكن لبطاقة نموذج التصوير الطبي تحديد أنواع الفحوصات والأجهزة ومجموعات المرضى والمؤسسات التي شملها التقييم. ويمكنها عرض الأداء حسب المجموعات الفرعية وتوضيح أن المخرجات تساعد الأطباء المؤهلين ولا تحدد التشخيصات بشكل مستقل. وقد يؤدي إغفال هذا السياق إلى استخدام مستشفى للنموذج مع أجهزة أو فئات سكانية غير مدعومة، ما يزيد مخاطر التوصيات غير الموثوقة.

تُستخدم بطاقات النماذج أيضًا عند اختيار نماذج الجهات الخارجية. فعلى سبيل المثال، تصف وثائق كتالوج النماذج في Microsoft Foundry البطاقات التي تتضمن تفاصيل النماذج والمعايير المرجعية وأنواع البيانات المدعومة والتراخيص ومعلومات النشر.

إنشاء بطاقة نموذج وصيانتها#

ابدأ إعداد البطاقة خلال تخطيط المشروع بدلًا من الانتظار إلى ما بعد النشر. وسجّل الأدلة فور إنتاجها، بما في ذلك إصدارات مجموعات البيانات وإعدادات التدريب وظروف التقييم وقرارات المراجعين. وبالنسبة إلى نموذج Ultralytics YOLO26 لاكتشاف الأجسام، يمكن أن يُنتج سير عمل التحقق الموثّق مقاييس لقسم التقييم:

from ultralytics import YOLO

# Load the documented model version
model = YOLO("yolo26n.pt")

# Evaluate it on a labeled validation dataset
metrics = model.val(data="coco8.yaml")

# Record these results with the dataset and test conditions
print(f"mAP50-95: {metrics.box.map:.3f}")
print(f"mAP50: {metrics.box.map50:.3f}")
print(f"mAP75: {metrics.box.map75:.3f}")

لا تكون هذه القيم ذات معنى إلا إذا اقترنت بإصدار النموذج ومجموعة البيانات وتقسيمها وحجم الصورة والأجهزة وإعدادات التقييم. ويمكن للفرق استخدام منصة Ultralytics لوسم مجموعات البيانات وتتبع عمليات التدريب ونشر النماذج ومراقبة نقاط النهاية، مع الاحتفاظ بالأدلة اللازمة لتحديث البطاقة.

ينبغي أن تكون بطاقة النموذج وثيقة متجددة ذات إصدارات. حدّثها كلما تغير النموذج أو مجموعة البيانات أو عملية التقييم أو بيئة النشر أو القيود المعروفة. والأهم من ذلك، اكتب للأشخاص الذين يقررون ما إذا كان ينبغي استخدام النموذج وكيفية استخدامه، لا للفريق الذي درّبه فحسب.