Model Card

بطاقة النموذج هي مستند منظم يوضح ما يفعله نموذج الذكاء الاصطناعي أو التعلم الآلي، وكيف تم تطويره وتقييمه، وحيث يجب استخدامه، والقيود أو المخاطر التي يجب على المستخدمين إدراكها. وهي بمثابة ورقة معلومات عملية للمطورين، والمراجعين، والجهات الناشرة، وأصحاب المصلحة المتأثرين، مما يدعم الشفافية في الذكاء الاصطناعي دون الحاجة إلى الوصول إلى الكود المصدر أو تفاصيل النموذج الداخلية. في هذا السياق، لا علاقة بطاقة النموذج بـ "بطاقة العرض" الخاصة بعارضة الأزياء، والتي تعد بمثابة محفظة مهنية.

محتويات بطاقة النموذج#

تجمع بطاقة النموذج المفيدة بين الأدلة التقنية والإرشادات بلغة واضحة. يجب أن يعكس عمقها تأثير النموذج: فقد يحتاج مصنف الصور التجريبي إلى بطاقة قصيرة، بينما يتطلب النموذج المؤثر في قرارات الرعاية الصحية أو المالية توثيقاً أكثر تفصیلًا.

تشمل المكونات الشائعة ما يلي:

• الغرض، والملكية، والإصدار: تحدد النموذج، والفريق المسؤول، وإصدار الإصدار، والمهمة، ومدخلات ومخرجات المدعومة، ومعلومات الاتصال أو الصيانة.
• بيانات التدريب وسياق التطوير: تصف مصادر البيانات، وظروف جمعها، وممارسات وضع العلامات، والمعالجة المسبقة، وهندسة النموذج، وإجراءات التدريب، والافتراضات المهمة. يمكن تلخيص البيانات الحساسة أو المملوكة دون الكشف عنها.
• التقييم ومقاييس الأداء: تعرض المقاييس على مجموعات بيانات التحقق أو الاختبار المحددة بوضوح. بالنسبة لاكتشاف الكائنات، قد تشمل هذه الدقة، والاسترجاع، ومتوسط دقة المتوسط، وتأخير الاستدلال، والنتائج للفئات الفردية أو المجموعات الفرعية ذات المعنى للبيانات.
• الاستخدامات المقصودة والاستثناءات: تشوضح التطبيقات المناسبة، وظروف التشغيل المتوقعة، والرقابة البشرية المطلوبة، والسيناريوهات التي لم يُصمم النموذج من أجلها.
• القيود والمخاطر: توثق أوضاع الفشل المعروفة، وعدم اليقين، ومخاوف الخصوصية، واعتبارات الأمان، وتحيز مجموعة البيانات المحتمل. يجب أن توضح أيضًا العواقب المحتملة للتنبؤات غير الصحيحة.

توفر وثائق بطاقات نماذج Amazon SageMaker مثالاً على سجل دورة حياة منظم يغطي الاستخدام المقصود، وتفاصيل التدريب، والتقييم، وتقييمات المخاطر، والتوصيات. تُظهر المجموعات العامة مثل بطاقات نماذج Google DeepMind كيف يمكن للبطاقات توصيل القدرات، وتقييمات الأمان، والقيود إلى جمهور أوسع.

لماذا تعتبر بطاقات النموذج مهمة#

تساعد بطاقات النموذج الفرق على اتخاذ قرارات مستنيرة قبل اعتماد النموذج أو نشره. قد يخفي مقياس العنوان الرئيسي المثير للإعجاب أداءً ضعيفاً على الفئات النادرة، أو البيئات غير المعتادة، أو مجموعات المستخدمين المحددة. من خلال توثيق مجموعة بيانات التقييم، وظروف الاختبار، والنتائج لكل مجموعة، تمنح البطاقة القارئ السياق اللازم لتفسير هذه الأرقام.

وهي تدعم أيضاً الحوكمة والمساءلة. يؤكد إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتكنولوجيا (NIST) على إدارة الجدارة بالثقة طوال دورة حياة الذكاء الاصطناعي، بينما تدعو مبدأ الشفافية وقابلية التفسير لمنظمة التعاون الاقتصادي والتنمية (OECD) إلى معلومات هادفة حول قدرات الذكاء الاصطناعي وقيوده. توفر بطاقات النموذج أداة عملية لهذه الأهداف.

داخل المؤسسات، تحسن البطاقات عمليات التسليم بين علماء البيانات، وفرق المنتجات، ومراجعي الامتثال، ومهندسي العمليات. توسع الأنظمة مثل حقائق IBM AI Factsheets هذا النهج من خلال جمع البيانات الوصفية للنموذج عبر التطوير، والموافقة، والنشر، والمراقبة.

الوثائق ذات الصلة والاختلافات الرئيسية#

تخدم عدة عناصر ذات صلة أغراضاً مختلفة:

• بطاقات البيانات: توصف أصل مجموعة البيانات، وتكوينها، وعملية جمعها، وشروط الوصول إليها، والاستخدامات المقصودة، والقيود. تركز بطاقة النموذج على النموذج المدرب، رغم أنه يجب أن يشير إلى وثائق مجموعة البيانات ذات الصلة.
• سجل النماذج: يخزن ويدير أصول النموذج، والإصدارات، والأصل، وحالة النشر. يوضح سير عمل سجل نماذج MLflow هذا الدور التشغيلي. تنقل بطاقة النموذج المعنى والمخاطر؛ ويدير السجل أصول النموذج. يمكن ربط الاثنين.
• بطاقة النظام: توثق نظام ذكاء اصطناعي بأكمله، والذي قد يتضمن نماذج متعددة، وموجهات، ومكونات استرجاع، وضمانات، واجهات، وعمليات بشرية. بطاقة النموذج لها نطاق أضيق على مستوى النموذج.
• تقرير قابلية التفسير: يفحص سبب إنتاج النموذج لمخرجات معينة. تلخص بطاقة النموذج السلوك العام والقيود ولكنها لا تحل محل تفسيرات مستوى التنبؤ.

تطبيقات العالم الحقيقي#

• الفحص البصري للتصنيع: قد تنشر المصانع نموذج رؤية حاسوبية لـاكتشاف العيوب. يمكن لبطاقة النموذج سرد فئات العيوب المدعومة، وموضع الكاميرا، وافترضات الإضاءة، والأداء للعيوب النادرة، وأصغر أحجام للكائنات، والتأخير على الأجهزة الطرفية. إذا فاتتنا الخدوش بشكل متكرر تحت الإضاءة العاكسة، فإن توثيق هذا القيد يساعد المشغلين على مطالبة المراجعة اليدوية أو جمع صور تدريب إضافية.

• دعم التصوير السريري: يمكن لبطاقة نموذج التصوير الطبي تحديد أنواع المسح، والمعدات، وسقوف المرضى، والمؤسسات الممثلة أثناء التقييم. يمكنها الإبلاغ عن أداء المجموعات الفرعية وتوضيح أن المخرجات تساعد الأطباء المؤهلين بدلاً من تحديد التشخيصات بشكل مستقل. قد يؤدي نقص هذا السياق إلى استخدام المستشفيات للنموذج على معدات أو مجموعات سكانية غير مدعومة، مما يزيادة خطر التوصيات غير الموثوقة.

تُصادف بطاقات النماذج أيضاً عند اختيار نماذج الطرف الثالث. على سبيل المثال، توصف وثائق كتالوج نماذج Microsoft Foundry البطاقات التي تحتوي على تفاصيل النموذج، والمعايير، وأنواع البيانات المدعومة، والتراخيص، ومعلومات النشر.

إنشاء بطاقة النموذج والحفاظ عليها#

ابدأ بطاقة المشروع أثناء التخطيط بدلاً من بعد النشر. سجل الأدلة أثناء إنتاجها، بما في ذلك إصدارات مجموعة البيانات، وإعدادات التدريب، وظروف التتقييم، وقرارات المراجعين. بالنسبة لنموذج اكتشاف الكائنات Ultralytics YOLO26، يمكن لـسير عمل التحقق الموثق توليد مقاييس لقسم التقييم:

from ultralytics import YOLO

# Load the documented model version
model = YOLO("yolo26n.pt")

# Evaluate it on a labeled validation dataset
metrics = model.val(data="coco8.yaml")

# Record these results with the dataset and test conditions
print(f"mAP50-95: {metrics.box.map:.3f}")
print(f"mAP50: {metrics.box.map50:.3f}")
print(f"mAP75: {metrics.box.map75:.3f}")

هذه القيم ذات معنى فقط عندما تكون مصحوبة بإصدار النموذج، ومجموعة البيانات، والتقسيم، وحجم الصورة، والأجهزة، وتكوين التقييم. يمكن للفرق استخدام منصة Ultralytics لتعليق مجموعات البيانات، وتتبع عمليات التدريب، ونشر النماذج، ومراقبة النقاط النهائية مع الحفاظ على الأدلة اللازمة لتحديث البطاقة.

يجب أن تكون بطاقة النموذج وثيقة حية ومصدرة. قم بتحديثها كلما تغير النموذج، أو مجموعة البيانات، أو عملية التقييم، أو بيئة النشر، أو القيود المعروفة. الأهم من ذلك كله، اكتب للأشخاص الذين يقررون ما إذا كان ينبغي استخدام النموذج وكيفية استخدامه - وليس فقط للفريق الذي قام بتدريبه.