Transparency in AI

تعني الشفافية في الذكاء الاصطناعي الانفتاح بشأن كيفية بناء نظام الذكاء الاصطناعي (AI) وتدريبه وتقييمه واستخدامه، إلى جانب إبلاغ الناس عندما يتعاملون معه. وهي تجيب عن أسئلة تتعلق بالنظام بأكمله: ما البيانات التي دُرّب عليها النموذج، ومن بناه ولأي غرض، ومدى جودة أدائه ولصالح من، وما الاستخدامات التي ينبغي تجنبها، وما إذا كان طرف محادثة أو صورة أو قرار صادرًا عن الذكاء الاصطناعي. وتتيح الشفافية للمستخدمين معايرة ثقتهم، وللمدققين والجهات التنظيمية التحقق من ادعاءات النظام، وللباحثين اكتشاف عيوب مثل التحيز الخوارزمي، ولهذا تدرجها مبادئ منظمة التعاون والتنمية الاقتصادية للذكاء الاصطناعي ومعظم أطر أخلاقيات الذكاء الاصطناعي الأخرى مبدأً أساسيًا.

أشكال الشفافية#

• الإفصاح: يُبلَّغ الناس عندما يتفاعلون مع نظام ذكاء اصطناعي أو يشاهدون محتوى مولدًا بالذكاء الاصطناعي. وتُلزم المادة 50 من قانون الذكاء الاصطناعي للاتحاد الأوروبي، السارية منذ 2 أغسطس 2026، روبوتات المحادثة بتوضيح أن المستخدمين يتحدثون إلى آلة، ومقدمي الأنظمة التوليدية بوضع علامة على مخرجاتها بصيغة قابلة للقراءة آليًا، والجهات التي تنشر هذه الأنظمة بوضع علامات على التزييف العميق. وتطبّق معايير مثل بيانات اعتماد المحتوى (C2PA) والعلامات المائية للذكاء الاصطناعي هذه العلامات.
• التوثيق: تعرض بطاقة النموذج الاستخدام المقصود للنموذج وبيانات تدريبه ونتائج تقييمه مصنفةً حسب المجموعة والقيود المعروفة، وتؤدي صحائف بيانات مجموعات البيانات الوظيفة نفسها للبيانات، إذ تسجل دوافعها وتركيبها وعملية جمعها واستخداماتها الموصى بها. وبموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي، يجب على مقدمي نماذج الذكاء الاصطناعي للأغراض العامة أيضًا نشر ملخص لمحتوى التدريب باستخدام قالب أصدرته المفوضية الأوروبية في يوليو 2025.
• إمكانية الوصول: يتيح إصدار الأوزان أو الشيفرة أو البيانات للجهات الخارجية فحص النموذج وإعادة إنتاجه واختباره مباشرةً، بدلًا من الاعتماد على تقارير مطوره.
• تفسيرات المخرجات: يمكن تفسير القرارات الفردية باستخدام أساليب الذكاء الاصطناعي القابل للتفسير (XAI)، التي يوجبها النظام الأوروبي العام لحماية البيانات وقانون الذكاء الاصطناعي للاتحاد الأوروبي في بعض السياقات عالية المخاطر.

تتفاوت درجات إمكانية الوصول. فلا يمكن استخدام النموذج المغلق إلا عبر واجهة API الخاصة بمطوره، وينشر النموذج ذو الأوزان المفتوحة معلماته، كما يشترط تعريف الذكاء الاصطناعي مفتوح المصدر 1.0 الصادر عن مبادرة المصدر المفتوح في أكتوبر 2024 أيضًا إتاحة شيفرة التدريب والاستدلال كاملةً وتفاصيل كافية عن بيانات التدريب، بما في ذلك مصدرها وكيفية معالجتها، ليتمكن شخص مؤهل من بناء نظام مكافئ إلى حد كبير:

الشفافية وقابلية التفسير#

يتداخل المصطلحان ويُستخدمان معًا أحيانًا، كما في عبارة «الشفافية وقابلية التفسير». تتعلق الشفافية بالنظام والعملية التي أنتجته، وتظل قائمة حتى مع نموذج لا يستطيع أحد تفسيره، مثلما يحدث عند توثيق المطور بيانات التدريب ونتائج الاختبار. أما قابلية التفسير فتتعلق بسبب إنتاج النموذج مخرجًا بعينه، مثل تحديد وحدات البكسل التي أثرت في التصنيف. وتكون النماذج القابلة للتفسير، مثل أشجار القرار الصغيرة، مفهومة بطبيعتها، بينما تقوم قابلية التفسير الآلي بالهندسة العكسية للدوائر الداخلية في الشبكات الكبيرة. ويوفر مصدر البيانات، أي سجل مصدر البيانات وكيفية تغيّرها، جزءًا كبيرًا مما تتضمنه تقارير الشفافية.

التوثيق المصاحب للنموذج#

يكون التوثيق أنفع ما يكون عندما يظل مرتبطًا بالنموذج بعد نشره. وتكتب Ultralytics YOLO26 وصفًا للنموذج ومجموعة بيانات تدريبه وإصدار المكتبة وتاريخ التصدير والمهمة وحجم الإدخال وأسماء الفئات ضمن كل نموذج مُصدَّر، مثل خصائص البيانات الوصفية في ملف ONNX، ثم تقرأ Ultralytics هذه الحقول لتشغيل النموذج على نحو صحيح:

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

تحدد الحقول المطبوعة النموذج وبيانات تدريبه والبرنامج الذي صدّره وموعد التصدير، دون الحاجة إلى الوصول إلى عملية التدريب الأصلية.

قياس الشفافية#

يقيّم مؤشر ستانفورد لشفافية النماذج التأسيسية كبار مطوري الذكاء الاصطناعي وفق 100 مؤشر تغطي البيانات والقدرة الحاسوبية وراء نماذجهم الرائدة، والنماذج نفسها، وكيفية استخدامها بعد إصدارها. وفي نسخة 2025، التي قيّمت 13 مطورًا، انخفض المتوسط من 58 في 2024 إلى 40 من أصل 100، وكان المطورون الأقل شفافية بشأن بيانات التدريب والقدرة الحاسوبية المستخدمة فيه، بينما حققت IBM أعلى درجة في المؤشر بلغت 95.