AI Ethics

أخلاقيات الذكاء الاصطناعي مجال يطبّق المبادئ الأخلاقية على تصميم الذكاء الاصطناعي (AI) وتطويره واستخدامه، ويتساءل عن الأنظمة التي ينبغي بناؤها، وكيف ينبغي أن تتصرف، ومن يتحمل مسؤولية آثارها. وتشمل شواغله الأساسية الإنصاف والخصوصية والشفافية والسلامة والمساءلة والإشراف البشري، ويستند إلى الفلسفة والقانون والعلوم الاجتماعية والهندسة. عمليًا، تشكل أخلاقيات الذكاء الاصطناعي طريقة جمع الفرق للبيانات وتقييمها للنماذج وقرارها بشأن المنتجات التي ستطرحها، كما تدعم لوائح مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي وقوانين الذكاء الاصطناعي في كاليفورنيا.

المبادئ الأساسية#

تلتقي الأطر الدولية حول مجموعة متشابهة من المبادئ. وكانت مبادئ منظمة التعاون الاقتصادي والتنمية بشأن الذكاء الاصطناعي، التي اعتُمدت في عام 2019 وحُدّثت في عام 2024، أول معيار حكومي دولي بشأن الذكاء الاصطناعي؛ أما توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي فقد اعتمدتها الدول الأعضاء الـ193 جميعها في عام 2021؛ ويحوّل إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأمريكي للمعايير والتقنية (2023) القيم المماثلة إلى خصائص للذكاء الاصطناعي الجدير بالثقة يمكن للمؤسسات قياسها:

• الإنصاف وعدم التمييز: ينبغي ألا يكون أداء الأنظمة أسوأ مع الأشخاص، أو أن تضر بهم، بسبب لون البشرة أو الجنس أو العمر أو غيرها من السمات المحمية. عادةً ما ينشأ التحيز في الذكاء الاصطناعي من بيانات أو تسميات غير ممثلة، وتوفر الإنصاف في الذكاء الاصطناعي المقاييس اللازمة لاختباره.
• الخصوصية وحوكمة البيانات: ينبغي جمع البيانات الشخصية بصورة قانونية، والحصول على الموافقة عند الاقتضاء، وألا تتجاوز معالجتها ما تتطلبه الغاية. وتحد تقنيات مثل الخصوصية التفاضلية والتعلم الاتحادي من مقدار ما يكشفه النموذج أو ما يُركّز منه. وفي تحليلات الفيديو، قد يعني تضمين الخصوصية في التصميم إخفاء هوية الأشخاص قبل تخزين اللقطات: إذ يشغّل حل Ultralytics لتمويه الأجسام كاشف YOLO26 على كل إطار ويموّه كل جسم مكتشف، مثل كل شخص، في موضعه.
• الشفافية وقابلية التفسير: ينبغي أن يعرف الناس متى يتعاملون مع نظام ذكاء اصطناعي، وأن يتمكنوا من معرفة كيفية بنائه، وهو موضوع الشفافية في الذكاء الاصطناعي، كما ينبغي أن تكون القرارات التي تؤثر فيهم قابلة للتفسير باستخدام أساليب الذكاء الاصطناعي القابل للتفسير (XAI).
• السلامة والمتانة: ينبغي أن تعمل الأنظمة بموثوقية في ظروف النشر التي تواجهها، وأن تقاوم التلاعب مثل الهجمات التخاصمية، وأن تتعطل بطريقة آمنة.
• المساءلة والإشراف البشري: يكون شخص أو مؤسسة محددة مسؤولاً عن نتائج كل نظام، ويستطيع البشر مراقبته أو تجاوز قراراته أو إيقافه.

من المبادئ إلى القانون#

يحوّل قانون الاتحاد الأوروبي للذكاء الاصطناعي هذه المبادئ إلى التزامات تتناسب مع مستوى المخاطر. دخل القانون حيز النفاذ في أغسطس 2024؛ وبدأ تطبيق حظر الممارسات المحظورة منذ 2 فبراير 2025، كما بدأ تطبيق واجبات الشفافية منذ 2 أغسطس 2026. وبعد تعديل الحزمة التشريعية الرقمية الشاملة لعام 2026، تُطبّق متطلبات الاستخدامات عالية المخاطر الواردة في الملحق الثالث، مثل التوظيف والتقييم الائتماني والتعليم، اعتباراً من 2 ديسمبر 2027. ويصنّف القانون كل استخدام للذكاء الاصطناعي بحسب الالتزامات التي يستتبعها:

تتعلق عدة محظورات مباشرةً بـالرؤية الحاسوبية: الكشط غير المستهدف لصور الوجوه من الإنترنت أو كاميرات المراقبة لبناء قواعد بيانات للتعرّف، والتعرّف على المشاعر في أماكن العمل والمدارس، والتصنيف البيومتري الذي يستنتج سمات مثل العرق أو الآراء السياسية، وكذلك، مع استثناءات ضيقة، التعرّف البيومتري عن بُعد في الوقت الفعلي في الأماكن العامة لأغراض إنفاذ القانون. كما يمكن للمؤسسات اعتماد ممارساتها لإدارة الذكاء الاصطناعي وفق ISO/IEC 42001، وهو معيار دولي نُشر في عام 2023.

أخلاقيات الذكاء الاصطناعي والمصطلحات ذات الصلة#

• سلامة الذكاء الاصطناعي: تركز على منع الحوادث وسوء الاستخدام وفقدان السيطرة مع تزايد قدرات الأنظمة. وتسأل أخلاقيات الذكاء الاصطناعي أيضاً عما إذا كان ينبغي وجود نظام ما ولمن يخدم.
• حوكمة الذكاء الاصطناعي: السياسات والعمليات والقوانين التي تطبق المؤسسات والحكومات من خلالها المبادئ الأخلاقية.
• الذكاء الاصطناعي المسؤول: المصطلح الذي تستخدمه الشركات عادةً لوصف ممارستها الخاصة لأخلاقيات الذكاء الاصطناعي، وهو إلى حد كبير مرادف لها.
• التحيز الخوارزمي: مشكلة أخلاقية محددة تتمثل في خطأ منهجي يؤدي إلى نتائج غير منصفة، ضمن المجال الأوسع.

قضايا أخلاقية في الرؤية الحاسوبية#

• الرعاية الصحية: في تحليل الصور الطبية، قد يعجز نموذج تم التحقق من صحته باستخدام أجهزة التصوير ومرضى مستشفى واحد عن اكتشاف النتائج لدى فئات لم يسبق له التعامل معها؛ ولهذا تدعو أطر الأخلاقيات إلى التقييم حسب الفئات الفرعية وإشراف الأطباء.
• الوسائط الاصطناعية: تتيح التزييفات العميقة الاحتيال والتحرش والتضليل، ويلزم قانون الاتحاد الأوروبي للذكاء الاصطناعي الجهات التي تنشرها بالإفصاح عنها.
• التعرّف على المشاعر: في عام 2022، أوقفت Microsoft ميزات Azure Face التي تستنتج الحالات العاطفية وسمات مثل الجنس والعمر، مشيرةً إلى غياب إجماع علمي بشأن تعريف المشاعر، وإلى الشك في أن الاستنتاجات المستخلصة من تعابير الوجه قابلة للتعميم على مختلف المناطق والفئات السكانية.
• الموافقة ومصدر مجموعة البيانات: جُمعت مجموعات بيانات كثيرة للوجوه والأشخاص من دون علم الأشخاص الظاهرين فيها؛ وقد أزالت Microsoft مجموعة بيانات MS-Celeb-1M في عام 2019، وهي تضم نحو 10 ملايين صورة لـ100,000 شخص.
• التعرّف على الوجوه والمراقبة: في يونيو 2020، أوقفت IBM تقديم خدمة التعرّف على الوجوه للأغراض العامة، وعلّقت Amazon استخدام الشرطة لخدمة Rekognition، وهو تعليق مدّدته لاحقاً إلى أجل غير مسمى. وفي سبتمبر 2024، فرضت هيئة حماية البيانات الهولندية غرامة قدرها 30.5 مليون يورو على Clearview AI لبنائها قاعدة بيانات تضم مليارات صور الوجوه التي كُشطت من الإنترنت.