AI Washing
التضليل بشأن AI هو المبالغة المضللة في قدرات المنتج المتعلقة بـAI، بما يحجب الأداء الفعلي، ومشاركة البشر، والأدلة التي تستند إليها الادعاءات.
غسل AI هو ممارسة المبالغة في مقدار ما يستخدمه منتج أو خدمة أو شركة من الذكاء الاصطناعي، أو تحريفه، وكذلك المبالغة في ما يمكن لهذه التقنية إنجازه أو تحريفه. ويخلق ذلك فجوة بين القدرات المُعلن عنها وطريقة التشغيل الفعلية، إذ يُدفع العملاء والمستثمرون إلى توقع مستوى من الذكاء أو الاستقلالية أو الأداء لا يقدمه النظام الأساسي.
يستعير المصطلح من الغسل الأخضر، الذي يصف الادعاءات البيئية المضللة. استخدم محلل Gartner جيم هير مصطلح «غسل AI» في تحليله بتاريخ 6 يوليو 2017 عن مزوّدي برمجيات المؤسسات الذين يستغلون اضطراب AI، واصفًا المورّدين الذين يطلقون تسمية AI دون تمييز.
كيف يحدث غسل AI#
يحوّل غسل AI التعقيد التقني إلى ميزة تسويقية. ويصادف المشترون مصطلحات مثل الذكاء الاصطناعي، والتعلم الآلي، و«الاستقلالية»، من دون معلومات كافية لربط هذه الأوصاف بميزة تشغيلية. وقد يتعلق التضليل بوجود التقنية، أو إسهامها في سير العمل، أو قوة نتائجها.
تشمل الأنماط الشائعة ما يلي:
- تضخيم القدرات: الإعلان عن نظام على أنه ينجز عملًا بمستوى الخبراء، رغم افتقار مخرجاته إلى الأدلة التي تدعم هذا الادعاء.
- إخفاء المشاركة البشرية: تقديم خدمة على أنها مستقلة التشغيل، بينما يؤدي البشر أجزاءً كبيرة من العمل المُعلن عنه.
- المبالغة في الأداء: تعميم نتائج تحققت في ظروف مختارة على جمهور أو مهمة أوسع مما يبرره التقييم.
- تسريع الجدول الزمني: وصف وظائف AI المخطط لها على أنها قدرة متاحة بالفعل في المنتج.
تؤثر هذه الأنماط في قرارات الشراء والاستثمار والتوظيف. كما أنها تحجب المتطلبات التشغيلية: إذ يحتاج العملاء إلى فهم المخرجات التي تتطلب مراجعة، والمهام التي يتولاها النظام، وكيف تؤثر الأخطاء في القرارات اللاحقة.
غسل AI والمفاهيم ذات الصلة#
تؤتمت أتمتة العمليات الروبوتية سير العمل المتكرر، غالبًا باستخدام قواعد محددة مسبقًا. ويتعلم التعلم الآلي الأنماط من البيانات، بينما تستخدم الذكاء الاصطناعي الرمزي المعرفة الصريحة وقواعد الاستدلال. وتحدد أوصاف المنتجات الدقيقة الآلية المستخدمة ودورها. ويصبح وصف نظام قائم على القواعد بأنه AI مضللًا عندما تعد الادعاءات المصاحبة بالتعلم أو قابلية التكيف اللذين يفتقر إليهما النظام.
تُسند سير العمل ذي المشاركة البشرية إلى الأشخاص مسؤوليات محددة للمراجعة أو اتخاذ القرار. وتُظهر الأوصاف الشفافة هذا الإسهام بوضوح. فعلى سبيل المثال، تطبق منصة Ultralytics تعليق البيانات بمساعدة AI: إذ تنشئ ميزة التعليق الذكي YOLO تسميات أولية استنادًا إلى تنبؤات النموذج، ويمكن للمعلّقين مراجعتها أو تعديلها أو إزالتها. وهذا يحدد المهمة المؤتمتة والدور البشري معًا.
الهلوسة هي إنتاج النموذج محتوى غير صحيح أو غير مدعوم. أما غسل AI فيتعلق بالتصريحات المقدمة عن النظام. ويساعد الذكاء الاصطناعي القابل للتفسير على تفسير سلوك النموذج؛ بينما يوضح الشفافية في AI القدرات وظروف التقييم والمسؤوليات. ويدعم كلاهما تقديم أوصاف لمنتجات AI تستند إلى الأدلة.
أمثلة واقعية وعواقبها#
اعتمدت الجهات التنظيمية المصطلح في إجراءات الإنفاذ. وحذّر رئيس SEC غاري غينسلر الشركات من «غسل AI» في ديسمبر 2023، كما رفعت FTC قضية DoNotPay الواردة أدناه ضمن عملية AI Comply، وهي حملتها في سبتمبر 2024 لمكافحة الادعاءات المضللة بشأن AI.
ادعت شركة Delphia، وهي مستشار استثماري، أن بيانات العملاء تعزز توقعاتها الاستثمارية المدعومة بـAI. ووجدت SEC أنه بين عامي 2019 و2023، لم تكن لدى الشركة قدرات AI والتعلم الآلي التي أعلنت عنها. وفي تسوية بتاريخ 18 مارس 2024، وافقت Delphia على دفع غرامة مدنية قدرها 225,000 دولار. ووافقت Global Predictions، في تسوية منفصلة، على دفع غرامة قدرها 175,000 دولار بسبب ادعاءات مضللة شملت توقعات مدعومة بـAI وادعاءها أنها أول مستشار مالي منظم يستخدم AI.
أعلنت DoNotPay عن خدمة AI ووصفتها بأنها «أول محامٍ آلي في العالم»، مدعيةً امتلاكها قدرات يمكن أن تحل محل الخبرة القانونية البشرية. وألزمت تسوية إجراءات الإنفاذ ضد DoNotPay الشركة بتقديم تعويض مالي قدره 193,000 دولار وإرسال إشعارات إلى المشتركين المؤهلين. وأصدرت FTC القرار النهائي في يناير 2025، فارضةً قيودًا على الادعاءات غير المدعومة بشأن الاستعاضة عن الخدمات المهنية.
الأدلة الداعمة لادعاءات AI#
يربط الادعاء المدعوم ميزة محددة بمدخلاتها ومخرجاتها وتقييمها وظروف تشغيلها. وتسجل بطاقة النموذج الاستخدامات المقصودة وتفاصيل التطوير والقيود المقاسة. ويحدد مصدر البيانات أصل مواد التقييم، بينما تدعم بيانات الاختبار المستقلة التحقق من الأداء خارج أمثلة التطوير.
في الرؤية الحاسوبية، تستند الأدلة الداعمة للادعاء إلى المهمة المُعلن عنها نفسها. ويمكن أن تشمل نتائج اكتشاف الكائنات الإحكام، والاستدعاء، ومتوسط الدقة، إلى جانب تكوين مجموعة البيانات والنتائج لكل فئة. وتتطلب ادعاءات السرعة تحديد الأجهزة وحجم الصورة وحجم الدفعة ونطاق القياس.
تربط حوكمة AI هذه السجلات بموافقات المنتجات ومراجعة التسويق، بحيث يمكن تتبع كل ادعاء منشور إلى بطاقة نموذج أو تقييم أو دور بشري موثق.
