Shadow AI

يشير الذكاء الاصطناعي الخفي إلى استخدام أدوات الذكاء الاصطناعي ونماذجه وخدماته داخل مؤسسة دون علم فرق تقنية المعلومات أو الأمن أو الامتثال فيها أو موافقتها. ومن الأمثلة الشائعة نسخ الموظفين أعمالهم إلى حساب شخصي في مساعد للذكاء الاصطناعي التوليدي، أو استدعاء المطورين واجهة API لنموذج لم يخضع للمراجعة، أو تفعيل الفرق ميزات الذكاء الاصطناعي في البرامج التي تستخدمها أصلًا. والذكاء الاصطناعي الخفي جزء من تقنية المعلومات الخفية، وهي مشكلة أقدم تتعلق بالتطبيقات والخدمات السحابية غير المعتمدة، وينتشر للسبب نفسه: فالأدوات مجانية أو رخيصة، ولا يستغرق اعتمادها سوى دقائق، وتزيد سرعة إنجاز العمل.

لماذا يختلف الذكاء الاصطناعي الخفي عن تقنية المعلومات الخفية؟#

تعالج خدمات الذكاء الاصطناعي البيانات التي تتلقاها، كما تخزنها. تغادر كل مطالبة تُرسل إلى نموذج لغوي كبير (LLM) المؤسسة، وقد تحتفظ الخطط المخصصة للمستهلكين بالمحادثات أو تستخدم المحادثات بوصفها بيانات للتدريب، ما لم يختر المستخدم عدم المشاركة. وفي عام 2023، ألصق مهندسو Samsung شيفرة مصدرية سرية وملاحظات الاجتماعات في ChatGPT، ثم قيّدت الشركة استخدام أدوات الذكاء الاصطناعي التوليدي على أجهزتها.

وتسري المخاطر في الاتجاه الآخر أيضًا. فقد يتضمن ناتج مساعد لم يخضع للمراجعة هلوسات أو شيفرة غير آمنة أو نصًا بترخيص غير واضح، ويدخل المنتجات والقرارات دون أن يتحقق منه أحد. وقد تنفذ أوزان النماذج المحمّلة من مستودعات عامة مثل Hugging Face شيفرة عشوائية عند تحميلها إذا استخدمت تنسيق pickle في Python؛ لذلك لا يخزن تنسيق safetensors سوى الموترات. ويمكن لـوكلاء الذكاء الاصطناعي المتصلين بالبريد الإلكتروني أو التقويمات أو مستودعات الشيفرة باستخدام رمز وصول شخصي للموظف تنفيذ إجراءات على أنظمة الشركة، كما يمكن لصفحة ويب أو مستند ضار توجيههم عبر حقن المطالبات.

تظهر الكلفة في بيانات الاختراقات. ووجد تقرير IBM لعام 2026 عن تكلفة اختراق البيانات أن 43% من المؤسسات التي شملتها الدراسة وتعرضت للاختراق شهدت حوادث مرتبطة بالذكاء الاصطناعي الخفي، ارتفاعًا من 20% في العام السابق، وأن متوسط كلفة هذه الاختراقات بلغ 5.39 مليون دولار مقارنةً بمتوسط عام قدره 4.99 مليون دولار.

الأشكال الشائعة للذكاء الاصطناعي الخفي#

• روبوتات المحادثة ومساعدو الكتابة: حسابات شخصية تُستخدم لتلخيص العقود، أو تصحيح أخطاء الشيفرة المملوكة، أو صياغة ردود تتضمن سجلات العملاء.
• ميزات الذكاء الاصطناعي المضمّنة: يضيف مورّد ميزةً للتفريغ النصي أو التلخيص أو تدوين ملاحظات الاجتماعات إلى أداة معتمدة، فتبدأ الميزة بإرسال البيانات إلى معالج فرعي جديد دون مراجعة جديدة.
• النماذج وواجهات API غير الخاضعة للتدقيق: يرسل المطورون الصور إلى واجهة API خارجية للرؤية الحاسوبية أو ينشرون أوزانًا تم تنزيلها، من دون أن يتحقق أحد من ترخيصها ومصدرها وأمانها.
• إضافات المتصفح والوكلاء: أدوات تقرأ كل صفحة يفتحها الموظف أو تتصرف نيابةً عنه عبر الحسابات المتصلة.

اكتشاف الذكاء الاصطناعي الخفي والحد منه#

يجمع الاكتشاف بين عدة مؤشرات: سجلات الشبكة وDNS التي تكشف حركة المرور إلى نقاط نهاية الذكاء الاصطناعي، ووسطاء أمن الوصول إلى السحابة وأدوات منع فقدان البيانات التي تفحص الملفات المرفوعة، وقوائم جرد إضافات المتصفح، وتقارير النفقات الخاصة باشتراكات الذكاء الاصطناعي ومفاتيح API، والاستبيانات أو برامج العفو التي تفصح فيها الفرق عن الأدوات التي تستخدمها. ثم تخضع كل أداة مكتشفة لعملية الفرز الأولي نفسها الموضحة أدناه، وتُضاف إلى الجرد الذي تعتمد عليه حوكمة الذكاء الاصطناعي.

تجمع البرامج التي تحد من الذكاء الاصطناعي الخفي بين قواعد واضحة بشأن البيانات التي يجوز إدخالها في كل أداة، وبدائل معتمدة يسهل استخدامها بالقدر نفسه: حسابات مؤسسية أُوقف فيها التدريب على بيانات العملاء، وبوابة للذكاء الاصطناعي تسجل كل حركة مرور النماذج وتصفيها، ونماذج مستضافة ذاتيًا للأعمال الأكثر حساسية. ويوضح التدريب على الإلمام بالذكاء الاصطناعي أسباب وجود القواعد والأدوات المعتمدة.

تواجه أعمال الرؤية الحاسوبية شكلًا خاصًا من هذه المشكلة عندما تُحفظ صور الأشخاص أو المنتجات أو المنشآت في حسابات شخصية على أدوات وسم البيانات والتدريب عبر الإنترنت. وفي مساحة عمل فريق على Ultralytics Platform، تنتمي مجموعات البيانات والنماذج وعمليات النشر التي ينشئها أي عضو إلى الفريق، ويمكن لكل عضو الاطلاع عليها، وتحدد أدوار المالك والمسؤول والمحرر والمشاهد من يمكنه تعديلها.

الذكاء الاصطناعي الخفي مشكلة تتعلق بالرؤية والاطلاع، تتحول إلى حوادث خصوصية البيانات وأمن البيانات، إذ لا يستطيع فريق الأمن تقييم أداة لا يعلم بوجودها أو حمايتها أو مراقبتها. ويتناول إطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي هذه المشكلة في الفئة الفرعية GOVERN 1.6، التي تدعو إلى وضع آليات لجرد أنظمة الذكاء الاصطناعي وتخصيص الموارد لها وفقًا لأولويات المخاطر المؤسسية.