Shadow AI

يشير الذكاء الاصطناعي الخفي إلى الاستخدام غير المصرح به أو غير المعتمد لأدوات الذكاء الاصطناعي وتطبيقاته ونماذج التعلم الآلي من جانب الموظفين داخل المؤسسة، بحيث يتم هذا الاستخدام بالكامل خارج نطاق رؤية أقسام تكنولوجيا المعلومات أو الأمن وإدارتها. ومع انتشار تطبيقات الذكاء الاصطناعي التوليدي التجارية وواجهات السحابة سهلة الوصول، اتجه الموظفون تلقائيًا إلى هذه الأدوات لزيادة الإنتاجية. وعندما يحدث هذا الاعتماد دون موافقة رسمية أو تقييم للمخاطر أو فحوصات للامتثال، فإنه ينشئ «اقتصادًا خفيًا للذكاء الاصطناعي». ووفقًا للتعريف التفصيلي للذكاء الاصطناعي الخفي الذي وضعته IBM، يعرّض هذا الاستخدام غير المنظم المؤسسات لمخاطر كبيرة، ولا سيما فيما يتعلق بخصوصية البيانات والملكية الفكرية للشركة.

فهم الذكاء الاصطناعي الخفي مقارنةً بتكنولوجيا المعلومات الخفية#

رغم التشابه المفاهيمي مع الفكرة التقليدية لـ«تكنولوجيا المعلومات الخفية»—التي تتضمن استخدام برامج غير معتمدة مثل التخزين السحابي الشخصي أو تطبيقات المراسلة—فإن الذكاء الاصطناعي الخفي أكثر تعقيدًا وخطورة بكثير. فقد يخزّن تطبيق تقليدي لتكنولوجيا المعلومات الخفية البيانات مؤقتًا، بينما تعمل تطبيقات الذكاء الاصطناعي غير المعتمدة، ولا سيما نماذج اللغة الكبيرة (LLMs) وحلول الرؤية الحاسوبية الخارجية، على معالجة مدخلات المستخدم وتحويلها واستخدامها بنشاط من خلال منطق غير حتمي. وفي كثير من الحالات، تُدخل هذه المنصات المجانية الاستعلامات المقدمة إليها باعتبارها بيانات تدريب. ويعني هذا الاختلاف الجوهري أن محاولة بريئة لتنسيق مستند أو تحليل صورة قد تؤدي عن غير قصد إلى تسريب منطق أعمال مملوك أو أسرار تجارية أو بيانات عملاء خاضعة للتنظيم إلى المجال العام. ولإنشاء نماذج آمنة في مكان العمل، ينبغي للفرق اتباع أفضل ممارسات نشر النماذج بصرامة.

أمثلة واقعية على الذكاء الاصطناعي الخفي#

يعني الدمج السريع للذكاء الاصطناعي في أساليب العمل الحديثة أن الاستخدام غير المعتمد قد يظهر في أي قسم تقريبًا. وتشمل الأمثلة الواقعية الشائعة ما يلي:

• تطوير البرمجيات والهندسة: يواجه مهندس صعوبة في جزء معقد من التعليمات البرمجية، فيلصق خوارزمية مملوكة للشركة في روبوت محادثة عام غير معتمد للذكاء الاصطناعي، مثل ChatGPT من OpenAI، بغرض تصحيح الأخطاء. ورغم أن روبوت المحادثة يحل الخطأ، فإن التعليمات البرمجية المصدرية المملوكة أصبحت الآن مكشوفة لموفر خارجي، بما ينتهك بروتوكولات أمن البيانات المعتمدة.
• تحليل البيانات والرؤية الحاسوبية: يرغب فريق تسويق في تحليل صور تفاعل العملاء من فعالية حديثة. وبدلًا من استخدام مسار معالجة داخلي معتمد، يحمّل الفريق صورًا حساسة إلى تطبيق عام، مما يعرّض خصوصية المستخدمين للخطر وقد ينتهك أطرًا تنظيمية صارمة مثل GDPR أو HIPAA.

كيفية اكتشاف الذكاء الاصطناعي الخفي والحد من المخاطر#

لاكتشاف الذكاء الاصطناعي الخفي وإدارة مخاطره بفعالية، يجب على المؤسسات تنفيذ مراقبة شاملة للنماذج واستراتيجيات قوية لتتبع أمان API. وغالبًا ما تواجه أدوات الأمن التقليدية صعوبة في رصد تفاعلات الذكاء الاصطناعي الديناميكية، ولذلك تنشر فرق الأمن السيبراني الحديثة وسطاء أمن الوصول إلى السحابة (CASBs) المتخصصين وأنظمة منع فقدان البيانات (DLP) المتقدمة. وتستخدم هذه الأدوات اكتشاف الحالات الشاذة للإبلاغ عن تدفقات البيانات غير المعتادة الموجهة إلى نقاط نهاية معروفة تابعة لجهات خارجية للذكاء الاصطناعي، كما هو موضح في رؤى Palo Alto Networks حول الذكاء الاصطناعي غير المصرح به.

ولمواجهة هذا الاتجاه بأمان، ينبغي للشركات وضع حوكمة واضحة من خلال اتباع أطر مثل إطار NIST لإدارة مخاطر الذكاء الاصطناعي. والأكثر فاعلية من ذلك أن توفر المؤسسات للموظفين بدائل للذكاء الاصطناعي سهلة الوصول ومعتمدة. فعلى سبيل المثال، بدلًا من الاعتماد على واجهات API خارجية للرؤية الحاسوبية، يمكن للمطورين الاستفادة من Ultralytics YOLO26 المنشور بأمان على أجهزة الشركة الداخلية. ومن خلال تشغيل نماذج التعلم العميق محليًا، تحصل الفرق على أداء متطور دون تعريض البيانات لخطر الإنترنت المفتوح.

from ultralytics import YOLO

# Load a sanctioned, locally hosted YOLO26 model to prevent Shadow AI risks
model = YOLO("yolo26n.pt")

# Perform inference securely on local hardware, keeping proprietary data in-house
results = model("sensitive_internal_document.jpg")

# Display results safely without relying on unapproved external web APIs
results[0].show()

تؤدي إتاحة أدوات آمنة وجاهزة للمؤسسات إلى تحييد إغراء الذكاء الاصطناعي الخفي بفعالية، مما يتيح الابتكار السريع مع الحفاظ على امتثال داخلي صارم. وبالنسبة إلى الفرق التي تسعى إلى التعاون بأمان في مجموعات البيانات وتدريب النماذج مع إشراف إداري كامل، يمكنكم استكشاف إمكانات منصة Ultralytics. بالإضافة إلى ذلك، يمكن العثور على نهج منظم لإدارة بياناتكم بأمان في دليلنا الشامل لجمع البيانات ووسمها.