Confidential AI

الذكاء الاصطناعي السري هو استخدام تقنيات الأمان وضوابط التشغيل لحماية البيانات الحساسة وأوزان النماذج والنتائج الوسيطة طوال دورة عمل الذكاء الاصطناعي، وخاصة أثناء معالجتها بشكل نشط. هدفه الأساسي هو سد فجوة "البيانات قيد الاستخدام": فحماية التخزين تشفر البيانات في حال السكون، وحماية الشبكة تشفر البيانات أثناء النقل، لكن الأنظمة التقليدية قد تعرض المعلومات التي تم فك تشفيرها في الذاكرة أثناء التدريب أو الاستدلال. يقلل الذكاء الاصطناعي السري هذا التعرض من خلال بيئات الحوسبة المعزولة والقابلة للتحقق.

كيف يعمل الذكاء الاصطناعي السري#

يمتد الذكاء الاصطناعي السري ليشمل الحوسبة السرية لأنشطة التعلم الآلي مثل إعداد البيانات، والتدريب، الضبط الدقيق، والاستدلال. تعمل دورة العمل داخل بيئة التنفيذ الموثوقة (TEE) قائمة على الأجهزة، وهي منطقة معزولة مصممة لمنع مسؤولي البنية التحتية، أو مشغلي السحابة، أو دورات العمل المجاورة، أو برامج المضيف المخترقة من عرض أو تعديل الكود والبيانات المحمية.

توفر بيئة التنفيذ الموثوقة عادةً ما يلي:

• عزل الذاكرة: تتم حماية المعلومات الحساسة أثناء إجراء العمليات الحسابية.
• سلامة الكود والبيانات: يمكن اكتشاف التغييرات غير المصرح بها على دورة العمل أو منعها.
• الشهادة عن بُعد: تتيح الأدلة التشفيرية لمالك البيانات التحقق من الأجهزة والبرامج والتكوينات قبل إطلاق الأسرار. يدعم إثبات وحدة معالجة الرسوميات من NVIDIA، على سبيل المثال، التحقق من بيئات وحدات معالجة الرسوميات السرية المتوافقة.
• إصدار المفاتيح الخاضع للتحكم: لا يمكن إصدار مفاتيح فك التشفير إلا بعد اجتياز البيئة للشهادة.

تقلل هذه الحمايات من الاعتماد على مشغلي البنية التحتية، لكنها لا تلغي كل المخاطر. لا يزال كود التطبيق المعرض للخطر، والمخرجات المكشوفة، والتسجيل المفرط، وبيانات اعتماد المستخدم المخترقة، وسلوك النموذج الضار تتطلب ضوابط أمان البيانات التقليدية.

الذكاء الاصطناعي السري مقابل تقنيات الخصوصية ذات الصلة#

يرتبط الذكاء الاصطناعي السري بعدة مفاهيم ولكنه يعالج طبقة حماية مميزة:

• خصوصية البيانات: تحدد كيفية جمع المعلومات الشخصية أو الحساسة، واستخدامها، والاحتفاظ بها، ومشاركتها. يوفّر الذكاء الاصطناعي السري ضمانات تقنية لكنه لا ينشئ موافقة أو استخدامًا قانونيًا.
• الخصوصية التفاضلية: تضيف عشوائية مُعايرة بعناية للحد مما تكشفه المخرجات حول السجلات الفردية. وهي تحمي ضد الإفصاح الإحصائي، بينما تحمي الحوسبة السرية بيئة التنفيذ.
• التعلم الموزع: يتدرب عبر مصادر بيانات لامركزية دون مركزية السجلات الخام. يمكن لبيئة التنفيذ الموثوقة السرية حماية عملية التجميع وتحديثات النماذج بشكل إضافي.
• الذكاء الاصطناعي على الحافة: يشغل النماذج بالقرب من مصدر البيانات لتقليل النقل وزمن الوصول. تحسين المعالجة المحلية تقليل البيانات، ولكنها لا تصبح ذكاءً اصطناعيًا سريًا إلا عندما توفر البيئة أيضًا آلية عزل وتحقق مناسبة.

لذلك، لا تكون خدمة الذكاء الاصطناعي سرية تلقائيًا لمجرد أنها تشفر الاتصالات، أو تعمل بشكل خاص، أو تعد بعدم التدريب على مدخلات العملاء. تركز تعريف الحوسبة السرية الصادر عن معهد NIST بشكل خاص على حماية المعلومات أثناء المعالجة.

التطبيقات الواقعية#

• التعاون في التصوير الطبي: قد ترغب عدة مستشفيات في تدريب نموذج رؤية تشخيصي باستخدام عمليات مسح لا يمكن تجميعها علنًا. يمكن لبيئة سرية معالجة البيانات المجمعة مع تقييد الوصول بواسطة المشاركين الآخرين ومشغلي البنية التحتية. يمكن للشهادة التأكد من أن كود التدريب المعتمد فقط هو الذي يعمل قبل فك تشفير السجلات. بدون هذه الضوابط، قد يكشف التعرض عن معلومات المرضى أو يؤدي إلى عواقب تنظيمية وتعاقدية. يصف الذكاء الاصطناعي السري من Azure هذا النمط عبر التدريب، الضبط الدقيق، والاستدلال.

• الفحص الصناعي المحمي: قد ترغب شركة تصنيع في إرسال صور إنتاج مملوكة إلى نموذج رؤية حاسوبية مُستضاف بينما يريد موفر النموذج حماية الأوزان القيّمة. يمكن للاستدلال السري عزل كلا الأصلين: يتم فك تشفير الصور فقط داخل بيئة التنفيذ الموثوقة، وتظل أوزان النماذج مخفية عن العميل ومشغل البنية التحتية. يغطي إرشاد Google Cloud لدورات عمل الذكاء الاصطناعي السرية سيناريوهات التحليل والتعاون الآمنة المماثلة.

تطبيق الذكاء الاصطناعي السري على الرؤية الحاسوبية#

تجمع البنية العملية بين الحد الأدنى من جمع البيانات، والتخزين والنقل المشفر، وضوابط الهوية، والحوسبة الخاضعة للشهادة، والسجلات المقيدة، وتصفية المخرجات. يمكن للفرق تشغيل Ultralytics YOLO26 محليًا باستخدام وضع التنبؤ، ثم وضع دورة العمل هذه داخل بنية تحتية سرية مكونة بشكل مناسب عندما تكون الحماية المدعومة للأجهزة مطلوبة.

from ultralytics import YOLO

# Load a pretrained YOLO26 detection model.
model = YOLO("yolo26n.pt")

# This public sample keeps the example runnable.
# Use a local file path for confidential production images.
results = model("https://ultralytics.com/images/bus.jpg")

result = results[0]
result.save(filename="confidential_result.jpg")

تنفذ دورة العمل هذه الاستدلال من خلال وقت تشغيل Python المحلي، ولكن التنفيذ المحلي وحده لا ينشئ بيئة تنفيذ موثوقة ولا يوفر شهادة. يمكن فرق الإنتاج استخدام وضع تصدير YOLO لاستهداف وقت تشغيل متحكم فيه على أجهزة معتمدة. بالنسبة لترميز مجموعات البيانات وتدريبها، يحافظ تكامل منصة Ultralytics المحلي على بكسلات مجموعة البيانات الأصلية والمشتقة على الأجهزة المُدارة من قِبل العميل مع توثيق البيانات الوصفية وعناصر النماذج التي تعبر الحدود.

تقييم ادعاءات السرية#

قبل إرسال معلومات العميل السرية إلى أي نظام ذكاء اصطناعي، تحقق من بنيته الفعلية وسياساته. راجع المكان الذي تُعالج فيه البيانات، وما إذا كان يتم الاحتفاظ بالمدخلات أو المخرجات، ومن يمكنه الوصول إلى السجلات، وما إذا كانت البيانات تُعاد استخدامها للتدريب، وكيفية التعامل مع الحذف. للحصول على تأمين تقني أقوى، اسأل عما إذا كانت الخدمة تستخدم بيئات تنفيذ موثوقة مدعومة بالأجهزة، وتدعم الشهادة عن بُعد، وتصدر المفاتيح فقط لدورات العمل التي تم التحقق منها.

يجب أن يكمل الذكاء الاصطناعي السري - لا أن يستبدل - التحكم في الوصول، وإدارة الثغرات الأمنية، ومراجعة المخرجات، وتقليل البيانات، وإطار عمل على مستوى المؤسسة مثل إطار عمل إدارة مخاطر الذكاء الاصطناعي التابع لـ NIST.