Differential Privacy

الخصوصية التفاضلية هي إطار رياضي صارم يُستخدم في تحليل البيانات وتعلُّم الآلة (ML) لقياس مخاطر الخصوصية التي يتعرض لها الأفراد الذين تتضمن مجموعة البيانات معلوماتهم والحد منها بصرامة. وعلى خلاف تقنيات إخفاء الهوية التقليدية، التي يمكن غالبًا عكسها من خلال مطابقتها مع قواعد بيانات أخرى، توفر الخصوصية التفاضلية ضمانًا قابلًا للإثبات بأن مخرجات الخوارزمية تظل متطابقة تقريبًا سواء أُدرجت معلومات شخص معين أم حُذفت. ويتيح هذا النهج للباحثين والمؤسسات استخراج تحليلات مفيدة للبيانات وتدريب نماذج قوية، مع ضمان عدم قدرة المهاجم على إجراء هندسة عكسية للنتائج لتحديد هوية مستخدمين بعينهم أو الكشف عن سمات حساسة.

آلية ميزانيات الخصوصية#

يعتمد المفهوم الأساسي للخصوصية التفاضلية على إدخال مقدار محسوب من «الضوضاء»—أي التباين العشوائي—في البيانات أو مخرجات الخوارزمية. وتحكم هذه العملية معلمة تُعرف باسم إبسيلون (ε)، وتُسمى أيضًا «ميزانية الخصوصية». وتحدد الميزانية المفاضلة بين الحفاظ على الخصوصية ودقة النتائج (منفعتها).

• إبسيلون منخفض: يُدخل قدرًا أكبر من الضوضاء، ما يوفر ضمانات خصوصية أقوى، لكنه قد يقلل دقة استنتاجات النموذج.
• إبسيلون مرتفع: يُدخل قدرًا أقل من الضوضاء، ما يحافظ على منفعة أعلى للبيانات، لكنه يوفر حماية أضعف للخصوصية.

في سياق التعلُّم العميق (DL)، غالبًا ما تُحقن الضوضاء أثناء عملية الانحدار المتدرج. ومن خلال قص التدرجات وإضافة العشوائية قبل تحديث أوزان النموذج، يمنع المطورون الشبكة العصبية من «حفظ» أمثلة تدريب محددة. ويضمن ذلك تعلُّم النموذج لسمات عامة—مثل شكل الورم في تحليل الصور الطبية—من دون الاحتفاظ بالسمات الحيوية المميزة لمريض معين.

التطبيقات الواقعية#

تُعد الخصوصية التفاضلية بالغة الأهمية لتطبيق مبادئ أخلاقيات الذكاء الاصطناعي في القطاعات التي تحظى فيها حساسية البيانات بأهمية قصوى.

• الرعاية الصحية والبحث السريري: تستخدم المستشفيات الخصوصية التفاضلية للتعاون في تدريب نماذج اكتشاف الأورام من دون انتهاك لوائح مثل HIPAA. ومن خلال تطبيق هذه التقنيات، يمكن للمؤسسات تجميع مجموعات بيانات متباينة لتحسين الذكاء الاصطناعي في الرعاية الصحية والتشخيص، مع ضمان رياضي استحالة إعادة بناء السجل الطبي لأي مريض من النموذج المشترك.
• القياس عن بُعد للأجهزة الذكية: تستخدم شركات تقنية كبرى مثل Apple وGoogle الخصوصية التفاضلية المحلية لتحسين تجربة المستخدم. فعلى سبيل المثال، عندما يقترح الهاتف الذكي الكلمة التالية في جملة أو يحدد الرموز التعبيرية الشائعة، يحدث التعلم على الجهاز. وتُضاف الضوضاء إلى البيانات قبل إرسالها إلى السحابة، ما يتيح للشركة تحديد الاتجاهات الإجمالية، مثل أنماط حركة المرور، من دون الاطلاع مطلقًا على النص الخام أو بيانات موقع أي مستخدم.

الخصوصية التفاضلية في مقابل المفاهيم ذات الصلة#

لتنفيذ مسار عمل آمن للتعلُّم الآلي، من الضروري تمييز الخصوصية التفاضلية عن المصطلحات الأمنية الأخرى.

• الخصوصية التفاضلية في مقابل خصوصية البيانات: خصوصية البيانات هي المجال القانوني والأخلاقي الأوسع الذي يتناول كيفية جمع البيانات واستخدامها، مثل الالتزام بـاللائحة العامة لحماية البيانات (GDPR). أما الخصوصية التفاضلية فهي أداة تقنية محددة تُستخدم لتحقيق أهداف الخصوصية تلك رياضيًا.
• الخصوصية التفاضلية في مقابل أمن البيانات: يتضمن أمن البيانات منع الوصول غير المصرح به من خلال التشفير والجدران النارية. وبينما يحمي الأمن البيانات من السرقة، تحمي الخصوصية التفاضلية البيانات من هجمات الاستدلال—حيث يحاول مستخدمون مصرح لهم استنتاج معلومات حساسة من نتائج استعلامات مشروعة.
• الخصوصية التفاضلية في مقابل التعلُّم الاتحادي: التعلُّم الاتحادي هو أسلوب تدريب لامركزي تبقى فيه البيانات على الأجهزة المحلية. ورغم أنه يعزز الخصوصية بإبقاء البيانات الخام محلية، فإنه لا يضمن عدم تسريب تحديثات النموذج المشترك للمعلومات. ولذلك، غالبًا ما تُدمج الخصوصية التفاضلية مع التعلُّم الاتحادي لتأمين عملية تحسين النموذج بالكامل.

محاكاة حقن الضوضاء في الرؤية الحاسوبية#

يتضمن أحد جوانب الخصوصية التفاضلية إحداث اضطراب في المدخلات—أي إضافة ضوضاء إلى البيانات بحيث لا تتمكن الخوارزمية من الاعتماد على قيم البكسلات الدقيقة. وفي حين تتطلب الخصوصية التفاضلية الحقيقية حلقات تدريب معقدة، مثل DP-SGD، يوضح مثال Python التالي مفهوم إضافة ضوضاء غاوسية إلى صورة قبل الاستدلال. ويحاكي ذلك كيفية اختبار متانة نموذج أو إعداد البيانات لمسار عمل يحافظ على الخصوصية باستخدام YOLO26.

import torch
from ultralytics import YOLO

# Load the latest YOLO26 model (optimized for end-to-end performance)
model = YOLO("yolo26n.pt")

# Create a dummy image tensor (Batch, Channel, Height, Width)
img_tensor = torch.rand(1, 3, 640, 640)

# Generate Gaussian noise (simulate privacy noise injection)
noise = torch.randn_like(img_tensor) * 0.1  # Epsilon proxy: scale of noise

# Add noise to the input data
noisy_input = img_tensor + noise

# Run inference on the noisy data
# A robust model should still detect general patterns despite the noise
results = model(noisy_input)
print(f"Detections on noisy input: {len(results[0].boxes)}")

إدارة مجموعات البيانات الآمنة#

غالبًا ما يتطلب تطبيق الخصوصية التفاضلية إدارة دقيقة لمجموعات البيانات لضمان تتبع «ميزانية الخصوصية» بصورة صحيحة عبر عمليات تدريب متعددة. توفر منصة Ultralytics بيئة مركزية للفرق لإدارة بيانات التدريب، وتتبع التجارب، وضمان نشر النماذج بأمان. ومن خلال فرض ضوابط صارمة على إصدارات البيانات وعمليات الوصول إليها، يمكن للمؤسسات تطبيق أطر الخصوصية المتقدمة على نحو أفضل والالتزام بمعايير الامتثال في مشاريع الرؤية الحاسوبية (CV).