Differential Privacy

الخصوصية التفاضلية هي إطار رياضي صارم يُستخدم في تحليل البيانات وتعلم الآلة (ML) لتحديد وتقييد مخاطر الخصوصية للأفراد الذين تُدرج بياناتهم في مجموعة بيانات بشكل دقيق. وعلى عكس تقنيات إخفاء الهوية التقليدية، التي يمكن غالباً عكسها عن طريق التقاطع مع قواعد بيانات أخرى، توفر الخصوصية التفاضلية ضماناً قابلاً للإثبات بأن مخرجات الخوارزمية تظل متطابقة تقريباً سواء تم تضمين معلومات أي فرد محدد أو استبعادها. يسمح هذا النهج للباحثين والمنظمات باستخراج تحليلات بيانات مفيدة وتدريب نماذج قوية مع ضمان عدم قدرة المهاجم على إجراء هندسة عكسية للنتائج لتحديد مستخدمين معينين أو الكشف عن سمات حساسة.

Link to this sectionآلية ميزانيات الخصوصية#

يعتمد المفهوم الأساسي للخصوصية التفاضلية على إدخال كمية محسوبة من "الضجيج"—أي تباين عشوائي—في البيانات أو في مخرجات الخوارزمية. تخضع هذه العملية لمعامل يُعرف بـ إبسيلون (ε)، ويُسمى أيضاً "ميزانية الخصوصية". تحدد هذه الميزانية التوازن بين الحفاظ على الخصوصية والدقة (المنفعة) للنتائج.

• إبسيلون منخفض: يُدخل المزيد من الضجيج، مما يوفر ضمانات خصوصية أقوى ولكنه قد يقلل من دقة رؤى النموذج.
• إبسيلون مرتفع: يُدخل ضجيجاً أقل، مما يحافظ على منفعة أعلى للبيانات ولكنه يوفر حماية خصوصية أضعف.

في سياق التعلم العميق (DL)، غالباً ما يتم حقن الضجيج أثناء عملية الانحدار المتدرج. من خلال قص التدرجات وإضافة العشوائية قبل تحديث أوزان النموذج، يمنع المطورون الشبكة العصبية من "حفظ" أمثلة تدريب محددة. يضمن هذا أن يتعلم النموذج الميزات العامة—مثل شكل ورم في تحليل الصور الطبية—دون الاحتفاظ بالعلامات البيومترية المميزة لمريض معين.

Link to this sectionتطبيقات العالم الحقيقي#

تعد الخصوصية التفاضلية أمراً بالغ الأهمية لنشر مبادئ أخلاقيات الذكاء الاصطناعي في القطاعات التي تكون فيها حساسية البيانات أمراً جوهرياً.

• الرعاية الصحية والبحوث السريرية: تستخدم المستشفيات الخصوصية التفاضلية للتعاون في تدريب نماذج لـ الكشف عن الأورام دون انتهاك اللوائح مثل HIPAA. من خلال تطبيق هذه التقنيات، يمكن للمؤسسات تجميع مجموعات بيانات متباينة لتحسين التشخيص بـ الذكاء الاصطناعي في الرعاية الصحية مع ضمان رياضياً عدم إمكانية إعادة بناء التاريخ الطبي لأي مريض من النموذج المشترك.
• قياس عن بُعد للأجهزة الذكية: تستخدم شركات التكنولوجيا الكبرى مثل Apple وGoogle الخصوصية التفاضلية المحلية لتحسين تجربة المستخدم. على سبيل المثال، عندما يقترح هاتف ذكي الكلمة التالية في جملة أو يحدد الرموز التعبيرية الشائعة، يتم التعلم على الجهاز نفسه. يُضاف الضجيج إلى البيانات قبل إرسالها إلى السحابة، مما يسمح للشركة بتحديد اتجاهات كلية، مثل أنماط المرور، دون رؤية البيانات النصية الخام أو بيانات الموقع لمستخدم فردي على الإطلاق.

Link to this sectionالخصوصية التفاضلية مقابل المفاهيم ذات الصلة#

لتنفيذ خط أنابيب تعلم آلي آمن، من الضروري التمييز بين الخصوصية التفاضلية ومصطلحات الأمان الأخرى.

• الخصوصية التفاضلية مقابل خصوصية البيانات: خصوصية البيانات هي الانضباط القانوني والأخلاقي الأوسع فيما يتعلق بكيفية جمع البيانات واستخدامها (مثل الالتزام بـ GDPR). الخصوصية التفاضلية هي أداة تقنية محددة تُستخدم لتحقيق أهداف الخصوصية تلك رياضياً.
• الخصوصية التفاضلية مقابل أمن البيانات: يتضمن أمن البيانات منع الوصول غير المصرح به من خلال التشفير وجدران الحماية. بينما يحمي الأمان البيانات من السرقة، تحمي الخصوصية التفاضلية البيانات من هجمات الاستنتاج—حيث يحاول المستخدمون المصرح لهم استنتاج معلومات حساسة من نتائج الاستعلامات المشروعة.
• الخصوصية التفاضلية مقابل التعلم الاتحادي: التعلم الاتحادي هو طريقة تدريب لامركزية حيث تبقى البيانات على الأجهزة المحلية. ورغم أنه يعزز الخصوصية من خلال إبقاء البيانات الخام محلية، إلا أنه لا يضمن عدم تسريب تحديثات النموذج المشترك للمعلومات. لذلك، غالباً ما يتم دمج الخصوصية التفاضلية مع التعلم الاتحادي لتأمين عملية تحسين النموذج بالكامل.

Link to this sectionمحاكاة حقن الضجيج في الرؤية الحاسوبية#

أحد جوانب الخصوصية التفاضلية يتضمن اضطراب المدخلات—إضافة ضجيج إلى البيانات بحيث لا يمكن للخوارزمية الاعتماد على قيم بكسل دقيقة. في حين أن الخصوصية التفاضلية الحقيقية تتطلب حلقات تدريب معقدة (مثل DP-SGD)، يوضح مثال Python التالي مفهوم إضافة ضجيج غاوسي إلى صورة قبل الاستدلال. يحاكي هذا كيفية اختبار متانة النموذج أو إعداد البيانات لخط أنابيب يحافظ على الخصوصية باستخدام YOLO26.

import torch
from ultralytics import YOLO

# Load the latest YOLO26 model (optimized for end-to-end performance)
model = YOLO("yolo26n.pt")

# Create a dummy image tensor (Batch, Channel, Height, Width)
img_tensor = torch.rand(1, 3, 640, 640)

# Generate Gaussian noise (simulate privacy noise injection)
noise = torch.randn_like(img_tensor) * 0.1  # Epsilon proxy: scale of noise

# Add noise to the input data
noisy_input = img_tensor + noise

# Run inference on the noisy data
# A robust model should still detect general patterns despite the noise
results = model(noisy_input)
print(f"Detections on noisy input: {len(results[0].boxes)}")

Link to this sectionإدارة مجموعات البيانات الآمنة#

غالباً ما يتطلب تنفيذ الخصوصية التفاضلية إدارة دقيقة لمجموعات البيانات لضمان تتبع "ميزانية الخصوصية" بشكل صحيح عبر عمليات تدريب متعددة. توفر Ultralytics Platform بيئة مركزية للفرق لإدارة بيانات التدريب، وتتبع التجارب، وضمان نشر النماذج بشكل آمن. من خلال الحفاظ على تحكم صارم في إصدارات البيانات والوصول إليها، يمكن للمؤسسات تنفيذ أطر خصوصية متقدمة بشكل أفضل والالتزام بمعايير الامتثال في مشاريع الرؤية الحاسوبية (CV).