Data Security

أمن البيانات هو حماية البيانات الرقمية من الوصول غير المصرح به والسرقة والتلاعب والفقدان طوال دورة حياتها، بدءًا من جمعها وتخزينها مرورًا بمعالجتها ومشاركتها وصولًا إلى حذفها. تُصاغ أهداف أمن البيانات عادةً في إطار ثلاثية CIA: السرية، بحيث لا يقرأ البيانات إلا الأشخاص والأنظمة المصرّح لهم؛ والسلامة، بحيث تظل البيانات دقيقة وغير معدّلة؛ والتوافر، بحيث يمكن استخدامها عند الحاجة. وقد نُشر الإصدار 2.0 من إطار الأمن السيبراني الصادر عن NIST في فبراير 2024، وهو ينظّم العمل ضمن ست وظائف: الحوكمة، والتحديد، والحماية، والكشف، والاستجابة، والتعافي. وفي التعلم الآلي، تشمل البيانات التي يجب حمايتها بيانات التدريب والتسميات المرتبطة ببيانات التدريب، وأوزان النموذج التي ترمّز ما تعلّمه النموذج من بيانات التدريب، والصور والمطالبات المرسلة للاستدلال، والسجلات التي توثّق هذه الصور والمطالبات.

الضوابط الأساسية#

يجمع أمن البيانات طبقات متعددة، بحيث لا يؤدي فشل أحد الضوابط إلى كشف كل شيء:

• التشفير: تُشفّر البيانات المخزنة باستخدام خوارزميات مثل AES-256، وتُنقل البيانات أثناء الإرسال عبر TLS.
• التحكم في الوصول: يُمنح كل شخص وخدمة أقل قدر من الامتيازات اللازمة، من خلال الأدوار والمصادقة متعددة العوامل وبيانات الاعتماد قصيرة الأجل بدلًا من كلمات المرور المشتركة.
• إدارة المفاتيح والأسرار: تُحفظ مفاتيح التشفير في خدمة لإدارة المفاتيح أو وحدة أمنية مادية منفصلة عن البيانات، وتُدوّر وفق جدول زمني. ويجب ألا تُضمّن مفاتيح API في الشيفرة المصدرية أو دفاتر الملاحظات.
• فحوصات السلامة والنسخ الاحتياطية: تكشف المجاميع الاختبارية والتوقيعات الرقمية الملفات المعدّلة، وتتيح النسخ الاحتياطية ذات الإصدارات وغير القابلة للتغيير التعافي من برمجيات الفدية أو الحذف العرضي.
• سجلات التدقيق: يُسجّل كل إجراء قراءة أو كتابة وكل تغيير في الأذونات، كي يمكن كشف عمليات الوصول غير المعتادة والتحقيق فيها، مثل تنزيل حساب واحد مجموعة بيانات كاملة ليلًا.

يوفر التشفير الموثّق السرية والسلامة معًا. يستخدم هذا المثال Fernet من حزمة Python cryptography لتشفير سطر من ملف تسميات، ثم اكتشاف قلب بت واحد:

import base64

from cryptography.fernet import Fernet, InvalidToken

# ⁨في بيئة الإنتاج، يأتي المفتاح من خدمة لإدارة المفاتيح ولا يُخزّن مطلقًا مع البيانات⁩
cipher = Fernet(Fernet.generate_key())

label = b"0 0.48 0.63 0.21 0.37\n"  # ⁨سطر تعليق توضيحي واحد لـ YOLO⁩
token = cipher.encrypt(label)  # ⁨نص مشفّر باستخدام AES-128-CBC مع وسم HMAC-SHA256⁩
print(cipher.decrypt(token) == label)

# ⁨اقلب بتًا واحدًا من النص المشفّر المخزن، كما يحدث عند التلاعب أو تلف القرص⁩
raw = bytearray(base64.urlsafe_b64decode(token))
raw[30] ^= 1
try:
    cipher.decrypt(base64.urlsafe_b64encode(bytes(raw)))
except InvalidToken:
    print("Integrity check failed: decryption refused")

يطبع السطر الأول True لأن الرمز السليم يُفك تشفيره ليعود إلى التسمية الأصلية. وبعد تغير بت واحد من النص المشفّر، لا يعود وسم HMAC متطابقًا، لذا يثير decrypt الاستثناء InvalidToken ويطبع Integrity check failed: decryption refused من دون إرجاع أي بيانات معدّلة.

أمن البيانات في التعلم الآلي#

تضيف أنظمة الذكاء الاصطناعي أسطح هجوم لا توجد في قواعد البيانات العادية:

• تسميم البيانات: يُدرج المهاجم القادر على الكتابة إلى مجموعة بيانات أو قائمة انتظار للتوسيم أو مصدر ويب مستخرج عينات تجعل النموذج المدرّب يتصرف على نحو خاطئ، غالبًا عند ظهور محفّز خفي فقط.
• ملفات النماذج غير الآمنة: قد تنفّذ نقاط التحقق المحفوظة باستخدام pickle في Python شيفرة عشوائية عند تحميلها. جعل PyTorch 2.6 القيمة الافتراضية لـtorch.load هي weights_only=True، التي لا تقبل سوى الموترات والأنواع البسيطة، كما يخزّن تنسيق safetensors الموترات فقط.
• هجمات استدلال العضوية: قد تكشف استعلامات النموذج المدرّب ما إذا كان سجل محدد ضمن مجموعة تدريبه، لذا تحتاج الأوزان المدرّبة على بيانات حساسة إلى الحماية نفسها التي تحتاج إليها البيانات.
• حقن المطالبات: يمكن للتعليمات المخفية في المستندات أو صفحات الويب أن تدفع تطبيقًا يعتمد على نموذج لغوي كبير (LLM) إلى كشف بيانات من سياقه أو إرسالها إلى مهاجم عبر أدواته.
• الذكاء الاصطناعي الخفي: يلصق الموظفون بيانات سرية في أدوات ذكاء اصطناعي لم توافق عليها المؤسسة، متجاوزين ضوابط الوصول وسجلاتها.

ترفع بيانات الرؤية الحاسوبية مستوى المخاطر، لأن صور الأشخاص والمنازل والمركبات والمرضى غالبًا ما تتضمن معلومات شخصية. وفي الرعاية الصحية، تخضع الصور الممسوحة ضوئيًا التي تستخدمها المستشفيات الأمريكية في تحليل الصور الطبية لـقاعدة أمن HIPAA، التي تشترط ضمانات إدارية ومادية وتقنية للمعلومات الصحية الإلكترونية المحمية. وتُبقي معالجة الإطارات على الكاميرا باستخدام الذكاء الاصطناعي الطرفي الفيديو الخام خارج الشبكة تمامًا، ويدرّب التعلم الاتحادي نموذجًا مشتركًا مع احتفاظ كل موقع ببياناته، بينما يشغّل الذكاء الاصطناعي السري التدريب أو الاستدلال على بيانات حساسة داخل بيئات عتادية مشفّرة ومعزولة في السحابة. وبالنسبة إلى مجموعات البيانات التي يجب أن تبقى داخل شبكة الشركة، يشغّل تكامل On Premise في منصة Ultralytics استيعاب مجموعات البيانات ومعايناتها وتدريبها على حاسوب الشركة نفسه: يوصّل العامل مجلد مجموعة البيانات بوضع القراءة فقط ويتصل خارجيًا عبر HTTPS دون فتح منافذ واردة، ولا تصل وحدات بكسل الصور إلى المنصة مطلقًا، إذ لا تتلقى سوى التسميات والمقاييس وأفضل نقطة تحقق.

أمن البيانات مقابل خصوصية البيانات#

تتعلق خصوصية البيانات بمشروعية جمع البيانات الشخصية واستخدامها ومشاركتها والاحتفاظ بها، وبمدى توافق ذلك مع ما أُبلغ به الأشخاص، بموجب قوانين مثل GDPR. ويوفر أمن البيانات وسائل الحماية التقنية والتنظيمية التي تعتمد عليها التزامات الخصوصية، كما يشمل جميع البيانات ذات القيمة، بما فيها الأسرار التجارية والشيفرة المصدرية وأوزان النماذج التي لا تتضمن معلومات شخصية. وتقع تقنيات تعزيز الخصوصية، مثل الخصوصية التفاضلية، بين المجالين، إذ تحد من المعلومات التي يكشفها نموذج أو إحصاء منشور عن أي شخص. والاختراق إخفاق أمني يتحول إلى حادثة خصوصية عند كشف بيانات شخصية: فبموجب المادة 33 من GDPR، أمام الجهة المتحكمة 72 ساعة من وقت علمها بالاختراق لإبلاغ السلطة الإشرافية، ما لم يكن من المستبعد أن يعرّض الاختراق حقوق الأشخاص وحرياتهم للخطر.