Data Security

La seguridad de los datos protege los datos digitales frente al acceso no autorizado, el robo, la manipulación y la pérdida durante todo su ciclo de vida, desde la recopilación y el almacenamiento hasta el procesamiento, el intercambio y la eliminación. Sus objetivos suelen resumirse en la tríada CIA: confidencialidad, para que solo las personas y los sistemas autorizados puedan leer los datos; integridad, para que se mantengan precisos y sin alteraciones; y disponibilidad, para que puedan utilizarse cuando sea necesario. El Marco de ciberseguridad 2.0 del NIST, publicado en febrero de 2024, organiza el trabajo en seis funciones: gobernar, identificar, proteger, detectar, responder y recuperarse. En el aprendizaje automático, los datos que deben protegerse incluyen los datos de entrenamiento y sus etiquetas, los pesos del modelo que codifican lo aprendido a partir de esos datos, las imágenes y las instrucciones enviadas para inferencia, y los registros que los documentan.

Controles básicos#

La seguridad de los datos combina varias capas para que el fallo de un control no lo deje todo expuesto:

• Cifrado: Los datos en reposo se cifran con algoritmos como AES-256, y los datos en tránsito se transmiten mediante TLS.
• Control de acceso: Cada persona y servicio obtiene los privilegios mínimos que necesita mediante roles, autenticación multifactor y credenciales de corta duración en lugar de contraseñas compartidas.
• Gestión de claves y secretos: Las claves de cifrado se guardan en un servicio de gestión de claves o en un módulo de seguridad de hardware, separados de los datos, y se rotan según un calendario. Las claves de API no deben incluirse en el código fuente ni en los notebooks.
• Comprobaciones de integridad y copias de seguridad: Las sumas de comprobación y las firmas digitales detectan archivos alterados, y las copias de seguridad inmutables y con versiones permiten recuperarse del ransomware o de eliminaciones accidentales.
• Registro de auditoría: Se registra cada lectura, escritura y cambio de permisos, para poder detectar e investigar accesos inusuales, como que una cuenta descargue un conjunto de datos completo durante la noche.

El cifrado autenticado proporciona confidencialidad e integridad a la vez. En este ejemplo se utiliza Fernet del paquete cryptography de Python para cifrar una línea de un archivo de etiquetas y, después, detectar un único bit cambiado:

import base64

from cryptography.fernet import Fernet, InvalidToken

# En producción, la clave procede de un servicio de gestión de claves y nunca se almacena junto a los datos
cipher = Fernet(Fernet.generate_key())

label = b"0 0.48 0.63 0.21 0.37\n"  # una línea de anotación YOLO
token = cipher.encrypt(label)  # texto cifrado AES-128-CBC más una etiqueta HMAC-SHA256
print(cipher.decrypt(token) == label)

# Cambia un bit del texto cifrado almacenado, como ocurriría por manipulación o daños en el disco
raw = bytearray(base64.urlsafe_b64decode(token))
raw[30] ^= 1
try:
    cipher.decrypt(base64.urlsafe_b64encode(bytes(raw)))
except InvalidToken:
    print("Integrity check failed: decryption refused")

La primera línea imprime True porque el token intacto se descifra y recupera la etiqueta original. Cuando cambia un bit del texto cifrado, la etiqueta HMAC deja de coincidir, por lo que decrypt genera InvalidToken e imprime Integrity check failed: decryption refused sin devolver ningún dato alterado.

Seguridad de los datos en el aprendizaje automático#

Los sistemas de IA añaden superficies de ataque que las bases de datos convencionales no tienen:

• Envenenamiento de datos: Un atacante con capacidad para escribir en un conjunto de datos, una cola de etiquetado o una fuente web rastreada introduce muestras que hacen que el modelo entrenado se comporte de forma incorrecta, a menudo solo cuando aparece un activador oculto.
• Archivos de modelo no seguros: Los puntos de control guardados con pickle de Python pueden ejecutar código arbitrario al cargarse. PyTorch 2.6 estableció torch.load como valor predeterminado para weights_only=True, que rechaza todo salvo tensores y tipos simples, y el formato safetensors solo almacena tensores.
• Ataques de inferencia de pertenencia: Consultar un modelo entrenado puede revelar si un registro concreto formaba parte de su conjunto de entrenamiento, por lo que los pesos entrenados con datos confidenciales necesitan la misma protección que esos datos.
• Inyección de instrucciones: Las instrucciones ocultas en documentos o páginas web pueden hacer que una aplicación basada en un LLM revele datos de su contexto o se los envíe a un atacante mediante sus herramientas.
• IA en la sombra: Los empleados pegan datos confidenciales en herramientas de IA que la organización no ha aprobado, al margen de sus controles de acceso y registros.

Los datos de visión artificial elevan el riesgo porque las imágenes de personas, hogares, vehículos y pacientes suelen contener información personal. En sanidad, las imágenes que los hospitales estadounidenses utilizan para el análisis de imágenes médicas están sujetas a la Regla de seguridad de la HIPAA, que exige salvaguardas administrativas, físicas y técnicas para la información sanitaria electrónica protegida. Procesar los fotogramas en la cámara con IA en el borde evita por completo que el vídeo sin procesar llegue a la red; el aprendizaje federado entrena un modelo compartido mientras cada centro conserva sus datos; y la IA confidencial ejecuta el entrenamiento o la inferencia con datos confidenciales dentro de entornos seguros cifrados en hardware en la nube. Para los conjuntos de datos que deben permanecer dentro de la red de una empresa, la integración local de Ultralytics Platform ejecuta la incorporación de conjuntos de datos, las vistas previas y el entrenamiento en los propios equipos de la empresa: el trabajador monta la carpeta del conjunto de datos en modo de solo lectura y se conecta al exterior mediante HTTPS sin abrir puertos de entrada, y los píxeles de las imágenes nunca llegan a Platform, que solo recibe etiquetas, métricas y el mejor punto de control.

Seguridad de los datos frente a privacidad de los datos#

La privacidad de los datos se refiere a si los datos personales se recopilan, utilizan, comparten y conservan de forma lícita y conforme a lo que se ha comunicado a las personas, en virtud de leyes como el RGPD. La seguridad de los datos proporciona las protecciones técnicas y organizativas de las que dependen los compromisos de privacidad y abarca todos los datos valiosos, incluidos los secretos comerciales, el código fuente y los pesos de modelos que no contienen información personal. Las técnicas de mejora de la privacidad, como la privacidad diferencial, se sitúan entre ambas y limitan lo que un modelo o una estadística publicados revelan sobre una persona concreta. Una brecha es un fallo de seguridad que se convierte en un incidente de privacidad cuando quedan expuestos datos personales: según el artículo 33 del RGPD, el responsable del tratamiento tiene 72 horas desde que tiene conocimiento de la brecha para notificarla a su autoridad de control, salvo que sea improbable que ponga en riesgo los derechos y libertades de las personas.