Data Privacy

La privacidad de los datos es el derecho de las personas a controlar cómo se recopila, utiliza, comparte y conserva su información personal, junto con las leyes y prácticas que siguen las organizaciones para respetar ese derecho. En la inteligencia artificial, lo que está en juego es más importante que en el software convencional: los modelos se construyen a partir de grandes colecciones de datos de entrenamiento que a menudo describen a personas, pueden memorizar y repetir esos datos, y sistemas como el de reconocimiento facial procesan información personal por diseño.

Leyes y principios básicos#

El Reglamento General de Protección de Datos (GDPR) de la UE, en vigor desde mayo de 2018, establece los principios de referencia en su artículo 5: los datos personales deben tratarse de forma lícita, leal y transparente; recopilarse con fines determinados (limitación de la finalidad); limitarse a lo necesario (minimización de datos); mantenerse exactos; almacenarse solo durante el tiempo necesario (limitación del plazo de conservación); y protegerse con medidas de seguridad adecuadas, y el responsable del tratamiento debe poder demostrar que cumple la normativa (responsabilidad proactiva). El artículo 25 exige la protección de datos desde el diseño y por defecto, y el artículo 22 reconoce derechos respecto a las decisiones basadas únicamente en el tratamiento automatizado. Las multas pueden alcanzar los 20 millones de euros o el 4 % del volumen de negocio anual mundial, la cantidad que sea mayor.

Otras leyes siguen patrones similares. La CCPA de California, ampliada por la CPRA, otorga a sus residentes derechos a conocer, eliminar y excluirse de la venta o el intercambio de sus datos. En el ámbito sanitario estadounidense, la norma de desidentificación de HIPAA enumera 18 identificadores que deben eliminarse conforme al método de puerto seguro, incluidas las fotografías faciales completas e imágenes comparables. La Ley de IA de la UE añade normas específicas para la IA y, desde febrero de 2025, prohíbe crear bases de datos de reconocimiento facial mediante la extracción indiscriminada de imágenes faciales de Internet o de grabaciones de CCTV.

Que un conjunto de datos esté sujeto a estas leyes depende de si permite identificar a las personas:

La anonimización es más difícil de lo que parece. En 2000, Latanya Sweeney demostró que el código postal, el género y la fecha de nacimiento bastan para identificar de forma única a cerca del 87 % de la población de Estados Unidos, por lo que eliminar los nombres rara vez convierte un conjunto de datos en anónimo.

Riesgos de privacidad específicos de la IA#

Los modelos pueden memorizar y reproducir sus ejemplos de entrenamiento. Nicholas Carlini y sus colaboradores extrajeron más de mil imágenes de entrenamiento de modelos de difusión, incluidas fotografías de personas concretas. Incluso sin extraer datos, los ataques de inferencia de pertenencia pueden revelar si el registro de una persona concreta estaba en un conjunto de entrenamiento, algo especialmente sensible en un modelo entrenado con pacientes que padecen una enfermedad determinada.

La recopilación es el otro riesgo importante. A menudo, las imágenes y los textos recopilados para un fin se reutilizan para entrenar modelos sin una base jurídica, y varias autoridades europeas de protección de datos multaron a Clearview AI por crear una base de datos faciales a partir de fotografías extraídas de Internet; entre ellas, la autoridad neerlandesa le impuso una multa de 30,5 millones de euros en 2024. Dentro de las organizaciones, los datos personales que se pegan en chatbots externos mediante herramientas de IA en la sombra escapan al control de la organización.

Técnicas de protección de la privacidad#

• Privacidad diferencial: Añade ruido calibrado a las estadísticas o al entrenamiento para que los resultados no revelen prácticamente nada sobre ninguna persona en concreto.
• Aprendizaje federado: Entrena con los datos donde se encuentran, por ejemplo en teléfonos o servidores hospitalarios, y solo comparte las actualizaciones del modelo.
• Datos sintéticos: Sustituyen los registros reales por otros generados que conservan sus patrones estadísticos.
• IA confidencial e IA en el borde: Procesan los datos en enclaves de hardware con atestación o en el dispositivo que los capturó.

La censura elimina contenido identificativo antes del almacenamiento o el entrenamiento. Las canalizaciones de visión artificial desenfocan rostros y matrículas en imágenes de calles para el análisis del tráfico de ciudades inteligentes, y los conjuntos de datos de análisis de imágenes médicas eliminan los identificadores de pacientes de las cabeceras DICOM y los rasgos faciales de las exploraciones de la cabeza. En Ultralytics Platform, la acción Desenfocar rostros muestra una vista previa de los rostros detectados en imágenes de muestra y después sustituye sus píxeles en todas las imágenes del conjunto de datos. También se puede configurar un conjunto para que desenfoque automáticamente los rostros en cada nueva carga.

La seguridad de los datos es uno de los requisitos de la privacidad de los datos: el cifrado y el control de acceso impiden que personas no autorizadas accedan a los datos personales, pero una base de datos perfectamente protegida puede infringir las leyes de privacidad si contiene datos recopilados sin una base jurídica o conservados más tiempo del necesario para su finalidad.