Data Provenance

La procedencia de los datos es el historial documentado de un dato: de dónde procede, quién lo creó o recopiló, con qué licencia o consentimiento y qué transformaciones se le aplicaron antes de que llegara a un modelo. En aprendizaje automático, la procedencia abarca las imágenes o el texto sin procesar, el etiquetado de datos que se les aplicó, los pasos de limpieza y preprocesamiento de datos, las particiones y versiones de los conjuntos de datos, y las ejecuciones de entrenamiento que los utilizaron. Así, se puede rastrear cualquier modelo implementado hasta los datos de entrenamiento exactos de los que procede. A menudo, se utiliza «linaje de datos» como sinónimo. Cuando se distingue entre ambos conceptos, el linaje describe cómo fluyen y se transforman los datos en canalizaciones y sistemas, mientras que la procedencia también incluye el origen, la propiedad y los derechos de uso.

El modelo PROV del W3C#

En 2013, el W3C publicó PROV, una familia de estándares para representar la procedencia. Describe cualquier historial mediante tres tipos de elementos: entidades, como archivos y conjuntos de datos; actividades, como la anotación o el entrenamiento, que utilizan y generan entidades; y agentes, como personas, organizaciones o software, responsables de las actividades. Aplicado a un conjunto de datos de visión, el registro forma un grafo:

Por qué importa la procedencia#

La procedencia es útil, en primer lugar, para la depuración y la reproducibilidad. Cuando la precisión cae o aparece una deriva de datos en producción, permite al equipo de ingeniería averiguar qué lote de etiquetado, cámara de origen o paso de limpieza introdujo el problema y repetir el entrenamiento exactamente con los mismos datos. Los mismos registros también revelan el sesgo del conjunto de datos, como el de un conjunto de datos de peatones capturado solo de día o en un único país, y ayudan a detectar el envenenamiento de datos: si se conoce el origen de cada muestra, se pueden eliminar todas las muestras de un origen comprometido.

Los derechos son la segunda preocupación. La Data Provenance Initiative auditó más de 1.800 conjuntos de datos de texto en 2023 y descubrió que, en los sitios de alojamiento más populares, faltaban las licencias de más del 70 % y estaban mal categorizadas las de más del 50 %. En el análisis de imágenes médicas, los registros de procedencia indican qué hospital proporcionó cada exploración, el consentimiento o la base jurídica para utilizarla y si se eliminaron los identificadores; son datos que las leyes de privacidad de datos exigen a las organizaciones demostrar. A medida que se difunden por internet imágenes y textos generados, registrar qué muestras son datos sintéticos también ayuda a evitar el colapso del modelo, y Content Credentials incorpora esa procedencia en los propios archivos multimedia.

La normativa ya lo exige. El Reglamento de IA de la UE obliga a los proveedores de sistemas de alto riesgo a documentar los procesos de recopilación y el origen de los datos, y a los proveedores de modelos de IA de propósito general a publicar un resumen del contenido de entrenamiento usando una plantilla que la Comisión Europea publicó en julio de 2025.

Cómo registrar la procedencia en la práctica#

La procedencia se recopila en tres niveles. La documentación de conjuntos de datos, como Datasheets for Datasets, propuesta por Timnit Gebru y sus colegas en 2018, responde a preguntas sobre la motivación, la composición, el proceso de recopilación, el preprocesamiento y los usos previstos de un conjunto de datos, y se complementa con fichas de modelos para los modelos entrenados con él. Las herramientas de control de versiones crean instantáneas de los conjuntos de datos e identifican los archivos mediante hashes de contenido, para que un modelo pueda apuntar a una versión inmutable del conjunto de datos. Las herramientas de canalización generan eventos de linaje durante la ejecución de los trabajos, siguiendo especificaciones abiertas como OpenLineage.

El tercer nivel son los metadatos almacenados en los propios artefactos. Cada ejecución de entrenamiento de Ultralytics YOLO escribe su configuración completa, incluida la ruta del YAML del conjunto de datos y los ajustes de aumento de datos, en args.yaml, dentro del directorio de la ejecución. Además, el punto de control guardado incluye los mismos argumentos de entrenamiento, junto con la versión de Ultralytics y la fecha de guardado:

from ultralytics import YOLO

# Carga un punto de control; los archivos de pesos de Ultralytics guardan un registro de la ejecución que los generó
model = YOLO("yolo26n.pt")
ckpt = model.ckpt

# Conjunto de datos y ajustes utilizados para el entrenamiento, además de la versión del paquete y la fecha de guardado
print(ckpt["train_args"]["data"], ckpt["train_args"]["epochs"], ckpt["train_args"]["imgsz"])
print(ckpt["version"], ckpt["date"])

Este registro vincula los pesos del modelo con la referencia a los datos y los ajustes que los generaron: son las pruebas en las que se basan las revisiones de transparencia en IA y gobernanza de la IA. Al terminar el entrenamiento, Ultralytics elimina el estado del optimizador de best.pt para reducir su tamaño, pero conserva estos campos, de modo que el registro acompaña al archivo implementado.