Transparency in AI

La transparencia en la IA consiste en explicar abiertamente cómo se crea, entrena, evalúa y utiliza un sistema de inteligencia artificial (AI), y en informar a las personas cuando interactúan con uno. Responde a preguntas sobre el sistema en su conjunto: qué datos se usaron para entrenar el modelo, quién lo creó y con qué propósito, con qué eficacia funciona y para quién, para qué no debería utilizarse y si una conversación, una imagen o una decisión proceden de la IA. La transparencia permite a los usuarios calibrar su confianza, a los auditores y reguladores comprobar las afirmaciones sobre un sistema y a los investigadores detectar fallos como el sesgo algorítmico; por eso, los Principios de la OCDE sobre IA y la mayoría de los demás marcos de ética de la IA la incluyen como principio fundamental.

Formas de transparencia#

• Comunicación: Se informa a las personas cuando interactúan con un sistema de IA o ven contenido generado por IA. El artículo 50 de la Ley de IA de la UE, aplicable desde el 2 de agosto de 2026, exige que los chatbots indiquen claramente que los usuarios están hablando con una máquina, que los proveedores de sistemas generativos marquen sus resultados en un formato legible por máquina y que quienes los implementen etiqueten los deepfakes. Estándares como Content Credentials (C2PA) y las marcas de agua para IA aplican este marcado.
• Documentación: Una ficha del modelo describe el uso previsto del modelo, los datos de entrenamiento, los resultados de evaluación desglosados por grupo y las limitaciones conocidas; las fichas de datos para conjuntos de datos hacen lo mismo con los datos y documentan su motivación, composición, proceso de recopilación y usos recomendados. En virtud de la Ley de IA de la UE, los proveedores de modelos de IA de propósito general también deben publicar un resumen del contenido de entrenamiento con una plantilla que la Comisión Europea publicó en julio de 2025.
• Acceso: Publicar los pesos, el código o los datos permite a terceros inspeccionar, reproducir y probar un modelo directamente, en lugar de depender de los informes de su desarrollador.
• Explicaciones de los resultados: Se pueden explicar decisiones concretas mediante métodos de inteligencia artificial explicable (XAI), que el RGPD y la Ley de IA de la UE exigen en algunos contextos de alto riesgo.

El acceso tiene distintos grados. Un modelo cerrado solo se puede utilizar a través de la API de su desarrollador; un modelo de pesos abiertos publica sus parámetros; y la versión 1.0 de la Definición de IA de código abierto de la Open Source Initiative, publicada en octubre de 2024, también exige el código completo de entrenamiento e inferencia y suficientes detalles sobre los datos de entrenamiento, incluidos su procedencia y procesamiento, para que una persona cualificada pueda crear un sistema sustancialmente equivalente:

Transparencia frente a explicabilidad#

Los términos se solapan y a veces se usan juntos, como en «transparencia y explicabilidad». La transparencia se refiere al sistema y al proceso que lo ha generado, y se aplica incluso a un modelo que nadie puede interpretar, por ejemplo, cuando un desarrollador documenta los datos de entrenamiento y los resultados de las pruebas. La explicabilidad se refiere al motivo por el que un modelo ha generado un resultado concreto, como qué píxeles han determinado una clasificación. Los modelos interpretables, como los pequeños árboles de decisión, son comprensibles por diseño, y la interpretabilidad mecanicista aplica ingeniería inversa a los circuitos internos de las redes grandes. La procedencia de los datos, es decir, el registro del origen de los datos y de los cambios que han experimentado, proporciona gran parte de la información que contienen los informes de transparencia.

Documentación que acompaña al modelo#

La documentación es más útil cuando permanece vinculada al modelo después de implementarlo. Ultralytics YOLO26 escribe en cada modelo exportado una descripción del modelo y de su conjunto de datos de entrenamiento, la versión de la biblioteca, la fecha de exportación, la tarea, el tamaño de entrada y los nombres de las clases, por ejemplo, en las propiedades de metadatos de un archivo ONNX; Ultralytics vuelve a leer esos campos para ejecutar el modelo correctamente:

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

Los campos impresos identifican el modelo, sus datos de entrenamiento, el software con el que se exportó y cuándo se hizo, sin necesidad de acceder a la ejecución de entrenamiento original.

Medición de la transparencia#

El Índice de Transparencia de Modelos Fundacionales de Stanford puntúa a los principales desarrolladores de IA en 100 indicadores que abarcan los datos y la capacidad de cálculo empleados para crear sus modelos insignia, los propios modelos y su uso tras la publicación. En la edición de 2025, que evaluó a 13 desarrolladores, la media bajó de 58 en 2024 a 40 sobre 100; los desarrolladores fueron especialmente opacos con respecto a los datos y la capacidad de cálculo de entrenamiento, mientras que IBM obtuvo la puntuación más alta del índice, con 95.