Shadow AI

La IA en la sombra es el uso de herramientas, modelos y servicios de inteligencia artificial dentro de una organización sin que lo sepan ni lo aprueben los equipos de TI, seguridad o cumplimiento normativo. Algunos casos habituales son empleados que pegan información del trabajo en una cuenta personal de un asistente de IA generativa, desarrolladores que llaman a una API de modelos no revisada y equipos que activan funciones de IA en programas que ya utilizan. La IA en la sombra es un subconjunto de la TI en la sombra, el antiguo problema de las aplicaciones y servicios en la nube no aprobados, y crece por la misma razón: las herramientas son gratuitas o baratas, se adoptan en cuestión de minutos y permiten trabajar más rápido.

En qué se diferencia la IA en la sombra de la TI en la sombra#

Los servicios de IA procesan los datos que reciben, además de almacenarlos. Cada instrucción enviada a un modelo de lenguaje grande (LLM) sale de la organización, y los planes para consumidores pueden conservar las conversaciones o utilizarlas como datos de entrenamiento, salvo que el usuario opte por no hacerlo. En 2023, unos ingenieros de Samsung pegaron código fuente confidencial y notas de reuniones en ChatGPT; después, la empresa restringió las herramientas de IA generativa en sus dispositivos.

Los riesgos también se dan en sentido inverso. Las respuestas de un asistente no revisado pueden contener alucinaciones, código inseguro o texto con una licencia poco clara que acaba en productos y decisiones sin que nadie lo compruebe. Los pesos de modelos descargados de repositorios públicos como Hugging Face pueden ejecutar código arbitrario al cargarse si utilizan el formato pickle de Python; por eso, el formato safetensors solo almacena tensores. Los agentes de IA conectados al correo electrónico, calendarios o repositorios de código con un token personal de un empleado pueden actuar en los sistemas de la empresa; además, una página web o un documento malicioso puede dirigirlos mediante una inyección de instrucciones.

El coste se refleja en los datos sobre filtraciones. El informe Cost of a Data Breach 2026 de IBM reveló que el 43 % de las organizaciones afectadas que estudió tuvo incidentes relacionados con la IA en la sombra, frente al 20 % del año anterior, y que esas filtraciones costaron una media de 5,39 millones de dólares, frente a una media general de 4,99 millones.

Formas habituales de IA en la sombra#

• Chatbots y asistentes de escritura: Cuentas personales que se usan para resumir contratos, depurar código propietario o redactar respuestas que incluyen datos de clientes.
• Funciones de IA integradas: Un proveedor añade transcripción, resúmenes o notas de reuniones a una herramienta aprobada, y la función empieza a enviar datos a un nuevo subencargado del tratamiento sin una nueva revisión.
• Modelos y API no evaluados: Los desarrolladores envían imágenes a una API externa de visión o implementan pesos descargados cuya licencia, procedencia y seguridad nadie ha comprobado.
• Extensiones y agentes del navegador: Herramientas que leen todas las páginas que abre un empleado o actúan en su nombre en cuentas conectadas.

Detectar y reducir la IA en la sombra#

El descubrimiento combina varias señales: registros de red y DNS que muestran el tráfico a puntos de conexión de IA, agentes de seguridad de acceso a la nube y herramientas de prevención de pérdida de datos que inspeccionan las cargas, inventarios de extensiones del navegador, informes de gastos de suscripciones de IA y claves de API, y encuestas o programas de amnistía en los que los equipos declaran qué herramientas usan. A continuación, cada herramienta descubierta pasa por el mismo proceso de clasificación que se muestra abajo y se incorpora al inventario del que depende la gobernanza de la IA.

Los programas que reducen la IA en la sombra combinan reglas claras sobre qué datos pueden introducirse en cada herramienta con opciones autorizadas igual de fáciles de usar: cuentas empresariales con la formación desactivada en los datos de clientes, una pasarela de IA que registra y filtra todo el tráfico de modelos y modelos autoalojados para los trabajos más sensibles. La formación en alfabetización en IA explica por qué existen las reglas y qué herramientas están aprobadas.

El trabajo de visión artificial tiene su propia versión del problema cuando las imágenes de personas, productos o instalaciones se guardan en cuentas personales en herramientas online de etiquetado y entrenamiento. En un espacio de trabajo de equipo de Ultralytics Platform, los conjuntos de datos, modelos e implementaciones que crea cualquier miembro pertenecen al equipo, todos los miembros pueden verlos y los roles de propietario, administrador, editor y lector determinan quién puede modificarlos.

La IA en la sombra es un problema de visibilidad que se convierte en incidentes de privacidad de datos y seguridad de datos, ya que un equipo de seguridad no puede evaluar, proteger ni supervisar una herramienta cuya existencia desconoce. El Marco de gestión de riesgos de IA del NIST aborda este problema en la subcategoría GOVERN 1.6, que pide mecanismos para inventariar los sistemas de IA y dotarlos de recursos según las prioridades de riesgo de la organización.