AI Washing

El lavado de IA consiste en exagerar o tergiversar cuánto utiliza un producto, servicio o empresa la inteligencia artificial, o lo que esa tecnología puede conseguir. Esto crea una brecha entre las capacidades anunciadas y el funcionamiento real: se lleva a clientes e inversores a esperar un nivel de inteligencia, autonomía o rendimiento que el sistema subyacente no ofrece.

El término toma como referencia el greenwashing, que describe las afirmaciones medioambientales engañosas. Jim Hare, analista de Gartner, utilizó «lavado de IA» en su análisis del 6 de julio de 2017 sobre proveedores de software empresarial que aprovechaban la disrupción de la IA, para describir a los proveedores que aplicaban la etiqueta de IA indiscriminadamente.

Cómo funciona el lavado de IA#

El lavado de IA convierte la complejidad técnica en una ventaja de marketing. Los compradores encuentran términos como inteligencia artificial, aprendizaje automático y «autónomo» sin información suficiente para relacionar esas descripciones con una función operativa. La tergiversación puede referirse a la existencia de la tecnología, a su contribución a un flujo de trabajo o a la solidez de sus resultados.

Entre los patrones habituales se incluyen:

• Exageración de capacidades: anunciar que un sistema realiza tareas al nivel de un experto cuando sus resultados carecen de pruebas que respalden esa afirmación.
• Ocultación de la participación humana: presentar un servicio como autónomo mientras las personas realizan partes sustanciales del trabajo anunciado.
• Exageración del rendimiento: extrapolar los resultados obtenidos en condiciones seleccionadas a un público o una tarea más amplios de lo que permite la evaluación.
• Adelanto de plazos: describir funciones de IA previstas como capacidades que el producto ya ofrece.

Estos patrones afectan a las decisiones de compra, inversión y contratación. También ocultan requisitos operativos: los clientes necesitan saber qué resultados requieren revisión, qué tareas gestiona el sistema y cómo afectan los errores a las decisiones posteriores.

El lavado de IA y conceptos relacionados#

La automatización robótica de procesos automatiza flujos de trabajo repetitivos, a menudo mediante reglas predefinidas. El aprendizaje automático detecta patrones en los datos, mientras que la IA simbólica utiliza conocimientos explícitos y reglas de razonamiento. Las descripciones precisas de los productos identifican el mecanismo y su función. Llamar IA a un sistema basado en reglas resulta engañoso cuando las afirmaciones asociadas prometen capacidades de aprendizaje o adaptación de las que el sistema carece.

Los flujos de trabajo con intervención humana asignan a las personas responsabilidades concretas de revisión o toma de decisiones. Las descripciones transparentes hacen visible esa contribución. Por ejemplo, Ultralytics Platform aplica anotación de datos asistida por IA: su función de anotación inteligente YOLO genera etiquetas preliminares a partir de las predicciones del modelo, que los anotadores pueden revisar, ajustar o eliminar. Así se identifican tanto la tarea automatizada como la función humana.

Una alucinación se produce cuando un modelo genera contenido incorrecto o sin fundamento. El lavado de IA se refiere a las afirmaciones que se hacen sobre el sistema. La IA explicable ayuda a interpretar el comportamiento del modelo; la transparencia en IA comunica las capacidades, las condiciones de evaluación y las responsabilidades. Ambas favorecen descripciones de productos de IA basadas en pruebas.

Ejemplos y consecuencias en el mundo real#

Los organismos reguladores adoptaron el término en sus medidas de cumplimiento. Gary Gensler, presidente de la SEC, advirtió a las empresas contra el «lavado de IA» en diciembre de 2023, y la FTC inició el caso contra DoNotPay que se describe a continuación como parte de la Operación AI Comply, su campaña de septiembre de 2024 contra las afirmaciones engañosas sobre IA.

La empresa de asesoramiento de inversiones Delphia afirmó que los datos de sus clientes reforzaban sus predicciones de inversión basadas en IA. La SEC determinó que, entre 2019 y 2023, la empresa carecía de las capacidades de IA y aprendizaje automático que anunciaba. En un acuerdo alcanzado el 18 de marzo de 2024, Delphia aceptó pagar una sanción civil de 225.000 dólares. Por separado, Global Predictions aceptó una sanción de 175.000 dólares por afirmaciones engañosas que incluían previsiones basadas en IA y la declaración de que era la primera empresa de asesoramiento financiero regulada que utilizaba IA.

DoNotPay anunció un servicio de IA como «el primer abogado robot del mundo» y afirmó que podía sustituir la experiencia jurídica humana. El acuerdo de resolución del caso contra DoNotPay exigió una compensación económica de 193.000 dólares y el envío de avisos a los suscriptores que cumplían los requisitos. La FTC finalizó la resolución en enero de 2025 y restringió las afirmaciones sin fundamento sobre la sustitución de servicios profesionales.

Pruebas que respaldan las afirmaciones sobre IA#

Una afirmación fundamentada relaciona una función concreta con sus entradas, resultados, evaluación y condiciones de funcionamiento. Una ficha del modelo documenta los usos previstos, los detalles de desarrollo y las limitaciones medidas. La procedencia de los datos establece de dónde procede el material de evaluación, mientras que los datos de prueba independientes permiten comprobar el rendimiento más allá de los ejemplos de desarrollo.

En visión por ordenador, las pruebas que respaldan una afirmación proceden de la propia tarea anunciada. Los resultados de la detección de objetos pueden incluir la precisión, la exhaustividad y la precisión media, junto con la composición del conjunto de datos y los resultados por clase. Las afirmaciones sobre velocidad requieren especificar el hardware, el tamaño de imagen, el tamaño del lote y el alcance de la medición.

La gobernanza de la IA vincula esos registros con las aprobaciones del producto y la revisión del marketing, de modo que cada afirmación publicada pueda rastrearse hasta una ficha del modelo, una evaluación o una función humana documentada.