Cómo saber si una imagen se ha generado con IA

Los modelos de generación de imágenes son cada vez más avanzados y vemos un aumento de las imágenes de inteligencia artificial (IA) muy realistas. El debate sobre si una imagen es de IA o una foto real cobra cada vez más relevancia, ya que resulta más difícil distinguirlas. Se han dado muchos casos en los que las imágenes generadas por IA han engañado a la gente en Internet. Hemos visto al papa Francisco con una chaqueta acolchada y a Katy Perry en la Met Gala de 2024. Ambas eran imágenes creadas por IA generativa. En otras palabras, no eran reales. Sin embargo, a primera vista, la gente en Internet creyó que sí lo eran.

A veces, esta confusión puede resultar divertida, pero con más frecuencia plantea un serio dilema ético. Igual que es importante mantenerse al día sobre cómo funciona la IA generativa, también es fundamental saber cómo detectar si algo se ha generado con IA. En este artículo analizaremos con más detalle las imágenes generadas por IA, entenderemos las ventajas y desventajas del arte creado con IA, hablaremos de cuestiones legales y exploraremos métodos y herramientas clave para distinguir estas imágenes de las reales.

¿Qué son exactamente las imágenes generadas por IA?#

Las imágenes de IA se crean con modelos de generación de imágenes que utilizan redes neuronales entrenadas con grandes conjuntos de datos para generar imágenes realistas. Su capacidad para combinar estilos, conceptos y características y crear imágenes artísticas y relevantes resulta impresionante. Durante el entrenamiento, los modelos de generación de imágenes aprenden distintas características y detalles a partir de esas imágenes. Así pueden crear imágenes nuevas cuyo estilo y contenido se parecen a los de las imágenes aprendidas.

Hay muchos tipos de modelos de generación de imágenes, cada uno con sus propias características. Por ejemplo, las redes generativas antagónicas (GANs) utilizan dos redes neuronales que trabajan conjuntamente para crear imágenes realistas parecidas a los datos de entrenamiento. Los modelos de difusión generan imágenes convirtiendo gradualmente el ruido aleatorio en imágenes nítidas. Los Transformers, como los que se utilizan en modelos como DALL-E, emplean mecanismos de autoatención para generar imágenes a partir de descripciones textuales.

Fig. 1. Generada por DALL-E 2. Indicación: un sillón con forma de aguacate.

Cualquiera puede crear imágenes con IA usando herramientas como ChatGPT de OpenAI, Midjourney, Gencraft o Stable Diffusion. Estas imágenes aparecen por todo Internet y, a menudo, sin ninguna etiqueta que indique que se han generado con IA.

Ventajas e inconvenientes del arte creado con IA#

Al igual que la fotografía o la pintura, muchas personas consideran que la generación de imágenes con IA es una nueva forma de arte. Las obras creadas con IA se venden por miles de dólares y ganan concursos de arte. Esto plantea la pregunta: ¿es positivo el arte generado con IA y cuáles son las ventajas y desventajas de esta generación de imágenes?

Fig. 2. Obra de arte generada con IA.

Hay opiniones diversas al respecto. Por ejemplo, las pequeñas empresas con presupuestos ajustados pueden considerar que el arte generado es una ventaja. Pueden crear imágenes personalizadas que encajen a la perfección con su marca y sus necesidades de marketing. Estas herramientas ahorran tiempo al producir rápidamente elementos visuales de alta calidad y ayudan a que los proyectos creativos sigan su curso. En cuanto a la inspiración de los artistas, la generación de imágenes ofrece acceso a una amplia biblioteca de opciones únicas. Un artista puede visualizar fácilmente una idea antes de hacerla realidad.

Sin embargo, las imágenes generadas con IA suelen carecer de profundidad emocional y pueden tener dificultades para capturar experiencias humanas auténticas. A veces, la calidad es irregular y las imágenes aparecen pixeladas o poco realistas. Depender demasiado de la IA puede frenar la creatividad y el pensamiento crítico. También existe el riesgo de un uso indebido. Las imágenes de IA se pueden manipular fácilmente y dar lugar a información errónea. Además, estas herramientas pueden tener una curva de aprendizaje pronunciada y arrastrar sesgos de los datos con los que se han entrenado. Estos son otros inconvenientes del arte creado con IA:

• Cuestiones éticas: Las cuestiones de propiedad intelectual relacionadas con la autoría, la titularidad y los derechos de autor del arte generado con IA pueden ser complejas y polémicas.
• Desplazamiento laboral: El uso generalizado de la IA en el arte podría reducir las oportunidades para artistas y diseñadores.
• Insensibilidad cultural: Es posible que el arte creado con IA no entienda ni respete los contextos culturales, lo que puede dar lugar a creaciones inapropiadas u ofensivas.

Las zonas grises legales de las imágenes generadas con IA#

A medida que avanza la IA, como sociedad seguimos tratando de comprender sus implicaciones legales (por ejemplo, en materia de derechos de autor). A diferencia de las creaciones tradicionales, las imágenes generadas por IA no pueden estar protegidas por derechos de autor en algunos países, como EE. UU., porque dicha protección exige autoría humana. La situación se complica porque el entrenamiento de la IA suele utilizar enormes cantidades de datos recopilados de Internet, que pueden incluir material protegido por derechos de autor. Por este motivo, muchas personas están protestando contra el uso de contenido protegido por derechos de autor para entrenar modelos de IA y reclaman una regulación mejor.

Algunas empresas incluso han presentado demandas. Getty Images, un proveedor de imágenes de archivo, presentó una demanda contra Stability AI, un generador de arte con IA, por presuntamente duplicar y utilizar con fines comerciales la biblioteca de imágenes de Getty. Varias imágenes generadas por el modelo de texto a imagen de Stability AI llevan la marca de agua de Getty. Un grupo de artistas también ha demandado a DeviantArt y a otras dos empresas de IA en una demanda colectiva que sostiene que las obras generadas por IA infringen las leyes de derechos de autor.

Cómo comprobar si una imagen se ha generado con IA#

Aprender a detectar imágenes generadas por IA es fundamental, ya que su uso en noticias falsas para engañar a la gente ha aumentado, especialmente durante las elecciones. En un estudio, los investigadores lograron utilizar generadores populares de imágenes con IA para crear desinformación electoral, incluidas imágenes engañosas de votantes y papeletas, en el 41 % de las pruebas.

Fig. 3. Imagen falsa de cajas con papeletas en un contenedor de basura.

Las imágenes de IA también afectan a los consumidores. Un estudio reciente de Attest reveló que la mayoría de los consumidores (el 76 %) no distingue entre imágenes auténticas e imágenes generadas con IA. Así puedes saber si una imagen se ha generado con IA.

Comprueba el título, la descripción y las etiquetas de la imagen#

Puede parecer obvio, pero la forma más sencilla de detectar imágenes de IA es comprobar si la descripción y las etiquetas incluyen «Generada con IA». Como todavía hay muchas dudas sobre las imágenes de IA, las empresas que las generan o conceden licencias para usarlas hacen todo lo posible por ser transparentes sobre su origen. Las agencias de fotografía de archivo que permiten incluir imágenes de IA en sus bibliotecas exigen a sus colaboradores que indiquen «Generada con IA» en el título, la descripción y las etiquetas de la imagen (lo que facilita buscar imágenes de IA o excluirlas al consultar sus catálogos). Buscar estas etiquetas es la forma más sencilla de detectar una imagen generada con IA.

Busca marcas de agua#

Otra forma de identificar imágenes generadas con IA es buscar marcas de agua, ya que muchas herramientas de IA las añaden. Pueden ser pequeños logotipos, texto o metadatos. Por ejemplo, DALL-E 3 de OpenAI utiliza metadatos invisibles C2PA y un símbolo visible de Content Credentials (CR) en la esquina superior izquierda. Sin embargo, el logotipo solo se ve al comprobar la imagen en un sitio de verificación de credenciales de contenido, como Content Credentials Verify. Las empresas pueden marcar sus imágenes de distintas formas, así que quizá tengas que familiarizarte con varios indicadores.

Fig. 4. Las imágenes generadas por ChatGPT incluirán metadatos C2PA (fuente: openai.com)

Google anunció recientemente SynthID, una forma innovadora de añadir marcas de agua a las imágenes de IA. SynthID permite incrustar una marca de agua digital directamente en los píxeles del contenido generado con IA. Es invisible para el ojo humano, pero se puede detectar para identificar el contenido. SynthID puede evaluar si probablemente se ha creado una imagen con una herramienta de IA buscando esta marca de agua digital.

Busca distorsiones o anomalías en la imagen#

Las imágenes generadas con IA suelen tener imperfecciones debido a las limitaciones de los algoritmos de aprendizaje profundo. Algunas anomalías frecuentes son:

• Fondos borrosos o anómalos: escaleras desalineadas, muebles con formas extrañas y detalles desenfocados.
• Incoherencias en el pelo: texturas poco naturales, patrones extraños o zonas borrosas.
• Aspecto excesivamente procesado: apariencia brillante y poco realista, con una mezcla de texturas borrosas y lisas.
• Errores en los accesorios: joyas deformadas, pendientes distintos y objetos distorsionados.
• Dedos extraños: dedos de más, pulgares que faltan u otras anomalías en las manos.

Fig. 5. Anomalías en una imagen generada con IA.

Estas señales ayudan a identificar imágenes generadas con IA. Sin embargo, los avances en IA podrían hacer que las imágenes futuras presenten menos defectos visibles.

Utiliza herramientas para identificar imágenes de IA#

Utilizar herramientas para identificar imágenes de IA es otra opción para detectarlas, aunque debes tener en cuenta que quizá no sean del todo precisas. Veamos algunas de las herramientas más populares para detectar imágenes de IA:

• AI Or Not: utiliza algoritmos avanzados y aprendizaje automático para autenticar rápidamente contenido real y falso. Resulta especialmente eficaz con imágenes falsas de NFT.
• Content at Scale: esta herramienta gratuita y sencilla proporciona una puntuación de probabilidad de que las imágenes sean humanas o de IA a partir de generadores populares.
• Illuminarty: ofrece un análisis exhaustivo de imágenes y textos generados con IA, e identifica modelos de IA y zonas específicas creadas con IA.
• Maybe's AI Art Detector: una herramienta fácil de usar que utiliza un modelo ViT para ofrecer un porcentaje que indica si las imágenes artísticas son humanas o artificiales.
• V7 Deepfake Detector: una extensión de Chrome para detectar imágenes deepfake de StyleGAN, útil para identificar perfiles falsos.
• Fake Image Detector: utiliza metadatos y análisis del nivel de error (ELA) para detectar imágenes manipuladas, pero es compatible con pocos formatos de archivo y puede fallar.

A medida que los medios generados con IA sigan extendiéndose y avanzando, estas herramientas serán aún más eficaces en el futuro.

Conclusiones clave#

A medida que los modelos de IA generativa se vuelven más inteligentes, resulta más difícil distinguir las imágenes generadas con IA de las fotos reales. Aunque esto resulta emocionante desde el punto de vista de los avances tecnológicos, también plantea inquietudes éticas. Es cierto que la IA ofrece una forma económica e innovadora de crear elementos visuales, pero hay que tener en cuenta los obstáculos legales y prácticos. Por suerte, se están desarrollando métodos y herramientas que nos ayudan a afrontar este nuevo dilema. Si nos mantenemos informados, podemos garantizar que el contenido visual siga siendo fiable.

Conecta con nuestra comunidad para aprender más sobre IA. Explora nuestro repositorio de GitHub para ver cómo utilizamos la IA para crear soluciones innovadoras en distintos sectores, como la sanidad y la agricultura. ¡Descubre nuevas oportunidades con nosotros!