Cómo saber si una imagen ha sido generada por IA

Los modelos de generación de imágenes son cada vez más avanzados y estamos viendo un aumento de imágenes de inteligencia artificial (AI) de aspecto realista. El debate entre fotos generadas por IA y fotos reales cobra cada vez más relevancia, ya que resulta más difícil distinguirlas. Ha habido varios casos en los que imágenes generadas por IA han engañado a Internet. Hemos visto al papa Francisco con una chaqueta acolchada y a Katy Perry en la Met Gala de 2024. Ambas eran imágenes fabricadas por IA generativa. En otras palabras, no eran reales. Sin embargo, a primera vista, Internet creyó que sí lo eran.

A veces, esta confusión puede resultar divertida, pero con más frecuencia plantea un serio problema ético. Al igual que es importante mantenerse al día sobre el funcionamiento de la IA generativa, también es fundamental saber cómo identificar si algo ha sido generado por IA. En este artículo analizaremos más detenidamente las imágenes generadas por IA, entenderemos las ventajas y desventajas del arte generado por IA, hablaremos de los aspectos legales y exploraremos métodos y herramientas clave para distinguirlas de las imágenes reales.

¿Qué son exactamente las imágenes generadas por IA?#

Las imágenes generadas por IA se crean mediante modelos de generación de imágenes que utilizan redes neuronales entrenadas con grandes conjuntos de datos para generar imágenes realistas. Lo impresionante es su capacidad para combinar estilos, conceptos y características con el fin de crear imágenes artísticas y relevantes. Durante el entrenamiento, los modelos de generación de imágenes aprenden diferentes características y detalles de estas imágenes. Esto les ayuda a crear imágenes nuevas con un estilo y un contenido similares a los de las imágenes a partir de las que han aprendido.

Existen muchos tipos de modelos de generación de imágenes, cada uno con sus propias características. Por ejemplo, las redes generativas antagónicas (GANs) utilizan dos redes neuronales que trabajan conjuntamente para crear imágenes realistas parecidas a sus datos de entrenamiento. Los modelos de difusión generan imágenes convirtiendo gradualmente ruido aleatorio en imágenes nítidas. Los Transformers, como los utilizados en modelos como DALL-E y CLIP, emplean mecanismos de autoatención para generar imágenes a partir de descripciones textuales.

Fig. 1. Generada por DALL-E 2. Prompt: Un sillón con forma de aguacate.

Cualquiera puede crear imágenes generadas por IA utilizando herramientas como GPT-4o de OpenAI, Midjourney, Gencraft o Stable Diffusion. Estas imágenes aparecen ahora por todo Internet y, a menudo, sin ninguna etiqueta que indique que han sido creadas por IA.

Ventajas y desventajas del arte generado por IA#

Al igual que la fotografía o la pintura, muchos consideran la generación de imágenes mediante IA una nueva forma de arte. Las pinturas generadas por IA se están vendiendo por miles de dólares y están ganando concursos de arte. Esto plantea la pregunta: ¿es positivo el arte generado por IA y cuáles son las ventajas y desventajas de este tipo de generación de imágenes?

Fig. 2. Una obra de arte generada por IA.

Hay opiniones variadas al respecto. Por ejemplo, las pequeñas empresas con un presupuesto limitado pueden considerar el arte generado una ventaja. Pueden crear imágenes personalizadas que se ajusten perfectamente a sus necesidades de marca y marketing. Estas herramientas pueden ahorrar tiempo al producir rápidamente elementos visuales de alta calidad y ayudar a mantener los proyectos creativos encaminados. En cuanto a la inspiración de los artistas, la generación de imágenes puede proporcionar acceso a una amplia biblioteca de opciones únicas. Un artista puede visualizar fácilmente una idea antes de hacerla realidad.

Sin embargo, las imágenes generadas por IA suelen carecer de profundidad emocional y pueden tener dificultades para captar experiencias humanas auténticas. A veces, la calidad puede ser irregular, y las imágenes pueden aparecer pixeladas o poco realistas. Depender demasiado de la IA puede frenar la creatividad y el pensamiento crítico. También existe el riesgo de un uso indebido. Las imágenes generadas por IA pueden manipularse fácilmente y dar lugar a información errónea. Además, utilizar estas herramientas puede implicar una curva de aprendizaje pronunciada y pueden arrastrar sesgos de sus datos de entrenamiento. Estas son otras desventajas del arte generado por IA:

• Problemas éticos: Las cuestiones relacionadas con la propiedad intelectual, como la autoría, la titularidad y los derechos de autor del arte generado por IA, pueden ser complejas y controvertidas.
• Desplazamiento laboral: El uso generalizado de la IA en el arte podría reducir las oportunidades para artistas y diseñadores humanos.
• Insensibilidad cultural: El arte generado por IA puede no comprender ni respetar los contextos culturales, lo que puede dar lugar a creaciones inapropiadas u ofensivas.

Las zonas grises legales de las imágenes generadas por IA#

A medida que avanza la IA, como sociedad todavía estamos tratando activamente de determinar sus implicaciones legales, como los problemas relacionados con los derechos de autor. A diferencia de las creaciones tradicionales, en algunos países como Estados Unidos las imágenes generadas por IA no pueden estar protegidas por derechos de autor, ya que esencialmente son remezclas de obras existentes, muchas de las cuales ya tienen derechos de autor. La situación se complica porque el entrenamiento de la IA suele implicar enormes cantidades de datos extraídos de Internet, que pueden incluir material protegido por derechos de autor. Por este motivo, muchas personas están protestando activamente contra el uso de contenido protegido por derechos de autor para el entrenamiento de modelos de IA y quieren una regulación mejor.

Algunas empresas incluso han presentado demandas. Getty Images, un proveedor de imágenes de stock, presentó una demanda contra Stability AI, un generador de arte mediante IA, por duplicar y utilizar supuestamente la biblioteca de imágenes de Getty con fines comerciales. Varias imágenes producidas por el modelo de texto a imagen de Stability AI llevan la marca de agua de Getty. Un artista también está demandando a DeviantArt y a otras dos empresas de IA en una demanda colectiva, alegando que sus obras de arte generadas por IA infringen las leyes de derechos de autor.

Cómo comprobar si una imagen ha sido generada por IA#

Aprender a detectar imágenes generadas por IA es vital porque su uso en noticias falsas para engañar a la gente ha aumentado, especialmente durante las elecciones. Según la BBC, el 60 % de los investigadores logró utilizar la IA para crear imágenes engañosas sobre papeletas y ubicaciones.

Fig. 3. Una imagen falsa de cajas con papeletas en un contenedor.

Las imágenes generadas por IA también afectan a los consumidores. Un estudio reciente de Attest reveló que la mayoría de los consumidores (76 %) no sabe distinguir entre imágenes auténticas e imágenes generadas por IA. Así puedes saber si una imagen ha sido generada por IA.

Comprueba el título, la descripción y las etiquetas de la imagen#

Puede parecer obvio, pero la forma más sencilla de detectar imágenes generadas por IA es comprobar si la descripción y las etiquetas contienen «AI-Generated». Dado que todavía existen muchas dudas en torno a las imágenes generadas por IA, las empresas que las crean o conceden licencias para utilizarlas hacen todo lo posible por ser transparentes sobre su origen. Las agencias de imágenes de stock que permiten incluir imágenes generadas por IA en sus bibliotecas exigen a los colaboradores que etiqueten los archivos como «AI-generated» en el título, la descripción y las etiquetas de la imagen, lo que facilita buscar o excluir imágenes generadas por IA al navegar por sus catálogos. Buscar estas etiquetas es la forma más sencilla de detectar una imagen generada por IA.

Busca marcas de agua#

Otra forma de identificar imágenes generadas por IA es buscar marcas de agua, ya que muchas herramientas de IA las añaden. Pueden incluir pequeños logotipos, texto o metadatos. Por ejemplo, DALL-E 3 de OpenAI utiliza metadatos C2PA invisibles y un símbolo visible de Content Credentials (CR) en la esquina superior izquierda. Sin embargo, el logotipo solo es visible al comprobar la imagen en un sitio de verificación de credenciales de contenido, como Content Credentials Verify. Las empresas pueden marcar sus imágenes de forma diferente, por lo que quizá tengas que familiarizarte con varios indicadores.

Fig. 4. Las imágenes generadas por ChatGPT incluyen metadatos C2PA (fuente: openai.com)

Google ha anunciado recientemente SynthID, una forma innovadora de añadir marcas de agua a las imágenes generadas por IA. SynthID permite integrar una marca de agua digital directamente en los píxeles del contenido generado por IA. Es invisible para el ojo humano, pero detectable para su identificación. SynthID puede evaluar si probablemente una herramienta de IA ha creado una imagen mediante el análisis de esta marca de agua digital.

Busca distorsiones o anomalías en la imagen#

Las imágenes generadas por IA suelen presentar imperfecciones debido a las limitaciones de los algoritmos de aprendizaje profundo. Entre las anomalías habituales se incluyen:

• Fondos borrosos o anómalos: escaleras desalineadas, muebles con formas extrañas y detalles borrosos.
• Inconsistencias en el pelo: texturas poco naturales, patrones extraños o desenfoque.
• Aspecto excesivamente renderizado: una apariencia brillante y poco realista con una mezcla de texturas borrosas y suaves.
• Errores en los accesorios: joyas deformadas, pendientes desparejados y objetos distorsionados.
• Dedos extraños: dedos adicionales, pulgares ausentes u otras anomalías en las manos.

Fig. 5. Anomalías en una imagen generada por IA.

Estas señales ayudan a identificar imágenes generadas por IA. Sin embargo, los avances en IA hacen que las futuras imágenes generadas por IA puedan tener menos defectos visibles.

Utiliza herramientas de identificación de imágenes generadas por IA#

Utilizar herramientas de identificación de imágenes generadas por IA es otra opción para detectar imágenes generadas por IA, aunque debes tener en cuenta que quizá no sean completamente precisas. Veamos algunas de las herramientas más populares para detectar imágenes generadas por IA:

• AI Or Not: Utiliza algoritmos avanzados y aprendizaje automático para autenticar rápidamente contenido real y falso. Es especialmente eficaz con imágenes falsas de NFT.
• Content at Scale: Esta herramienta gratuita y sencilla proporciona una puntuación de probabilidad de humano frente a IA para imágenes procedentes de generadores populares.
• Illuminarty: Ofrece un análisis exhaustivo de imágenes y textos generados por IA, incluida la identificación de modelos de IA y de zonas específicas generadas por IA.
• Maybe's AI Art Detector: Una herramienta fácil de usar que emplea un modelo ViT para proporcionar una puntuación porcentual de humano frente a artificial en imágenes artísticas.
• V7 Deepfake Detector: Una extensión de Chrome para detectar imágenes deepfake de StyleGAN, útil para identificar perfiles falsos.
• Fake Image Detector: Utiliza metadatos y el análisis del nivel de error (ELA) para detectar imágenes manipuladas, pero tiene una compatibilidad de archivos limitada y sufre cierres inesperados.

A medida que los contenidos generados por IA sigan extendiéndose y avanzando, estas herramientas serán aún más eficaces en el futuro.

Conclusiones clave#

A medida que los modelos de IA generativa se vuelven más inteligentes, resulta cada vez más difícil distinguir las imágenes generadas por IA de las fotos reales. Aunque esto resulta emocionante desde el punto de vista del avance tecnológico, también plantea preocupaciones éticas. Es cierto que la IA ofrece una forma rentable e innovadora de crear elementos visuales, pero hay obstáculos legales y prácticos que deben tenerse en cuenta. Por suerte, se están desarrollando métodos y herramientas que nos ayudan a afrontar este nuevo dilema. Si nos mantenemos informados, podremos asegurarnos de que el contenido visual siga siendo fiable.

¡Conecta con nuestra comunidad para obtener más información sobre IA! Explora nuestro repositorio de GitHub para ver cómo utilizamos la IA para crear soluciones innovadoras en diversos sectores, como la sanidad y la agricultura. ¡Descubre nuevas oportunidades con nosotros!