Cómo saber si una imagen ha sido generada por IA

Los modelos de generación de imágenes son cada vez más avanzados y estamos viendo un aumento en las imágenes hiperrealistas de inteligencia artificial (AI). El debate entre la AI y las fotos reales cobra cada vez más relevancia a medida que resulta más difícil distinguirlas. Ha habido múltiples escenarios en los que las imágenes generadas por AI han engañado a internet. Hemos visto al Papa Francisco con una chaqueta acolchada y a Katy Perry en la Met Gala 2024. Ambas eran imágenes fabricadas por la AI generativa. En otras palabras, no eran reales. Sin embargo, a primera vista, internet creyó que sí lo eran.

A veces, este lío puede ser divertido, pero más a menudo presenta una seria preocupación ética. Al igual que es importante estar al día sobre cómo funciona la IA generativa, también es crucial saber cómo detectar si algo está generado por IA. En este artículo, analizaremos más de cerca las imágenes generadas por IA, entenderemos los pros y contras del arte con IA, discutiremos cuestiones legales y exploraremos métodos y herramientas clave para diferenciarlas de las imágenes reales.

¿Qué son exactamente las imágenes generadas por IA?#

Las imágenes de IA se crean utilizando modelos de generación de imágenes que emplean redes neuronales entrenadas con grandes conjuntos de datos para generar imágenes realistas. Lo impresionante es su capacidad para mezclar estilos, conceptos y características para crear imágenes artísticas y relevantes. Durante el entrenamiento, los modelos de generación de imágenes aprenden diferentes características y detalles de estas imágenes. Hacer esto les ayuda a crear nuevas imágenes que parecen similares en estilo y contenido a aquellas de las que aprendieron.

Existen muchos tipos de modelos de generación de imágenes, cada uno con sus propias características especiales. Por ejemplo, las Redes Generativas Antagónicas (GANs) utilizan dos redes neuronales que trabajan en tándem para crear imágenes realistas que se asemejan a sus datos de entrenamiento. Los modelos de difusión generan imágenes transformando gradualmente el ruido aleatorio en imágenes claras. Los Transformers, como los utilizados en modelos como DALL-E y CLIP, utilizan mecanismos de autoatención para generar imágenes a partir de descripciones textuales.

Fig. 1 Generada por DALL-E 2. Prompt: Un sillón con forma de aguacate.

Cualquier persona puede crear imágenes de AI utilizando herramientas como GPT-4o de OpenAI, Midjourney, Gencraft o Stable Diffusion. Estas imágenes aparecen ahora por todo internet y, a menudo, sin ninguna etiqueta que indique que han sido hechas por AI.

Los pros y contras del arte con IA#

Al igual que la fotografía o la pintura, muchos consideran que la generación de imágenes por AI es una nueva forma de arte. Las pinturas de AI se están vendiendo por miles de dólares y están ganando concursos de arte. Esto plantea una pregunta: ¿es el arte de AI algo positivo y cuáles son los pros y los contras de dicha generación de imágenes?

Fig. 2 Una obra de arte generada por AI.

Existen opiniones variadas al respecto. Por ejemplo, las pequeñas empresas con un presupuesto limitado pueden ver el arte generado como una ventaja. Pueden crear imágenes personalizadas que coincidan perfectamente con sus necesidades de marca y marketing. Estas herramientas pueden ahorrar tiempo al producir rápidamente imágenes de alta calidad y ayudar a mantener los proyectos creativos encaminados. Respecto a la inspiración de los artistas, la generación de imágenes puede proporcionar acceso a una vasta biblioteca de opciones únicas. Un artista puede visualizar fácilmente una idea antes de darle vida.

Sin embargo, las imágenes generadas por IA a menudo carecen de profundidad emocional y pueden tener dificultades para capturar las experiencias humanas reales. A veces, la calidad puede ser inconsistente, apareciendo imágenes pixeladas o poco realistas. Depender demasiado de la IA puede sofocar la creatividad y el pensamiento crítico. También existe el riesgo de mal uso. Las imágenes de IA pueden manipularse fácilmente y llevar a la desinformación. Además, el uso de estas herramientas puede implicar una curva de aprendizaje pronunciada y pueden arrastrar sesgos de sus datos de entrenamiento. Aquí hay otros contras del arte con IA:

• Preocupaciones éticas: Las preguntas sobre la propiedad intelectual, como la autoría, la titularidad y los derechos de autor del arte generado por IA, pueden ser complejas y controvertidas.
• Desplazamiento laboral: El uso generalizado de la IA en el arte podría reducir las oportunidades para artistas y diseñadores humanos.
• Insensibilidad cultural: El arte con IA puede no comprender ni respetar los contextos culturales, lo que lleva a creaciones inapropiadas u ofensivas.

Las zonas grises legales de las imágenes generadas por IA#

A medida que la AI avanza, como sociedad todavía estamos descubriendo activamente las implicaciones legales (como cuestiones de derechos de autor). A diferencia de las creaciones tradicionales, las imágenes generadas por AI no pueden tener derechos de autor en algunos países, como EE. UU., porque son esencialmente remezclas de obras existentes, muchas de las cuales ya tienen copyright. La situación se complica porque el entrenamiento de la AI a menudo implica cantidades masivas de datos extraídos de internet, que potencialmente incluyen material protegido por derechos de autor. A tal efecto, muchas personas están protestando activamente contra el uso de contenido con copyright para el entrenamiento de modelos de AI y exigen mejores regulaciones.

Algunas empresas incluso han presentado demandas. Getty Images, un proveedor de imágenes de archivo, interpuso una demanda contra Stability AI, un generador de arte de AI, por supuestamente duplicar y utilizar la biblioteca de imágenes de Getty con fines comerciales. Varias imágenes producidas por el modelo de texto a imagen de Stability AI llevan la marca de agua de Getty. DeviantArt y otras dos empresas de AI también están siendo demandadas por un artista en una demanda colectiva que alega que sus obras de arte generadas por AI infringen las leyes de derechos de autor.

Cómo comprobar si una imagen ha sido generada por IA#

Aprender a detectar imágenes de AI es vital porque su uso en noticias falsas para engañar a la gente ha aumentado, especialmente durante las elecciones. Según la BBC, el 60 % de los investigadores logró utilizar la AI para crear imágenes engañosas sobre papeletas y colegios electorales.

Fig. 3 Una imagen falsa de cajas de papeletas en un contenedor de basura.

Las imágenes de AI también afectan a los consumidores. Un estudio reciente realizado por Attest reveló que la mayoría de los consumidores (76 %) no sabe distinguir entre imágenes auténticas y generadas por AI. Así es como puedes saber si una imagen ha sido generada por AI.

Comprueba el título, la descripción y las etiquetas de la imagen#

Puede parecer obvio, pero la forma más fácil de detectar imágenes de IA es comprobar la descripción y las etiquetas para ver si pone 'Generada por IA'. Dado que todavía hay muchas dudas respecto a las imágenes de IA, las empresas que las generan y/o las licencian están haciendo todo lo posible para ser transparentes sobre su origen. Las agencias de fotos de stock que permiten imágenes de IA en sus bibliotecas exigen que los colaboradores etiqueten los archivos como 'Generado por IA' en el título de la imagen, la descripción y las etiquetas (lo que facilita buscar o excluir imágenes de IA al navegar por sus catálogos). Buscar estas etiquetas es la forma más sencilla de detectar una imagen generada por IA.

Busca marcas de agua#

Otra forma de identificar las imágenes de AI es buscar marcas de agua, ya que muchas herramientas de AI las añaden. Estas pueden incluir pequeños logotipos, texto o metadatos. Por ejemplo, DALL-E 3 de OpenAI utiliza metadatos C2PA invisibles y un símbolo visible de Content Credentials (CR) en la esquina superior izquierda. Sin embargo, el logotipo solo es visible al comprobar la imagen en un sitio de verificación de credenciales de contenido, como Content Credentials Verify. Las empresas pueden marcar sus imágenes de manera diferente, por lo que es posible que debas familiarizarte con varios indicadores.

Fig 4. Las imágenes generadas por ChatGPT incluirán metadatos C2PA (Fuente: openai.com)

Google anunció recientemente SynthID, una forma innovadora de marcar con agua imágenes de IA. SynthID hace posible incrustar una marca de agua digital directamente en los píxeles del contenido generado por IA. Es invisible al ojo humano pero detectable para su identificación. SynthID puede evaluar si es probable que una herramienta de IA haya creado una imagen escaneando esta marca de agua digital.

Busca distorsiones o anomalías dentro de la imagen#

Las imágenes generadas por IA a menudo tienen imperfecciones debido a las limitaciones de los algoritmos de aprendizaje profundo. Las anomalías comunes incluyen:

• Fondos borrosos o anormales: Escaleras desalineadas, muebles con formas extrañas y detalles borrosos.
• Inconsistencias en el cabello: Texturas antinaturales, patrones extraños o borrosidad.
• Apariencia excesivamente renderizada: Un aspecto brillante y poco realista con una mezcla de texturas borrosas y suaves.
• Errores en accesorios: Joyas deformadas, pendientes que no coinciden y objetos distorsionados.
• Dedos extraños: Dedos extra, falta de pulgares u otras anomalías en las manos.

Fig. 5 Anomalías en una imagen generada por AI.

Estas señales ayudan a identificar imágenes generadas por IA. Sin embargo, los avances en IA significan que las futuras imágenes de IA podrían tener menos defectos visibles.

Utiliza herramientas de identificación de imágenes por IA#

Usar herramientas de identificación de imágenes por IA es otra opción para detectar imágenes de IA, aunque debes tener en cuenta que puede no ser totalmente precisa. Echemos un vistazo a algunas de las herramientas más populares para detectar imágenes de IA:

• AI Or Not: utiliza algoritmos avanzados y aprendizaje automático para autenticar contenido real y falso rápidamente. Es especialmente eficaz con imágenes NFT falsas.
• Content at Scale: esta herramienta gratuita y sencilla proporciona una puntuación de probabilidad de humano frente a AI para imágenes de generadores populares.
• Illuminarty: ofrece un análisis exhaustivo de imágenes y textos generados por AI, que incluye la identificación de modelos de AI y áreas específicas generadas por AI.
• Maybe's AI Art Detector: una herramienta fácil de usar que emplea un modelo ViT para proporcionar una puntuación porcentual de humano frente a artificial para imágenes artísticas.
• V7 Deepfake Detector: una extensión de Chrome para detectar imágenes deepfake de StyleGAN, útil para identificar perfiles falsos.
• Fake Image Detector: utiliza metadatos y análisis de nivel de error (ELA) para detectar imágenes manipuladas, pero tiene una compatibilidad de archivos limitada y experimenta fallos.

A medida que los medios generados por IA continúan extendiéndose y avanzando, estas herramientas serán aún más efectivas en el futuro.

Conclusiones clave#

A medida que los modelos de IA generativa se vuelven más inteligentes, es cada vez más difícil distinguir las imágenes generadas por IA de las fotos reales. Aunque es emocionante en términos de avance tecnológico, también es preocupante desde el punto de vista ético. Es cierto que la IA ofrece una forma rentable e innovadora de crear imágenes, pero existen obstáculos legales y prácticos a considerar. Afortunadamente, se están desarrollando métodos y herramientas para ayudarnos a navegar por este nuevo dilema. Manteniéndonos informados, podemos asegurarnos de que el contenido visual siga siendo confiable.

¡Conéctate con nuestra comunidad para obtener más información sobre la AI! Explora nuestro repositorio de GitHub para ver cómo utilizamos la AI para crear soluciones innovadoras en diversas industrias como la salud y la agricultura. ¡Desbloquea nuevas oportunidades con nosotros!