Cómo saber si una imagen ha sido generada por IA

Los modelos de generación de imágenes son cada vez más avanzados y estamos viendo un aumento de imágenes realistas creadas por inteligencia artificial (IA). El debate entre IA y foto real es cada vez más relevante a medida que resulta más difícil distinguirlas. Ha habido múltiples casos en los que imágenes generadas por IA han engañado a internet. Hemos visto al Papa Francisco con un abrigo acolchado y a Katy Perry en la Met Gala 2024. Ambas eran imágenes fabricadas por IA generativa. En otras palabras, no eran reales. Sin embargo, a primera vista, internet creyó que lo eran.

A veces, este lío puede ser divertido, pero más a menudo presenta una seria preocupación ética. Al igual que es importante estar al día sobre cómo funciona la IA generativa, también es crucial saber cómo detectar si algo está generado por IA. En este artículo, analizaremos más de cerca las imágenes generadas por IA, entenderemos los pros y contras del arte con IA, discutiremos cuestiones legales y exploraremos métodos y herramientas clave para diferenciarlas de las imágenes reales.

Link to this section¿Qué son exactamente las imágenes generadas por IA?#

Las imágenes de IA se crean utilizando modelos de generación de imágenes que emplean redes neuronales entrenadas con grandes conjuntos de datos para generar imágenes realistas. Lo impresionante es su capacidad para mezclar estilos, conceptos y características para crear imágenes artísticas y relevantes. Durante el entrenamiento, los modelos de generación de imágenes aprenden diferentes características y detalles de estas imágenes. Hacer esto les ayuda a crear nuevas imágenes que parecen similares en estilo y contenido a aquellas de las que aprendieron.

Existen muchos tipos de modelos de generación de imágenes, cada uno con sus propias características especiales. Por ejemplo, las Redes Generativas Antagónicas (GANs) utilizan dos redes neuronales que trabajan en tándem para crear imágenes realistas que se asemejan a sus datos de entrenamiento. Los modelos de difusión generan imágenes transformando gradualmente el ruido aleatorio en imágenes claras. Los Transformers, como los utilizados en modelos como DALL-E y CLIP, utilizan mecanismos de autoatención para generar imágenes a partir de descripciones textuales.

Fig 1. Generada por DALL-E 2. Prompt: Un sillón con forma de aguacate.

Cualquiera puede crear imágenes de IA utilizando herramientas como OpenAI’s GPT-4o, Midjourney, Gencraft o Stable Diffusion. Estas imágenes aparecen ahora por todo internet y a menudo sin etiquetas que indiquen que están hechas por IA.

Link to this sectionLos pros y contras del arte con IA#

Al igual que la fotografía o la pintura, la generación de imágenes por IA está siendo considerada por muchos como una nueva forma de arte. Las pinturas de IA se venden por miles de euros y ganan concursos de arte. Esto plantea la pregunta: ¿es el arte con IA algo bueno y cuáles son los pros y los contras de dicha generación de imágenes?

Fig 2. Una pieza de arte generada por IA.

Existen opiniones variadas al respecto. Por ejemplo, las pequeñas empresas con un presupuesto limitado pueden ver el arte generado como una ventaja. Pueden crear imágenes personalizadas que coincidan perfectamente con sus necesidades de marca y marketing. Estas herramientas pueden ahorrar tiempo al producir rápidamente imágenes de alta calidad y ayudar a mantener los proyectos creativos encaminados. Respecto a la inspiración de los artistas, la generación de imágenes puede proporcionar acceso a una vasta biblioteca de opciones únicas. Un artista puede visualizar fácilmente una idea antes de darle vida.

Sin embargo, las imágenes generadas por IA a menudo carecen de profundidad emocional y pueden tener dificultades para capturar las experiencias humanas reales. A veces, la calidad puede ser inconsistente, apareciendo imágenes pixeladas o poco realistas. Depender demasiado de la IA puede sofocar la creatividad y el pensamiento crítico. También existe el riesgo de mal uso. Las imágenes de IA pueden manipularse fácilmente y llevar a la desinformación. Además, el uso de estas herramientas puede implicar una curva de aprendizaje pronunciada y pueden arrastrar sesgos de sus datos de entrenamiento. Aquí hay otros contras del arte con IA:

• Preocupaciones éticas: Las preguntas sobre la propiedad intelectual, como la autoría, la titularidad y los derechos de autor del arte generado por IA, pueden ser complejas y controvertidas.
• Desplazamiento laboral: El uso generalizado de la IA en el arte podría reducir las oportunidades para artistas y diseñadores humanos.
• Insensibilidad cultural: El arte con IA puede no comprender ni respetar los contextos culturales, lo que lleva a creaciones inapropiadas u ofensivas.

Link to this sectionLas zonas grises legales de las imágenes generadas por IA#

A medida que la IA avanza, todavía estamos resolviendo activamente las implicaciones legales (como las cuestiones de derechos de autor) como sociedad. A diferencia de las creaciones tradicionales, las imágenes generadas por IA no pueden tener derechos de autor en algunos países como EE. UU., ya que son esencialmente remezclas de obras existentes, muchas de las cuales ya tienen derechos de autor. Se complica porque el entrenamiento de la IA a menudo implica cantidades masivas de datos extraídos de internet, que potencialmente incluyen material protegido por derechos de autor. En este sentido, muchas personas están protestando activamente contra el uso de contenido con derechos de autor para el entrenamiento de modelos de IA y desean mejores regulaciones.

Algunas empresas incluso han presentado demandas. Getty Images, un proveedor de imágenes de stock, presentó una demanda contra Stability AI, un generador de arte con IA, por supuestamente duplicar y utilizar la biblioteca de imágenes de Getty con fines comerciales. Varias imágenes producidas por el modelo de texto a imagen de Stability AI llevan la marca de agua de Getty. DeviantArt y otras dos empresas de IA también están siendo demandadas por un artista en una demanda colectiva que alega que sus obras de arte generadas por IA infringen las leyes de derechos de autor.

Link to this sectionCómo comprobar si una imagen ha sido generada por IA#

Aprender a detectar imágenes de IA es vital porque su uso en noticias falsas para engañar a la gente ha aumentado, especialmente durante las elecciones. Según la BBC, el 60% de los investigadores lograron usar IA para crear imágenes engañosas sobre papeletas y lugares.

Fig 3. Una imagen falsa de cajas de papeletas en un contenedor de basura.

Las imágenes de IA también afectan a los consumidores. Un estudio reciente de Attest reveló que la mayoría de los consumidores (76%) no pueden notar la diferencia entre imágenes auténticas y generadas por IA. Aquí te explicamos cómo saber si una imagen ha sido generada por IA.

Link to this sectionComprueba el título, la descripción y las etiquetas de la imagen#

Puede parecer obvio, pero la forma más fácil de detectar imágenes de IA es comprobar la descripción y las etiquetas para ver si pone 'Generada por IA'. Dado que todavía hay muchas dudas respecto a las imágenes de IA, las empresas que las generan y/o las licencian están haciendo todo lo posible para ser transparentes sobre su origen. Las agencias de fotos de stock que permiten imágenes de IA en sus bibliotecas exigen que los colaboradores etiqueten los archivos como 'Generado por IA' en el título de la imagen, la descripción y las etiquetas (lo que facilita buscar o excluir imágenes de IA al navegar por sus catálogos). Buscar estas etiquetas es la forma más sencilla de detectar una imagen generada por IA.

Link to this sectionBusca marcas de agua#

Otra forma de identificar imágenes de IA es buscar marcas de agua, ya que muchas herramientas de IA las añaden. Estas pueden incluir logotipos pequeños, texto o metadatos. Por ejemplo, DALL-E 3 de OpenAI utiliza metadatos C2PA invisibles y un símbolo visible de Content Credentials (CR) en la esquina superior izquierda. Sin embargo, el logotipo solo es visible al comprobar la imagen en un sitio de verificación de credenciales de contenido, como Content Credentials Verify. Las empresas podrían marcar sus imágenes de forma diferente, por lo que es posible que debas familiarizarte con varios indicadores.

Fig 4. Las imágenes generadas por ChatGPT incluirán metadatos C2PA (Fuente: openai.com)

Google anunció recientemente SynthID, una forma innovadora de marcar con agua imágenes de IA. SynthID hace posible incrustar una marca de agua digital directamente en los píxeles del contenido generado por IA. Es invisible al ojo humano pero detectable para su identificación. SynthID puede evaluar si es probable que una herramienta de IA haya creado una imagen escaneando esta marca de agua digital.

Link to this sectionBusca distorsiones o anomalías dentro de la imagen#

Las imágenes generadas por IA a menudo tienen imperfecciones debido a las limitaciones de los algoritmos de aprendizaje profundo. Las anomalías comunes incluyen:

• Fondos borrosos o anormales: Escaleras desalineadas, muebles con formas extrañas y detalles borrosos.
• Inconsistencias en el cabello: Texturas antinaturales, patrones extraños o borrosidad.
• Apariencia excesivamente renderizada: Un aspecto brillante y poco realista con una mezcla de texturas borrosas y suaves.
• Errores en accesorios: Joyas deformadas, pendientes que no coinciden y objetos distorsionados.
• Dedos extraños: Dedos extra, falta de pulgares u otras anomalías en las manos.

Fig 5. Anomalías en una imagen generada por IA.

Estas señales ayudan a identificar imágenes generadas por IA. Sin embargo, los avances en IA significan que las futuras imágenes de IA podrían tener menos defectos visibles.

Link to this sectionUtiliza herramientas de identificación de imágenes por IA#

Usar herramientas de identificación de imágenes por IA es otra opción para detectar imágenes de IA, aunque debes tener en cuenta que puede no ser totalmente precisa. Echemos un vistazo a algunas de las herramientas más populares para detectar imágenes de IA:

• AI Or Not: Utiliza algoritmos avanzados y aprendizaje automático para autenticar contenido real y falso rápidamente. Es particularmente eficaz con imágenes NFT falsas.
• Content at Scale: Esta herramienta gratuita y sencilla proporciona una puntuación de probabilidad Humano vs. IA para imágenes de generadores populares.
• Illuminarty: Ofrece un análisis integral de imágenes y texto generados por IA, incluyendo la identificación de modelos de IA y áreas específicas generadas por IA.
• Maybe's AI Art Detector: Una herramienta fácil de usar que emplea un modelo ViT para proporcionar una puntuación porcentual humana frente a artificial para imágenes artísticas.
• V7 Deepfake Detector: Una extensión de Chrome para detectar imágenes deepfake de StyleGAN, útil para identificar perfiles falsos.
• Fake Image Detector: Utiliza metadatos y análisis de nivel de error (ELA) para detectar imágenes manipuladas, pero tiene una compatibilidad de archivos limitada y experimenta bloqueos.

A medida que los medios generados por IA continúan extendiéndose y avanzando, estas herramientas serán aún más efectivas en el futuro.

Link to this sectionConclusiones clave#

A medida que los modelos de IA generativa se vuelven más inteligentes, es cada vez más difícil distinguir las imágenes generadas por IA de las fotos reales. Aunque es emocionante en términos de avance tecnológico, también es preocupante desde el punto de vista ético. Es cierto que la IA ofrece una forma rentable e innovadora de crear imágenes, pero existen obstáculos legales y prácticos a considerar. Afortunadamente, se están desarrollando métodos y herramientas para ayudarnos a navegar por este nuevo dilema. Manteniéndonos informados, podemos asegurarnos de que el contenido visual siga siendo confiable.

¡Conecta con nuestra comunidad para aprender más sobre IA! Explora nuestro repositorio de GitHub para ver cómo estamos usando la IA para crear soluciones innovadoras en diversas industrias como salud y agricultura. ¡Desbloquea nuevas oportunidades con nosotros!