Como saber se uma imagem é gerada por AI

Os modelos de geração de imagens estão a tornar-se mais avançados e estamos a ver um aumento de imagens de inteligência artificial (AI) hiper-realistas. O debate entre AI e fotografias reais está a tornar-se mais relevante à medida que se torna mais difícil distinguir entre ambas. Tem havido múltiplos cenários em que imagens geradas por AI enganaram a internet. Vimos o Papa Francisco com um casaco de penas e Katy Perry na Met Gala de 2024. Ambas eram imagens fabricadas por AI generativa. Noutras palavras, não eram reais. No entanto, à primeira vista, a internet acreditou que o eram.

Às vezes, essa confusão pode ser divertida, mas, mais frequentemente, apresenta uma séria preocupação ética. Assim como é importante acompanhar como a IA generativa funciona, também é crucial saber como identificar se algo foi gerado por IA. Neste artigo, examinaremos mais de perto as imagens geradas por IA, entenderemos os prós e contras da arte por IA, discutiremos questões legais e exploraremos os principais métodos e ferramentas para distingui-las de imagens reais.

O que exatamente são imagens geradas por IA?#

Imagens de IA são criadas usando modelos de geração de imagem que utilizam redes neurais treinadas em grandes conjuntos de dados para gerar imagens realistas. O que é impressionante é a sua capacidade de misturar estilos, conceitos e recursos para criar imagens artísticas e relevantes. Durante o treinamento, os modelos de geração de imagem aprendem diferentes características e detalhes dessas imagens. Fazer isso os ajuda a criar novas imagens que parecem semelhantes em estilo e conteúdo àquelas com as quais aprenderam.

Existem muitos tipos de modelos de geração de imagem, cada um com suas próprias características especiais. Por exemplo, Redes Adversárias Generativas (GANs) usam duas redes neurais que trabalham em conjunto para criar imagens realistas que se assemelham aos seus dados de treinamento. Modelos de difusão geram imagens transformando gradualmente ruído aleatório em imagens claras. Transformers, como os usados em modelos como DALL-E e CLIP, usam mecanismos de autoatenção para gerar imagens a partir de descrições textuais.

Fig 1. Gerado pelo DALL-E 2. Prompt: Uma poltrona em forma de abacate.

Qualquer pessoa pode criar imagens de AI utilizando ferramentas como o GPT-4o da OpenAI, Midjourney, Gencraft ou Stable Diffusion. Estas imagens estão agora a aparecer por toda a internet e, frequentemente, sem quaisquer rótulos para indicar que foram feitas por AI.

Os prós e contras da arte por IA#

Tal como a fotografia ou a pintura, a geração de imagens por AI está a ser considerada uma nova forma de arte por muitos. As pinturas de AI estão a ser vendidas por milhares de dólares e a vencer concursos de arte. Isto levanta a questão: será a arte de AI uma coisa boa e quais são os prós e contras dessa geração de imagens?

Fig 2. Uma peça de arte gerada por AI.

Existem opiniões variadas sobre isso. Por exemplo, pequenas empresas com orçamento limitado podem ver a arte gerada como uma vantagem. Elas podem criar imagens personalizadas que combinam perfeitamente com as necessidades de branding e marketing. Essas ferramentas podem economizar tempo produzindo rapidamente visuais de alta qualidade e ajudar a manter os projetos criativos no caminho certo. Em relação à inspiração dos artistas, a geração de imagem pode fornecer acesso a uma vasta biblioteca de opções únicas. Um artista pode facilmente visualizar uma ideia antes de trazê-la à vida.

No entanto, as imagens geradas por IA muitas vezes carecem de profundidade emocional e podem ter dificuldade em capturar experiências humanas reais. Às vezes, a qualidade pode ser inconsistente, com imagens parecendo pixelizadas ou irreais. Depender demais da IA pode sufocar a criatividade e o pensamento crítico. Também existe o risco de uso indevido. Imagens de IA podem ser facilmente manipuladas e levar à desinformação. Além disso, usar essas ferramentas pode envolver uma curva de aprendizado íngreme e elas podem carregar vieses dos seus dados de treinamento. Aqui estão alguns outros contras da arte por IA:

• Preocupações Éticas: Questões sobre propriedade intelectual, como autoria, posse e direitos autorais da arte gerada por IA, podem ser complexas e controversas.
• Deslocamento de Empregos: O uso generalizado de IA na arte pode reduzir as oportunidades para artistas e designers humanos.
• Insensibilidade Cultural: A arte por IA pode falhar em entender e respeitar contextos culturais, levando a criações inapropriadas ou ofensivas.

As áreas cinzentas legais das imagens geradas por IA#

À medida que a AI avança, ainda estamos a tentar perceber ativamente as implicações legais (como questões de direitos de autor) enquanto sociedade. Ao contrário das criações tradicionais, as imagens geradas por AI não podem ser protegidas por direitos de autor em alguns países, como os EUA, porque são essencialmente remixes de trabalhos existentes, muitos dos quais já têm direitos de autor. Torna-se complicado porque o treino de AI envolve frequentemente quantidades massivas de dados recolhidos da internet, incluindo potencialmente material protegido por direitos de autor. Para este efeito, muitas pessoas estão a protestar ativamente contra a utilização de conteúdos protegidos por direitos de autor para o treino de modelos de AI e querem melhores regulamentações.

Algumas empresas até já apresentaram processos judiciais. A Getty Images, um fornecedor de imagens de stock, apresentou um processo contra a Stability AI, um gerador de arte de AI, por alegadamente duplicar e utilizar a biblioteca de imagens da Getty para fins comerciais. Várias imagens produzidas pelo modelo de texto para imagem da Stability AI ostentam a marca de água da Getty. A DeviantArt e outras duas empresas de AI também estão a ser processadas por um artista numa ação coletiva que alega que a sua arte gerada por AI infringe as leis de direitos de autor.

Como verificar se uma imagem foi gerada por IA#

Aprender a detetar imagens de AI é vital porque a sua utilização em notícias falsas para enganar pessoas tem aumentado, especialmente durante as eleições. De acordo com a BBC, 60% dos investigadores tiveram sucesso em utilizar a AI para criar imagens enganosas sobre boletins de voto e locais.

Fig 3. Uma imagem falsa de caixas com boletins de voto num caixote do lixo.

As imagens de AI também afetam os consumidores. Um estudo recente da Attest revelou que a maioria dos consumidores (76%) não consegue distinguir entre imagens autênticas e geradas por AI. Eis como podes saber se uma imagem foi gerada por AI.

Verifique o título, a descrição e as tags da imagem#

Pode parecer óbvio, mas a maneira mais fácil de identificar imagens de IA é verificar a descrição e as tags em busca de 'Gerado por IA' ('AI-Generated'). Como ainda há muito questionamento sobre imagens de IA, as empresas que as geram e/ou licenciam estão fazendo tudo o que podem para serem transparentes sobre sua origem. Agências de fotos de banco que permitem imagens de IA em suas bibliotecas exigem que os contribuidores rotulem os arquivos como 'gerado por IA' no título, descrição e tags da imagem (o que facilita a busca ou exclusão de imagens de IA ao navegar em seus catálogos). Procurar por esses rótulos é a maneira mais simples de identificar uma imagem gerada por IA.

Procure por marcas d'água#

Outra forma de identificar imagens de AI é procurar marcas de água, uma vez que muitas ferramentas de AI as adicionam. Estas podem incluir pequenos logótipos, texto ou metadados. Por exemplo, o DALL-E 3 da OpenAI utiliza metadados C2PA invisíveis e um símbolo visível de Content Credentials (CR) no canto superior esquerdo. No entanto, o logótipo só é visível ao verificar a imagem num site de verificação de credenciais de conteúdo, como o Content Credentials Verify. As empresas podem marcar as suas imagens de forma diferente, pelo que poderás precisar de te familiarizar com vários indicadores.

Fig 4. Imagens geradas pelo ChatGPT incluirão metadados C2PA (Fonte: openai.com)

O Google anunciou recentemente o SynthID, uma maneira inovadora de marcar imagens de IA com marca d'água. O SynthID torna possível incorporar uma marca d'água digital diretamente nos pixels do conteúdo gerado por IA. Ela é invisível ao olho humano, mas detectável para identificação. O SynthID pode avaliar se uma ferramenta de IA provavelmente criou uma imagem procurando por essa marca d'água digital.

Procure por distorções ou anomalias dentro da imagem#

Imagens geradas por IA frequentemente apresentam imperfeições devido às limitações dos algoritmos de aprendizado profundo. Anomalias comuns incluem:

• Fundos borrados ou anormais: Escadas desalinhadas, móveis com formatos estranhos e detalhes borrados.
• Inconsistências no cabelo: Texturas não naturais, padrões estranhos ou borrões.
• Aparência excessivamente renderizada: Um visual brilhante e irreal com uma mistura de texturas borradas e lisas.
• Erros em acessórios: Joias distorcidas, brincos incompatíveis e objetos deformados.
• Dedos estranhos: Dedos extras, polegares faltando ou outras anomalias nas mãos.

Fig 5. Anomalias numa imagem gerada por AI.

Esses sinais ajudam a identificar imagens geradas por IA. No entanto, os avanços na IA significam que futuras imagens de IA podem ter menos falhas visíveis.

Use ferramentas de identificação de imagens por IA#

Usar ferramentas de identificação de imagens por IA é outra opção para detectar imagens de IA, embora você deva ter em mente que elas podem não ser totalmente precisas. Vamos dar uma olhada em algumas das ferramentas mais populares para detectar imagens de IA:

• AI Or Not: Utiliza algoritmos avançados e machine learning para autenticar conteúdo real e falso rapidamente. É particularmente eficaz com imagens NFT falsas.
• Content at Scale: Esta ferramenta gratuita e simples fornece uma pontuação de probabilidade Humano vs. AI para imagens de geradores populares.
• Illuminarty: Oferece uma análise abrangente de imagens e texto gerados por AI, incluindo a identificação de modelos de AI e áreas específicas geradas por AI.
• Maybe's AI Art Detector: Uma ferramenta fácil de usar que utiliza um modelo ViT para fornecer uma pontuação em percentagem de humano vs. artificial para imagens artísticas.
• V7 Deepfake Detector: Uma extensão do Chrome para detetar imagens deepfake do StyleGAN, útil para identificar perfis falsos.
• Fake Image Detector: Utiliza metadados e Error Level Analysis (ELA) para detetar imagens manipuladas, mas tem compatibilidade limitada com ficheiros e sofre de falhas.

À medida que a mídia gerada por IA continua a se espalhar e avançar, essas ferramentas se tornarão ainda mais eficazes no futuro.

Principais pontos#

À medida que os modelos de IA generativa se tornam mais inteligentes, está ficando mais difícil diferenciar imagens geradas por IA de fotos reais. Embora empolgante em termos de avanço tecnológico, também é eticamente preocupante. É verdade que a IA oferece uma maneira inovadora e econômica de criar visuais, mas existem obstáculos legais e práticos a considerar. Felizmente, existem métodos e ferramentas sendo desenvolvidos para nos ajudar a navegar nesse novo dilema. Mantendo-nos informados, podemos garantir que o conteúdo visual permaneça confiável.

Liga-te à nossa comunidade para saberes mais sobre AI! Explora o nosso repositório no GitHub para veres como estamos a utilizar a AI para criar soluções inovadoras em várias indústrias, como saúde e agricultura. Desbloqueia novas oportunidades connosco!