Como saber se uma imagem foi gerada por IA

Os modelos de geração de imagens estão a tornar-se mais avançados, e estamos a observar um aumento de imagens de inteligência artificial (IA) semelhantes à realidade. O debate entre fotografias geradas por IA e fotografias reais está a tornar-se mais relevante à medida que fica mais difícil distinguir umas das outras. Já houve vários casos em que imagens geradas por IA enganaram a internet. Vimos o Papa Francisco com um casaco acolchoado e Katy Perry na Met Gala de 2024. Ambas eram imagens fabricadas por IA generativa. Ou seja, não eram reais. No entanto, à primeira vista, a internet acreditou que eram.

Por vezes, esta confusão pode ser divertida, mas, na maioria das vezes, representa uma preocupação ética séria. Tal como é importante acompanhar o funcionamento da IA generativa, também é essencial saber identificar algo gerado por IA. Neste artigo, vamos analisar mais de perto as imagens geradas por IA, compreender as vantagens e desvantagens da arte criada por IA, discutir questões legais e explorar métodos e ferramentas importantes para as distinguir de imagens reais.

O que são exatamente imagens geradas por IA?#

As imagens geradas por IA são criadas com modelos de geração de imagens que utilizam redes neurais treinadas em grandes conjuntos de dados para gerar imagens realistas. O que impressiona é a capacidade de combinar estilos, conceitos e características para criar imagens artísticas e relevantes. Durante o treino, os modelos de geração de imagens aprendem diferentes características e detalhes a partir dessas imagens. Isso ajuda-os a criar novas imagens semelhantes, em estilo e conteúdo, àquelas com que aprenderam.

Existem muitos tipos de modelos de geração de imagens, cada um com as suas próprias características. Por exemplo, as Redes Generativas Adversárias (GANs) utilizam duas redes neurais que trabalham em conjunto para criar imagens realistas semelhantes aos dados de treino. Os modelos de difusão geram imagens transformando gradualmente ruído aleatório em imagens nítidas. Os Transformers, como os utilizados em modelos como DALL-E e CLIP, usam mecanismos de autoatenção para gerar imagens a partir de descrições textuais.

Fig. 1 Gerada pelo DALL-E 2. Prompt: Um cadeirão em forma de abacate.

Qualquer pessoa pode criar imagens com IA utilizando ferramentas como o GPT-4o da OpenAI, Midjourney, Gencraft ou Stable Diffusion. Estas imagens aparecem agora por toda a internet, muitas vezes sem qualquer indicação de que foram criadas por IA.

As vantagens e desvantagens da arte criada por IA#

Tal como a fotografia ou a pintura, a geração de imagens por IA está a ser considerada uma nova forma de arte por muitas pessoas. Pinturas criadas por IA estão a ser vendidas por milhares de dólares e a vencer concursos de arte. Isto levanta a questão: a arte criada por IA é algo positivo e quais são as vantagens e desvantagens desta geração de imagens?

Fig. 2 Uma obra de arte gerada por IA.

Existem opiniões variadas sobre este tema. Por exemplo, pequenas empresas com orçamentos limitados podem encarar a arte gerada como uma vantagem. Podem criar imagens personalizadas que correspondem perfeitamente às necessidades da marca e do marketing. Estas ferramentas podem poupar tempo ao produzir rapidamente imagens de alta qualidade e ajudar a manter os projetos criativos no caminho certo. No que diz respeito à inspiração dos artistas, a geração de imagens pode proporcionar acesso a uma vasta biblioteca de opções únicas. Um artista pode visualizar facilmente uma ideia antes de a concretizar.

No entanto, as imagens geradas por IA carecem frequentemente de profundidade emocional e podem ter dificuldade em captar experiências humanas genuínas. Por vezes, a qualidade pode ser inconsistente, com imagens pixelizadas ou pouco realistas. Depender demasiado da IA pode limitar a criatividade e o pensamento crítico. Existe também o risco de utilização indevida. As imagens geradas por IA podem ser facilmente manipuladas e dar origem a desinformação. Além disso, a utilização destas ferramentas pode implicar uma curva de aprendizagem acentuada e elas podem reproduzir preconceitos presentes nos dados de treino. Eis outras desvantagens da arte criada por IA:

• Preocupações éticas: As questões relacionadas com a propriedade intelectual, como a autoria, a titularidade e os direitos de autor da arte gerada por IA, podem ser complexas e controversas.
• Substituição de empregos: A utilização generalizada da IA na arte pode reduzir as oportunidades para artistas e designers humanos.
• Insensibilidade cultural: A arte criada por IA pode não compreender nem respeitar os contextos culturais, dando origem a criações inadequadas ou ofensivas.

As zonas cinzentas legais das imagens geradas por IA#

À medida que a IA avança, a sociedade continua a tentar compreender ativamente as suas implicações legais (como as questões relacionadas com direitos de autor). Ao contrário das criações tradicionais, as imagens geradas por IA não podem ser protegidas por direitos de autor em alguns países, como os EUA, porque são essencialmente remisturas de obras existentes, muitas das quais já estão protegidas por direitos de autor. A situação é complicada porque o treino de IA envolve frequentemente enormes quantidades de dados recolhidos da internet, que podem incluir material protegido por direitos de autor. Por isso, muitas pessoas estão a protestar ativamente contra a utilização de conteúdos protegidos por direitos de autor para o treino de modelos de IA e querem regulamentações melhores.

Algumas empresas chegaram mesmo a apresentar ações judiciais. A Getty Images, uma fornecedora de imagens de stock, apresentou uma ação judicial contra a Stability AI, uma geradora de arte por IA, alegando que esta duplicou e utilizou a biblioteca de imagens da Getty para obter ganhos comerciais. Várias imagens produzidas pelo modelo de texto para imagem da Stability AI apresentam a marca de água da Getty. A DeviantArt e duas outras empresas de IA também estão a ser processadas por um artista numa ação coletiva que alega que as suas obras de arte geradas por IA infringem as leis de direitos de autor.

Como verificar se uma imagem foi gerada por IA#

Aprender a identificar imagens geradas por IA é essencial, porque a sua utilização em notícias falsas para enganar as pessoas aumentou, especialmente durante eleições. Segundo a BBC, 60% dos investigadores conseguiram utilizar IA para criar imagens enganosas sobre boletins de voto e locais.

Fig. 3 Uma imagem falsa de caixas com boletins de voto num contentor do lixo.

As imagens geradas por IA também afetam os consumidores. Um estudo recente da Attest revelou que a maioria dos consumidores (76%) não consegue distinguir entre imagens autênticas e imagens geradas por IA. Eis como podes saber se uma imagem foi gerada por IA.

Verifica o título, a descrição e as etiquetas da imagem#

Pode parecer óbvio, mas a forma mais fácil de identificar imagens geradas por IA é verificar se a descrição e as etiquetas incluem «Gerada por IA». Como ainda existem muitas dúvidas relacionadas com as imagens geradas por IA, as empresas que as criam e/ou licenciam estão a fazer tudo o que podem para serem transparentes quanto à sua origem. As agências de imagens de stock que permitem imagens geradas por IA nas suas bibliotecas exigem que os colaboradores identifiquem os ficheiros como «gerados por IA» no título, na descrição e nas etiquetas da imagem (o que facilita a pesquisa ou exclusão de imagens geradas por IA ao navegar pelos seus catálogos). Procurar estas etiquetas é a forma mais simples de identificar uma imagem gerada por IA.

Procura marcas de água#

Outra forma de identificar imagens geradas por IA é procurar marcas de água, uma vez que muitas ferramentas de IA as adicionam. Estas podem incluir pequenos logótipos, texto ou metadados. Por exemplo, o DALL-E 3 da OpenAI utiliza metadados C2PA invisíveis e um símbolo visível de Credenciais de Conteúdo (CR) no canto superior esquerdo. No entanto, o logótipo só fica visível quando a imagem é verificada num site de verificação de credenciais de conteúdo, como o Content Credentials Verify. As empresas podem marcar as suas imagens de formas diferentes, por isso talvez tenhas de te familiarizar com vários indicadores.

Fig. 4. As imagens geradas pelo ChatGPT incluem metadados C2PA (Fonte: openai.com)

A Google anunciou recentemente o SynthID, uma forma inovadora de aplicar marcas de água a imagens geradas por IA. O SynthID permite incorporar uma marca de água digital diretamente nos píxeis do conteúdo gerado por IA. É invisível ao olho humano, mas detetável para fins de identificação. O SynthID pode avaliar se uma ferramenta de IA provavelmente criou uma imagem, procurando esta marca de água digital.

Procura distorções ou anomalias na imagem#

As imagens geradas por IA apresentam frequentemente imperfeições devido às limitações dos algoritmos de aprendizagem profunda. Entre as anomalias comuns estão:

• Fundos desfocados ou anormais: escadas desalinhadas, mobiliário com formas estranhas e detalhes desfocados.
• Inconsistências no cabelo: texturas não naturais, padrões estranhos ou desfocagem.
• Aspeto excessivamente renderizado: uma aparência brilhante e pouco realista, com uma combinação de texturas desfocadas e suaves.
• Erros nos acessórios: joias deformadas, brincos diferentes e objetos distorcidos.
• Dedos estranhos: dedos extra, polegares ausentes ou outras anomalias nas mãos.

Fig. 5 Anomalias numa imagem gerada por IA.

Estes sinais ajudam a identificar imagens geradas por IA. No entanto, os avanços na IA significam que as futuras imagens geradas por IA poderão apresentar menos falhas visíveis.

Utiliza ferramentas de identificação de imagens geradas por IA#

Utilizar ferramentas de identificação de imagens geradas por IA é outra opção para identificar imagens geradas por IA, embora devas ter em conta que o resultado pode não ser totalmente preciso. Vejamos algumas das ferramentas mais populares para detetar imagens geradas por IA:

• AI Or Not: Utiliza algoritmos avançados e aprendizagem automática para autenticar rapidamente conteúdos reais e falsos. É particularmente eficaz com imagens falsas de NFT.
• Content at Scale: Esta ferramenta gratuita e simples fornece uma pontuação de probabilidade Humano vs. IA para imagens de geradores populares.
• Illuminarty: Oferece uma análise abrangente de imagens e textos gerados por IA, incluindo a identificação de modelos de IA e de áreas específicas geradas por IA.
• Maybe's AI Art Detector: Uma ferramenta fácil de utilizar que usa um modelo ViT para fornecer uma percentagem de probabilidade humano vs. artificial para imagens artísticas.
• V7 Deepfake Detector: Uma extensão do Chrome para detetar imagens deepfake criadas com StyleGAN, útil para identificar perfis falsos.
• Fake Image Detector: Utiliza metadados e a Análise do Nível de Erro (ELA) para detetar imagens manipuladas, mas tem compatibilidade limitada com ficheiros e apresenta falhas.

À medida que os conteúdos gerados por IA continuam a espalhar-se e a evoluir, estas ferramentas tornar-se-ão ainda mais eficazes no futuro.

Principais conclusões#

À medida que os modelos de IA generativa se tornam mais inteligentes, fica mais difícil distinguir as imagens geradas por IA das fotografias reais. Embora seja entusiasmante do ponto de vista do avanço tecnológico, também é uma questão eticamente preocupante. É verdade que a IA oferece uma forma económica e inovadora de criar conteúdos visuais, mas existem obstáculos legais e práticos a considerar. Felizmente, estão a ser desenvolvidos métodos e ferramentas para nos ajudar a lidar com este novo dilema. Ao mantermo-nos informados, podemos garantir que os conteúdos visuais continuam a ser fiáveis.

Liga-te à nossa comunidade para saberes mais sobre IA! Explora o nosso repositório no GitHub para veres como estamos a utilizar IA para criar soluções inovadoras em vários setores, como os cuidados de saúde e a agricultura. Descobre novas oportunidades connosco!