Como saber se uma imagem é gerada por IA

‍Os modelos de geração de imagens estão a tornar-se mais avançados e estamos a assistir a um aumento das imagens de inteligência artificial (IA) realistas. O debate entre IA e fotografias reais está a tornar-se mais relevante à medida que se torna mais difícil distinguir entre as duas. Já houve vários cenários em que imagens geradas por IA enganaram a Internet. Vimos o Papa Francisco com um casaco de penas e Katy Perry na Met Gala de 2024. Ambas eram imagens fabricadas por IA generativa. Por outras palavras, não eram reais. No entanto, à primeira vista, a Internet acreditou que eram.

Por vezes, esta confusão pode ser divertida, mas, mais frequentemente, representa uma séria preocupação ética. Tal como é importante estar a par do funcionamento da IA generativa, também é crucial saber como distinguir se algo é gerado por IA. Neste artigo, vamos analisar mais detalhadamente as imagens geradas por IA, compreender os prós e os contras da arte com IA, discutir questões legais e explorar os principais métodos e ferramentas para as distinguir das imagens reais.

O que são exatamente imagens geradas por IA?  

As imagens com IA são criadas através de modelos de geração de imagens que utilizam redes neuronais treinadas em grandes conjuntos de dados para gerar imagens realistas. O que é impressionante é a sua capacidade de misturar estilos, conceitos e caraterísticas para criar imagens artísticas e relevantes. Durante o treino, os modelos de geração de imagens aprendem diferentes caraterísticas e detalhes a partir destas imagens. Ao fazê-lo, ajudam-nos a criar novas imagens com um estilo e conteúdo semelhantes aos das imagens com que aprenderam.

Existem muitos tipos de modelos de geração de imagens, cada um com as suas próprias caraterísticas especiais. Por exemplo, as Redes Adversárias Generativas (GANs) utilizam duas redes neurais que trabalham em conjunto para criar imagens realistas que se assemelham aos dados de treino. Os modelos de difusão geram imagens transformando gradualmente o ruído aleatório em imagens nítidas. Os transformadores, como os utilizados em modelos como DALL-E e CLIP, utilizam mecanismos de auto-atenção para gerar imagens a partir de descrições textuais. 

‍

Qualquer pessoa pode criar imagens de IA utilizando ferramentas como o GPT-4o da OpenAI, Midjourney, Gencraft ou Stable Diffusion. Estas imagens estão agora a aparecer por toda a Internet e, muitas vezes, sem quaisquer rótulos que indiquem que foram feitas por IA.

Os prós e os contras da arte da IA

Tal como a fotografia ou a pintura, a geração de imagens por IA está a ser considerada por muitos como uma nova forma de arte. Os quadros com IA estão a ser vendidos por milhares de dólares e a ganhar concursos de arte. Isto levanta a questão: será a arte da IA uma coisa boa e quais são os prós e os contras dessa geração de imagens?

‍

Há opiniões divergentes sobre este assunto. Por exemplo, as pequenas empresas com um orçamento limitado podem considerar a arte gerada como uma vantagem. Podem criar imagens personalizadas que correspondem perfeitamente às necessidades da marca e do marketing. Estas ferramentas podem poupar tempo ao produzir rapidamente imagens de alta qualidade e ajudar a manter os projectos criativos no bom caminho. No que respeita à inspiração dos artistas, a geração de imagens pode dar acesso a uma vasta biblioteca de opções únicas. Um artista pode facilmente visualizar uma ideia antes de a concretizar. 

No entanto, as imagens geradas por IA carecem frequentemente de profundidade emocional e podem ter dificuldade em captar as experiências humanas em bruto. Por vezes, a qualidade pode ser inconsistente, com imagens que parecem pixelizadas ou irrealistas. Confiar demasiado na IA pode sufocar a criatividade e o pensamento crítico. Há também o risco de utilização incorrecta. As imagens com IA podem ser facilmente manipuladas e dar origem a informações incorrectas. Além disso, a utilização destas ferramentas pode implicar uma curva de aprendizagem acentuada e podem conter preconceitos dos seus dados de formação. Eis alguns outros contras da arte da IA:

• Preocupações éticas: As questões relativas à propriedade intelectual, como a autoria, a propriedade e os direitos de autor da arte gerada por IA, podem ser complexas e controversas.
  ‍
• Deslocação de emprego: A utilização generalizada da IA na arte poderá reduzir as oportunidades para artistas e designers humanos.
  ‍
• Insensibilidade cultural: A arte da IA pode não compreender e respeitar os contextos culturais, dando origem a criações inadequadas ou ofensivas.

As zonas cinzentas legais das imagens geradas por IA

À medida que a IA avança, ainda estamos a descobrir ativamente as implicações legais (como questões de direitos de autor) enquanto sociedade. Ao contrário das criações tradicionais, as imagens geradas pela IA não podem ser protegidas por direitos de autor em alguns países, como os EUA, porque são essencialmente remisturas de obras existentes, muitas das quais já estão protegidas por direitos de autor. A situação complica-se porque o treino da IA envolve frequentemente grandes quantidades de dados extraídos da Internet, incluindo potencialmente material protegido por direitos de autor. Por este motivo, muitas pessoas protestam ativamente contra a utilização de conteúdos protegidos por direitos de autor para o treino de modelos de IA e querem uma melhor regulamentação.

Algumas empresas chegaram mesmo a intentar acções judiciais. A Getty Images, um fornecedor de imagens de arquivo, intentou uma ação judicial contra a Stability AI, um gerador de arte de IA, por alegadamente ter duplicado e utilizado a biblioteca de imagens da Getty para fins comerciais. Várias imagens produzidas pelo modelo texto-imagem da Stability AI têm a marca de água da Getty. A DeviantArt e duas outras empresas de IA também estão a ser processadas por um artista numa ação colectiva que alega que as suas obras de arte geradas por IA infringem as leis de direitos de autor. 

Como verificar se uma imagem é gerada por IA

Aprender a detetar imagens de IA é vital porque a sua utilização em notícias falsas para enganar as pessoas tem aumentado, especialmente durante as eleições. De acordo com a BBC, 60% dos investigadores conseguiram utilizar a IA para criar imagens enganadoras sobre os boletins de voto e os locais de votação. 

‍

As imagens com IA também afectam os consumidores. Um estudo recente da Attest revelou que a maioria dos consumidores(76%) não consegue distinguir entre imagens autênticas e imagens geradas por IA. Eis como pode saber se uma imagem é gerada por IA.

Verificar o título, a descrição e as etiquetas da imagem

Pode parecer óbvio, mas a forma mais fácil de detetar imagens com IA é verificar a descrição e as etiquetas para "Geradas por IA". Uma vez que ainda há muitas dúvidas em relação às imagens com IA, as empresas que as geram e/ou licenciam estão a fazer tudo o que podem para serem transparentes quanto à sua origem. As agências de fotografias de stock que permitem imagens com IA nas suas bibliotecas exigem que os contribuidores identifiquem os ficheiros como "gerados por IA" no título da imagem, na descrição e nas etiquetas da imagem (o que facilita a procura ou exclusão de imagens com IA ao navegar nos seus catálogos). Procurar estas etiquetas é a forma mais simples de detetar uma imagem gerada por IA. 

Procurar marcas de água

Outra forma de identificar imagens com IA é procurar marcas de água, uma vez que muitas ferramentas de IA as adicionam. Estas podem incluir pequenos logótipos, texto ou metadados. Por exemplo, o DALL-E 3 da OpenAI utiliza metadados C2PA invisíveis e um símbolo de Credenciais de Conteúdo (CR) visível no canto superior esquerdo. No entanto, o logótipo só é visível quando se verifica a imagem num site de verificação de credenciais de conteúdo, como o Content Credentials Verify. As empresas podem marcar as suas imagens de forma diferente, pelo que poderá ter de se familiarizar com vários indicadores.

‍

A Google anunciou recentemente o SynthID, uma forma inovadora de colocar marcas de água em imagens com IA. O SynthID permite incorporar uma marca de água digital diretamente nos pixels do conteúdo gerado pela IA. É invisível ao olho humano, mas detetável para identificação. O SynthID pode avaliar se uma ferramenta de IA criou provavelmente uma imagem através da pesquisa desta marca de água digital.

Procurar distorções ou anomalias na imagem

As imagens geradas por IA têm frequentemente imperfeições devido às limitações dos algoritmos de aprendizagem profunda. As anomalias mais comuns incluem:

• Fundos desfocados ou anormais: Escadas desalinhadas, móveis com formas estranhas e detalhes desfocados.
  ‍
• Inconsistências no cabelo: Texturas não naturais, padrões estranhos ou desfocagem.
  ‍
• Aparência excessivamente renderizada: Um aspeto brilhante e irrealista com uma mistura de texturas desfocadas e suaves.
  ‍
• Erros de acessórios: Jóias deformadas, brincos incompatíveis e objectos distorcidos.
  ‍
• Dedos estranhos: Dedos extra, polegares em falta ou outras anomalias da mão.

‍

Estes sinais ajudam a identificar imagens geradas por IA. No entanto, os avanços na IA significam que as futuras imagens de IA poderão ter menos falhas visíveis.

Utilizar ferramentas de identificação de imagens com IA

A utilização de ferramentas de identificação de imagens de IA é outra opção para detetar imagens de IA, embora deva ter em conta que pode não ser totalmente exacta. Vamos dar uma olhadela a algumas das ferramentas mais populares para detetar imagens de IA:

• IA ou não: Utiliza algoritmos avançados e aprendizagem automática para autenticar rapidamente conteúdos reais e falsos. É particularmente eficaz com imagens NFT falsas.
  ‍
• Conteúdo em escala: Esta ferramenta gratuita e simples fornece uma pontuação de Probabilidade Humana vs. IA para imagens de geradores populares.
  ‍
• Illuminarty: Oferece uma análise abrangente de imagens e textos gerados por IA, incluindo a identificação de modelos de IA e áreas específicas geradas por IA.
  ‍
• Detetor de Arte AI do Maybe: Uma ferramenta fácil de usar que utiliza um modelo ViT para fornecer uma pontuação percentual humana vs. artificial para imagens artísticas.
  ‍
• V7 Deepfake Detetor: Uma extensão do Chrome para detetar imagens deepfake do StyleGAN, útil na identificação de perfis falsos.
  ‍
• Detetor de imagens falsas: Utiliza metadados e Análise de Nível de Erro (ELA) para detetar imagens manipuladas, mas tem compatibilidade limitada com ficheiros e tem falhas.

À medida que os meios de comunicação gerados por IA continuam a espalhar-se e a avançar, estas ferramentas tornar-se-ão ainda mais eficazes no futuro.

Principais conclusões

À medida que os modelos de IA generativa se tornam mais inteligentes, é cada vez mais difícil distinguir as imagens geradas por IA das fotografias reais. Embora excitante em termos de avanço tecnológico, é também eticamente preocupante. É verdade que a IA oferece uma forma inovadora e económica de criar imagens, mas há obstáculos jurídicos e práticos a considerar. Felizmente, estão a ser desenvolvidos métodos e ferramentas para nos ajudar a navegar neste novo dilema. Ao mantermo-nos informados, podemos garantir que o conteúdo visual permanece fiável.

Ligue-se à nossa comunidade para saber mais sobre IA! Explore o nosso repositório GitHub para ver como estamos a utilizar a IA para criar soluções inovadoras em vários sectores, como os cuidados de saúde e a agricultura. Desbloqueie novas oportunidades connosco!