Como saber se uma imagem foi gerada por IA

Os modelos de geração de imagens estão ficando mais avançados, e estamos vendo um aumento de imagens de inteligência artificial (IA) muito realistas. O debate entre fotos geradas por IA e fotos reais está se tornando mais relevante à medida que fica mais difícil distinguir umas das outras. Já houve vários casos em que imagens geradas por IA enganaram a internet. Vimos o Papa Francisco com uma jaqueta acolchoada e Katy Perry no Met Gala de 2024. Ambas eram imagens fabricadas por IA generativa. Em outras palavras, não eram reais. No entanto, à primeira vista, a internet acreditou que eram.

Às vezes, essa confusão pode ser engraçada, mas, na maioria das vezes, representa uma séria preocupação ética. Assim como é importante acompanhar o funcionamento da IA generativa, também é fundamental saber identificar se algo foi gerado por IA. Neste artigo, vamos examinar mais de perto as imagens geradas por IA, entender os prós e contras da arte feita com IA, discutir questões jurídicas e explorar os principais métodos e ferramentas para diferenciá-las de imagens reais.

Afinal, o que são imagens geradas por IA?#

As imagens de IA são criadas com modelos de geração de imagens que usam redes neurais treinadas em grandes conjuntos de dados para gerar imagens realistas. O impressionante é a capacidade desses modelos de combinar estilos, conceitos e características para criar imagens artísticas e relevantes. Durante o treinamento, os modelos de geração de imagens aprendem diferentes características e detalhes dessas imagens. Isso os ajuda a criar novas imagens com estilo e conteúdo semelhantes aos das imagens que aprenderam.

Existem muitos tipos de modelos de geração de imagens, cada um com características próprias. Por exemplo, as redes adversariais generativas (GANs) usam duas redes neuronais que trabalham em conjunto para criar imagens realistas semelhantes aos dados de treino. Os modelos de difusão geram imagens transformando gradualmente ruído aleatório em imagens nítidas. Os Transformers, como os usados em modelos como o DALL-E, recorrem a mecanismos de autoatenção para gerar imagens a partir de descrições textuais.

Fig. 1 Gerada pelo DALL-E 2. Prompt: uma poltrona em formato de abacate.

Qualquer pessoa pode criar imagens com IA usando ferramentas como ChatGPT da OpenAI, Midjourney, Gencraft ou Stable Diffusion. Essas imagens agora aparecem por toda a internet e, muitas vezes, sem rótulos que indiquem que foram criadas por IA.

Os prós e contras da arte feita com IA#

Tal como a fotografia ou a pintura, a geração de imagens por IA é considerada por muitos uma nova forma de arte. Pinturas geradas por IA estão a ser vendidas por milhares de dólares e a vencer concursos de arte. Isto levanta a questão: a arte criada por IA é algo positivo e quais são as vantagens e desvantagens desta geração de imagens?

Fig. 2 Uma obra de arte gerada por IA.

Há diferentes opiniões sobre isso. Por exemplo, pequenas empresas com orçamento limitado podem ver a arte gerada como uma vantagem. Elas podem criar imagens personalizadas que correspondam perfeitamente à identidade da marca e às necessidades de marketing. Essas ferramentas economizam tempo ao produzir rapidamente imagens de alta qualidade e ajudam a manter os projetos criativos no caminho certo. Para inspirar artistas, a geração de imagens pode dar acesso a uma vasta coleção de opções exclusivas. Um artista pode visualizar facilmente uma ideia antes de concretizá-la.

No entanto, as imagens geradas por IA muitas vezes não têm profundidade emocional e podem ter dificuldade para capturar experiências humanas genuínas. Às vezes, a qualidade é inconsistente, e as imagens podem parecer pixeladas ou irreais. Depender demais da IA pode sufocar a criatividade e o pensamento crítico. Também existe o risco de uso indevido. As imagens de IA podem ser facilmente manipuladas e levar à desinformação. Além disso, essas ferramentas podem exigir uma curva de aprendizado acentuada e reproduzir vieses dos dados de treinamento. Veja outros contras da arte feita com IA:

• Preocupações éticas: questões de propriedade intelectual, como autoria, propriedade e direitos autorais de obras de arte geradas por IA, podem ser complexas e controversas.
• Deslocamento de empregos: o uso generalizado de IA na arte pode reduzir as oportunidades para artistas e designers.
• Insensibilidade cultural: a arte feita com IA pode não compreender nem respeitar contextos culturais, resultando em criações inadequadas ou ofensivas.

As zonas cinzentas jurídicas das imagens geradas por IA#

Com o avanço da IA, a sociedade ainda está tentando entender ativamente as implicações legais (como questões de direitos autorais). Ao contrário das criações tradicionais, imagens geradas por IA não podem ser protegidas por direitos autorais em alguns países, como os EUA, porque essa proteção exige autoria humana. A situação se complica porque o treinamento de IA costuma envolver enormes quantidades de dados extraídos da internet, que podem incluir material protegido por direitos autorais. Por isso, muitas pessoas estão protestando contra o uso de conteúdo protegido por direitos autorais no treinamento de modelos de IA e querem regulamentações melhores.

Algumas empresas chegaram a abrir processos judiciais. A Getty Images, fornecedora de imagens de banco, entrou com uma ação judicial contra a Stability AI, uma geradora de arte por IA, alegando que ela duplicou e usou comercialmente a biblioteca de imagens da Getty. Várias imagens produzidas pelo modelo de texto para imagem da Stability AI exibem a marca d'água da Getty. A DeviantArt e outras duas empresas de IA também estão sendo processadas por um grupo de artistas em uma ação coletiva que alega que as obras de arte geradas por IA infringem as leis de direitos autorais.

Como verificar se uma imagem foi gerada por IA#

Aprender a identificar imagens geradas por IA é essencial, pois seu uso em notícias falsas para enganar as pessoas aumentou, especialmente durante as eleições. Em um estudo, pesquisadores conseguiram usar geradores populares de imagens por IA para criar desinformação eleitoral, incluindo imagens enganosas de eleitores e cédulas, em 41% das tentativas.

Fig. 3. Imagem falsa de caixas de cédulas em uma caçamba de lixo.

As imagens de IA também afetam os consumidores. Um estudo recente da Attest revelou que a maioria dos consumidores (76%) não consegue distinguir imagens autênticas de imagens geradas por IA. Veja como identificar se uma imagem foi gerada por IA.

Confira o título, a descrição e as tags da imagem#

Pode parecer óbvio, mas a maneira mais fácil de identificar imagens de IA é verificar se a descrição e as tags indicam “gerada por IA”. Como ainda há muitas dúvidas sobre imagens de IA, as empresas que as geram e/ou licenciam fazem o possível para ser transparentes quanto à origem delas. Agências de fotos de banco que permitem imagens de IA em suas coleções exigem que os colaboradores identifiquem os arquivos como “gerados por IA” no título, na descrição e nas tags da imagem (o que facilita pesquisar ou excluir imagens de IA ao navegar pelos catálogos). Procurar esses rótulos é a maneira mais simples de identificar uma imagem gerada por IA.

Procure marcas d'água#

Outra forma de identificar imagens de IA é procurar marcas de água, uma vez que muitas ferramentas de IA as adicionam. Podem incluir pequenos logótipos, texto ou metadados. Por exemplo, o DALL-E 3 da OpenAI usa metadados invisíveis C2PA e um símbolo visível de Content Credentials (CR) no canto superior esquerdo. No entanto, o logótipo só fica visível quando se verifica a imagem num site de validação de credenciais de conteúdo, como o Content Credentials Verify. As empresas podem assinalar as imagens de formas diferentes, pelo que talvez tenhas de te familiarizar com vários indicadores.

Fig. 4. As imagens geradas pelo ChatGPT incluem metadados C2PA (Fonte: openai.com)

Recentemente, o Google anunciou o SynthID, uma forma inovadora de inserir marcas d'água em imagens de IA. O SynthID permite incorporar uma marca d'água digital diretamente nos pixels de conteúdo gerado por IA. Ela é invisível ao olho humano, mas pode ser detectada para fins de identificação. O SynthID pode avaliar se uma imagem provavelmente foi criada por uma ferramenta de IA, procurando essa marca d'água digital.

Procure distorções ou anomalias na imagem#

As imagens geradas por IA costumam ter imperfeições devido às limitações dos algoritmos de aprendizado profundo. Entre as anomalias comuns estão:

• Fundos desfocados ou anormais: escadas desalinhadas, móveis com formas estranhas e detalhes borrados.
• Inconsistências no cabelo: texturas artificiais, padrões estranhos ou áreas desfocadas.
• Aparência excessivamente renderizada: visual brilhante e irreal, com uma mistura de texturas borradas e suaves.
• Erros nos acessórios: joias deformadas, brincos diferentes e objetos distorcidos.
• Dedos estranhos: dedos extras, polegares ausentes ou outras anomalias nas mãos.

Fig. 5 Anomalias em uma imagem gerada por IA.

Esses sinais ajudam a identificar imagens geradas por IA. No entanto, os avanços da IA podem fazer com que as imagens geradas no futuro apresentem menos falhas visíveis.

Use ferramentas de identificação de imagens de IA#

Usar ferramentas de identificação de imagens de IA é outra opção para reconhecê-las, embora você deva ter em mente que os resultados podem não ser totalmente precisos. Vamos conhecer algumas das ferramentas mais populares para detectar imagens de IA:

• AI Or Not: usa algoritmos avançados e aprendizado de máquina para autenticar rapidamente conteúdo real e falso. É especialmente eficaz com imagens falsas de NFT.
• Content at Scale: essa ferramenta gratuita e simples fornece uma pontuação de probabilidade de conteúdo humano versus IA para imagens de geradores populares.
• Illuminarty: oferece uma análise abrangente de imagens e textos gerados por IA, incluindo a identificação de modelos de IA e de áreas específicas criadas por IA.
• Maybe's AI Art Detector: uma ferramenta fácil de usar que utiliza um modelo ViT para fornecer uma pontuação percentual de conteúdo humano versus artificial em imagens artísticas.
• V7 Deepfake Detector: uma extensão do Chrome para detectar imagens deepfake do StyleGAN, útil para identificar perfis falsos.
• Fake Image Detector: usa metadados e análise do nível de erro (ELA) para detectar imagens manipuladas, mas tem compatibilidade limitada com arquivos e apresenta falhas.

À medida que a mídia gerada por IA continua se espalhando e evoluindo, essas ferramentas se tornarão ainda mais eficazes no futuro.

Principais conclusões#

À medida que os modelos de IA generativa ficam mais inteligentes, torna-se mais difícil distinguir imagens geradas por IA de fotos reais. Embora isso seja empolgante do ponto de vista do avanço tecnológico, também gera preocupações éticas. É verdade que a IA oferece uma maneira econômica e inovadora de criar imagens, mas há obstáculos jurídicos e práticos a considerar. Felizmente, estão sendo desenvolvidos métodos e ferramentas para nos ajudar a lidar com esse novo dilema. Mantendo-nos bem informados, podemos garantir que o conteúdo visual continue sendo confiável.

Conecte-se à nossa comunidade para saber mais sobre IA! Explore nosso repositório no GitHub para ver como usamos IA para criar soluções inovadoras em vários setores, como saúde e agricultura. Descubra novas oportunidades conosco!