Como saber se uma imagem foi gerada por IA

Os modelos de geração de imagens estão ficando mais avançados, e estamos vendo um aumento de imagens de inteligência artificial (IA) muito realistas. O debate entre fotos geradas por IA e fotos reais está se tornando mais relevante à medida que fica mais difícil distinguir umas das outras. Já houve vários casos em que imagens geradas por IA enganaram a internet. Vimos o Papa Francisco com uma jaqueta acolchoada e Katy Perry no Met Gala de 2024. Ambas eram imagens fabricadas por IA generativa. Em outras palavras, não eram reais. No entanto, à primeira vista, a internet acreditou que eram.

Às vezes, essa confusão pode ser engraçada, mas, na maioria das vezes, representa uma séria preocupação ética. Assim como é importante acompanhar o funcionamento da IA generativa, também é fundamental saber identificar se algo foi gerado por IA. Neste artigo, vamos examinar mais de perto as imagens geradas por IA, entender os prós e contras da arte feita com IA, discutir questões jurídicas e explorar os principais métodos e ferramentas para diferenciá-las de imagens reais.

Afinal, o que são imagens geradas por IA?#

As imagens de IA são criadas com modelos de geração de imagens que usam redes neurais treinadas em grandes conjuntos de dados para gerar imagens realistas. O impressionante é a capacidade desses modelos de combinar estilos, conceitos e características para criar imagens artísticas e relevantes. Durante o treinamento, os modelos de geração de imagens aprendem diferentes características e detalhes dessas imagens. Isso os ajuda a criar novas imagens com estilo e conteúdo semelhantes aos das imagens que aprenderam.

Existem muitos tipos de modelos de geração de imagens, cada um com características próprias. Por exemplo, as redes adversariais generativas (GANs) usam duas redes neurais que trabalham em conjunto para criar imagens realistas que se parecem com os dados de treinamento. Os modelos de difusão geram imagens transformando gradualmente ruído aleatório em imagens nítidas. Transformers, como os usados em modelos como DALL-E e CLIP, utilizam mecanismos de autoatenção para gerar imagens a partir de descrições textuais.

Fig. 1 Gerada pelo DALL-E 2. Prompt: uma poltrona em formato de abacate.

Qualquer pessoa pode criar imagens com IA usando ferramentas como o GPT-4o da OpenAI, Midjourney, Gencraft ou Stable Diffusion. Essas imagens estão aparecendo por toda a internet, muitas vezes sem qualquer rótulo que indique que foram criadas por IA.

Os prós e contras da arte feita com IA#

Assim como a fotografia ou a pintura, a geração de imagens por IA está sendo considerada uma nova forma de arte por muitas pessoas. Pinturas feitas com IA estão sendo vendidas por milhares de dólares e vencendo concursos de arte. Isso levanta a questão: a arte feita com IA é algo positivo e quais são os prós e contras desse tipo de geração de imagens?

Fig. 2 Uma obra de arte gerada por IA.

Há diferentes opiniões sobre isso. Por exemplo, pequenas empresas com orçamento limitado podem ver a arte gerada como uma vantagem. Elas podem criar imagens personalizadas que correspondam perfeitamente à identidade da marca e às necessidades de marketing. Essas ferramentas economizam tempo ao produzir rapidamente imagens de alta qualidade e ajudam a manter os projetos criativos no caminho certo. Para inspirar artistas, a geração de imagens pode dar acesso a uma vasta coleção de opções exclusivas. Um artista pode visualizar facilmente uma ideia antes de concretizá-la.

No entanto, as imagens geradas por IA muitas vezes não têm profundidade emocional e podem ter dificuldade para capturar experiências humanas genuínas. Às vezes, a qualidade é inconsistente, e as imagens podem parecer pixeladas ou irreais. Depender demais da IA pode sufocar a criatividade e o pensamento crítico. Também existe o risco de uso indevido. As imagens de IA podem ser facilmente manipuladas e levar à desinformação. Além disso, essas ferramentas podem exigir uma curva de aprendizado acentuada e reproduzir vieses dos dados de treinamento. Veja outros contras da arte feita com IA:

• Preocupações éticas: questões de propriedade intelectual, como autoria, propriedade e direitos autorais de obras de arte geradas por IA, podem ser complexas e controversas.
• Deslocamento de empregos: o uso generalizado de IA na arte pode reduzir as oportunidades para artistas e designers.
• Insensibilidade cultural: a arte feita com IA pode não compreender nem respeitar contextos culturais, resultando em criações inadequadas ou ofensivas.

As zonas cinzentas jurídicas das imagens geradas por IA#

À medida que a IA avança, nós, como sociedade, ainda estamos tentando entender ativamente as implicações jurídicas, como as questões de direitos autorais. Ao contrário das criações tradicionais, as imagens geradas por IA não podem ser protegidas por direitos autorais em alguns países, como os EUA, porque são essencialmente remixes de obras existentes, muitas das quais já têm direitos autorais. A questão se complica porque o treinamento de IA geralmente envolve grandes quantidades de dados coletados da internet, que podem incluir material protegido por direitos autorais. Por isso, muitas pessoas estão protestando ativamente contra o uso de conteúdo protegido por direitos autorais no treinamento de modelos de IA e querem regulamentações melhores.

Algumas empresas chegaram a abrir processos judiciais. A Getty Images, fornecedora de imagens de banco, entrou com uma ação judicial contra a Stability AI, geradora de arte com IA, alegando que a empresa duplicou e usou a biblioteca de imagens da Getty para obter lucro comercial. Várias imagens produzidas pelo modelo de texto para imagem da Stability AI exibem a marca d'água da Getty. A DeviantArt e outras duas empresas de IA também estão sendo processadas por um artista em uma ação coletiva, que alega que as obras de arte geradas por IA violam as leis de direitos autorais.

Como verificar se uma imagem foi gerada por IA#

Aprender a identificar imagens de IA é fundamental, pois seu uso em notícias falsas para enganar as pessoas aumentou, especialmente durante as eleições. Segundo a BBC, 60% dos pesquisadores conseguiram usar IA para criar imagens enganosas de cédulas e locais de votação.

Fig. 3 Imagem falsa de caixas de cédulas eleitorais em uma caçamba.

As imagens de IA também afetam os consumidores. Um estudo recente da Attest revelou que a maioria dos consumidores (76%) não consegue distinguir imagens autênticas de imagens geradas por IA. Veja como identificar se uma imagem foi gerada por IA.

Confira o título, a descrição e as tags da imagem#

Pode parecer óbvio, mas a maneira mais fácil de identificar imagens de IA é verificar se a descrição e as tags indicam “gerada por IA”. Como ainda há muitas dúvidas sobre imagens de IA, as empresas que as geram e/ou licenciam fazem o possível para ser transparentes quanto à origem delas. Agências de fotos de banco que permitem imagens de IA em suas coleções exigem que os colaboradores identifiquem os arquivos como “gerados por IA” no título, na descrição e nas tags da imagem (o que facilita pesquisar ou excluir imagens de IA ao navegar pelos catálogos). Procurar esses rótulos é a maneira mais simples de identificar uma imagem gerada por IA.

Procure marcas d'água#

Outra maneira de identificar imagens de IA é procurar marcas d'água, já que muitas ferramentas de IA as adicionam. Elas podem incluir pequenos logotipos, texto ou metadados. Por exemplo, o DALL-E 3 da OpenAI usa metadados C2PA invisíveis e um símbolo visível de Credenciais de Conteúdo (CR) no canto superior esquerdo. No entanto, o logotipo só fica visível ao verificar a imagem em um site de validação de credenciais de conteúdo, como o Content Credentials Verify. As empresas podem marcar suas imagens de formas diferentes, então talvez seja necessário se familiarizar com vários indicadores.

Fig. 4. As imagens geradas pelo ChatGPT incluem metadados C2PA (Fonte: openai.com)

Recentemente, o Google anunciou o SynthID, uma forma inovadora de inserir marcas d'água em imagens de IA. O SynthID permite incorporar uma marca d'água digital diretamente nos pixels de conteúdo gerado por IA. Ela é invisível ao olho humano, mas pode ser detectada para fins de identificação. O SynthID pode avaliar se uma imagem provavelmente foi criada por uma ferramenta de IA, procurando essa marca d'água digital.

Procure distorções ou anomalias na imagem#

As imagens geradas por IA costumam ter imperfeições devido às limitações dos algoritmos de aprendizado profundo. Entre as anomalias comuns estão:

• Fundos desfocados ou anormais: escadas desalinhadas, móveis com formas estranhas e detalhes borrados.
• Inconsistências no cabelo: texturas artificiais, padrões estranhos ou áreas desfocadas.
• Aparência excessivamente renderizada: visual brilhante e irreal, com uma mistura de texturas borradas e suaves.
• Erros nos acessórios: joias deformadas, brincos diferentes e objetos distorcidos.
• Dedos estranhos: dedos extras, polegares ausentes ou outras anomalias nas mãos.

Fig. 5 Anomalias em uma imagem gerada por IA.

Esses sinais ajudam a identificar imagens geradas por IA. No entanto, os avanços da IA podem fazer com que as imagens geradas no futuro apresentem menos falhas visíveis.

Use ferramentas de identificação de imagens de IA#

Usar ferramentas de identificação de imagens de IA é outra opção para reconhecê-las, embora você deva ter em mente que os resultados podem não ser totalmente precisos. Vamos conhecer algumas das ferramentas mais populares para detectar imagens de IA:

• AI Or Not: usa algoritmos avançados e aprendizado de máquina para autenticar rapidamente conteúdo real e falso. É especialmente eficaz com imagens falsas de NFT.
• Content at Scale: essa ferramenta gratuita e simples fornece uma pontuação de probabilidade de conteúdo humano versus IA para imagens de geradores populares.
• Illuminarty: oferece uma análise abrangente de imagens e textos gerados por IA, incluindo a identificação de modelos de IA e de áreas específicas criadas por IA.
• Maybe's AI Art Detector: uma ferramenta fácil de usar que utiliza um modelo ViT para fornecer uma pontuação percentual de conteúdo humano versus artificial em imagens artísticas.
• V7 Deepfake Detector: uma extensão do Chrome para detectar imagens deepfake do StyleGAN, útil para identificar perfis falsos.
• Fake Image Detector: usa metadados e análise do nível de erro (ELA) para detectar imagens manipuladas, mas tem compatibilidade limitada com arquivos e apresenta falhas.

À medida que a mídia gerada por IA continua se espalhando e evoluindo, essas ferramentas se tornarão ainda mais eficazes no futuro.

Principais conclusões#

À medida que os modelos de IA generativa ficam mais inteligentes, torna-se mais difícil distinguir imagens geradas por IA de fotos reais. Embora isso seja empolgante do ponto de vista do avanço tecnológico, também gera preocupações éticas. É verdade que a IA oferece uma maneira econômica e inovadora de criar imagens, mas há obstáculos jurídicos e práticos a considerar. Felizmente, estão sendo desenvolvidos métodos e ferramentas para nos ajudar a lidar com esse novo dilema. Mantendo-nos bem informados, podemos garantir que o conteúdo visual continue sendo confiável.

Conecte-se à nossa comunidade para saber mais sobre IA! Explore nosso repositório no GitHub para ver como usamos IA para criar soluções inovadoras em vários setores, como saúde e agricultura. Descubra novas oportunidades conosco!