Como saber se uma imagem é gerada por AI

Modelos de geração de imagem estão se tornando mais avançados e estamos vendo um aumento em imagens de inteligência artificial (IA) realistas. O debate sobre IA versus fotos reais está se tornando mais relevante à medida que fica mais difícil distinguir entre as duas. Já houve vários cenários em que imagens geradas por IA enganaram a internet. Vimos o Papa Francisco com uma jaqueta puffer e Katy Perry no Met Gala de 2024. Ambas eram imagens fabricadas por IA generativa. Em outras palavras, elas não eram reais. No entanto, à primeira vista, a internet acreditou que eram.

Às vezes, essa confusão pode ser divertida, mas, mais frequentemente, apresenta uma séria preocupação ética. Assim como é importante acompanhar como a IA generativa funciona, também é crucial saber como identificar se algo foi gerado por IA. Neste artigo, examinaremos mais de perto as imagens geradas por IA, entenderemos os prós e contras da arte por IA, discutiremos questões legais e exploraremos os principais métodos e ferramentas para distingui-las de imagens reais.

Link to this sectionO que exatamente são imagens geradas por IA?#

Imagens de IA são criadas usando modelos de geração de imagem que utilizam redes neurais treinadas em grandes conjuntos de dados para gerar imagens realistas. O que é impressionante é a sua capacidade de misturar estilos, conceitos e recursos para criar imagens artísticas e relevantes. Durante o treinamento, os modelos de geração de imagem aprendem diferentes características e detalhes dessas imagens. Fazer isso os ajuda a criar novas imagens que parecem semelhantes em estilo e conteúdo àquelas com as quais aprenderam.

Existem muitos tipos de modelos de geração de imagem, cada um com suas próprias características especiais. Por exemplo, Redes Adversárias Generativas (GANs) usam duas redes neurais que trabalham em conjunto para criar imagens realistas que se assemelham aos seus dados de treinamento. Modelos de difusão geram imagens transformando gradualmente ruído aleatório em imagens claras. Transformers, como os usados em modelos como DALL-E e CLIP, usam mecanismos de autoatenção para gerar imagens a partir de descrições textuais.

Fig 1. Gerada pelo DALL-E 2. Prompt: Uma poltrona em forma de abacate.

Qualquer pessoa pode criar imagens de IA usando ferramentas como o GPT-4o da OpenAI, Midjourney, Gencraft ou Stable Diffusion. Essas imagens estão aparecendo por toda a internet, e muitas vezes sem nenhum rótulo para indicar que foram feitas por IA.

Link to this sectionOs prós e contras da arte por IA#

Como a fotografia ou a pintura, a geração de imagens por IA está sendo considerada uma nova forma de arte por muitos. Pinturas de IA estão sendo vendidas por milhares de dólares e ganhando competições de arte. Isso levanta a questão: a arte por IA é algo bom e quais são os prós e contras dessa geração de imagem?

Fig 2. Uma obra de arte gerada por IA.

Existem opiniões variadas sobre isso. Por exemplo, pequenas empresas com orçamento limitado podem ver a arte gerada como uma vantagem. Elas podem criar imagens personalizadas que combinam perfeitamente com as necessidades de branding e marketing. Essas ferramentas podem economizar tempo produzindo rapidamente visuais de alta qualidade e ajudar a manter os projetos criativos no caminho certo. Em relação à inspiração dos artistas, a geração de imagem pode fornecer acesso a uma vasta biblioteca de opções únicas. Um artista pode facilmente visualizar uma ideia antes de trazê-la à vida.

No entanto, as imagens geradas por IA muitas vezes carecem de profundidade emocional e podem ter dificuldade em capturar experiências humanas reais. Às vezes, a qualidade pode ser inconsistente, com imagens parecendo pixelizadas ou irreais. Depender demais da IA pode sufocar a criatividade e o pensamento crítico. Também existe o risco de uso indevido. Imagens de IA podem ser facilmente manipuladas e levar à desinformação. Além disso, usar essas ferramentas pode envolver uma curva de aprendizado íngreme e elas podem carregar vieses dos seus dados de treinamento. Aqui estão alguns outros contras da arte por IA:

• Preocupações Éticas: Questões sobre propriedade intelectual, como autoria, posse e direitos autorais da arte gerada por IA, podem ser complexas e controversas.
• Deslocamento de Empregos: O uso generalizado de IA na arte pode reduzir as oportunidades para artistas e designers humanos.
• Insensibilidade Cultural: A arte por IA pode falhar em entender e respeitar contextos culturais, levando a criações inapropriadas ou ofensivas.

Link to this sectionAs áreas cinzentas legais das imagens geradas por IA#

À medida que a IA avança, ainda estamos descobrindo ativamente as implicações legais (como questões de direitos autorais) como sociedade. Ao contrário das criações tradicionais, as imagens geradas por IA não podem ser protegidas por direitos autorais em alguns países, como os EUA, porque são essencialmente remixes de obras existentes, muitas das quais já possuem direitos autorais. Fica complicado porque o treinamento de IA geralmente envolve quantidades massivas de dados extraídos da internet, potencialmente incluindo material protegido por direitos autorais. Nesse sentido, muitas pessoas estão protestando ativamente protesting contra o uso de conteúdo protegido por direitos autorais para treinamento de modelos de IA e querem regulamentações melhores.

Algumas empresas até entraram com ações judiciais. A Getty Images, provedora de imagens de banco, entrou com um processo contra a Stability AI, um gerador de arte por IA, por supostamente duplicar e usar a biblioteca de imagens da Getty para ganho comercial. Várias imagens produzidas pelo modelo de texto para imagem da Stability AI ostentam a marca d'água da Getty. A DeviantArt e duas outras empresas de IA também estão sendo processadas por um artista em uma ação coletiva alegando que sua arte gerada por IA infringe as leis de direitos autorais.

Link to this sectionComo verificar se uma imagem foi gerada por IA#

Aprender a identificar imagens de IA é vital porque seu uso em notícias falsas para enganar as pessoas aumentou, especialmente durante as eleições. Segundo a BBC, 60% dos pesquisadores conseguiram usar IA para criar imagens enganosas sobre cédulas e locais.

Fig 3. Uma imagem falsa de caixas de cédulas em uma lixeira.

Imagens de IA também afetam os consumidores. Um estudo recente da Attest revelou que a maioria dos consumidores (76%) não consegue distinguir entre imagens autênticas e geradas por IA. Veja aqui como você pode saber se uma imagem foi gerada por IA.

Link to this sectionVerifique o título, a descrição e as tags da imagem#

Pode parecer óbvio, mas a maneira mais fácil de identificar imagens de IA é verificar a descrição e as tags em busca de 'Gerado por IA' ('AI-Generated'). Como ainda há muito questionamento sobre imagens de IA, as empresas que as geram e/ou licenciam estão fazendo tudo o que podem para serem transparentes sobre sua origem. Agências de fotos de banco que permitem imagens de IA em suas bibliotecas exigem que os contribuidores rotulem os arquivos como 'gerado por IA' no título, descrição e tags da imagem (o que facilita a busca ou exclusão de imagens de IA ao navegar em seus catálogos). Procurar por esses rótulos é a maneira mais simples de identificar uma imagem gerada por IA.

Link to this sectionProcure por marcas d'água#

Outra maneira de identificar imagens de IA é procurar por marcas d'água, já que muitas ferramentas de IA as adicionam. Elas podem incluir pequenos logotipos, texto ou metadados. Por exemplo, o DALL-E 3 da OpenAI usa metadados C2PA invisíveis e um símbolo visível de Content Credentials (CR) no canto superior esquerdo. No entanto, o logotipo só é visível ao verificar a imagem em um site de verificação de credenciais de conteúdo, como o Content Credentials Verify. As empresas podem marcar suas imagens de forma diferente, então você pode precisar se familiarizar com vários indicadores.

Fig 4. Imagens geradas pelo ChatGPT incluirão metadados C2PA (Fonte: openai.com)

O Google anunciou recentemente o SynthID, uma maneira inovadora de marcar imagens de IA com marca d'água. O SynthID torna possível incorporar uma marca d'água digital diretamente nos pixels do conteúdo gerado por IA. Ela é invisível ao olho humano, mas detectável para identificação. O SynthID pode avaliar se uma ferramenta de IA provavelmente criou uma imagem procurando por essa marca d'água digital.

Link to this sectionProcure por distorções ou anomalias dentro da imagem#

Imagens geradas por IA frequentemente apresentam imperfeições devido às limitações dos algoritmos de aprendizado profundo. Anomalias comuns incluem:

• Fundos borrados ou anormais: Escadas desalinhadas, móveis com formatos estranhos e detalhes borrados.
• Inconsistências no cabelo: Texturas não naturais, padrões estranhos ou borrões.
• Aparência excessivamente renderizada: Um visual brilhante e irreal com uma mistura de texturas borradas e lisas.
• Erros em acessórios: Joias distorcidas, brincos incompatíveis e objetos deformados.
• Dedos estranhos: Dedos extras, polegares faltando ou outras anomalias nas mãos.

Fig 5. Anomalias em uma imagem gerada por IA.

Esses sinais ajudam a identificar imagens geradas por IA. No entanto, os avanços na IA significam que futuras imagens de IA podem ter menos falhas visíveis.

Link to this sectionUse ferramentas de identificação de imagens por IA#

Usar ferramentas de identificação de imagens por IA é outra opção para detectar imagens de IA, embora você deva ter em mente que elas podem não ser totalmente precisas. Vamos dar uma olhada em algumas das ferramentas mais populares para detectar imagens de IA:

• AI Or Not: Usa algoritmos avançados e aprendizado de máquina para autenticar conteúdo real e falso rapidamente. É particularmente eficaz com imagens falsas de NFT.
• Content at Scale: Esta ferramenta gratuita e direta fornece uma pontuação de Probabilidade Humano versus IA para imagens de geradores populares.
• Illuminarty: Oferece análise abrangente de imagens e textos gerados por IA, incluindo a identificação de modelos de IA e áreas específicas geradas por IA.
• Maybe's AI Art Detector: Uma ferramenta fácil de usar que utiliza um modelo ViT para fornecer uma pontuação percentual de humano versus artificial para imagens artísticas.
• V7 Deepfake Detector: Uma extensão do Chrome para detectar imagens deepfake do StyleGAN, útil na identificação de perfis falsos.
• Fake Image Detector: Usa Metadados e Análise de Nível de Erro (ELA) para detectar imagens manipuladas, mas tem compatibilidade limitada de arquivos e sofre travamentos.

À medida que a mídia gerada por IA continua a se espalhar e avançar, essas ferramentas se tornarão ainda mais eficazes no futuro.

Link to this sectionPrincipais pontos#

À medida que os modelos de IA generativa se tornam mais inteligentes, está ficando mais difícil diferenciar imagens geradas por IA de fotos reais. Embora empolgante em termos de avanço tecnológico, também é eticamente preocupante. É verdade que a IA oferece uma maneira inovadora e econômica de criar visuais, mas existem obstáculos legais e práticos a considerar. Felizmente, existem métodos e ferramentas sendo desenvolvidos para nos ajudar a navegar nesse novo dilema. Mantendo-nos informados, podemos garantir que o conteúdo visual permaneça confiável.

Conecte-se com nossa comunidade para aprender mais sobre IA! Explore nosso repositório GitHub para ver como estamos usando a IA para criar soluções inovadoras em vários setores, como saúde e agricultura. Desbloqueie novas oportunidades conosco!