Como saber se uma imagem é gerada por IA

Os modelos de geração de imagens estão se tornando mais avançados e estamos vendo um aumento nas imagens de inteligência artificial (IA) realistas. O debate entre IA e fotos reais está se tornando mais relevante à medida que fica mais difícil distinguir entre os dois. Houve vários cenários em que imagens geradas por IA enganaram a internet. Vimos o Papa Francisco usando uma jaqueta puffer e Katy Perry no Met Gala de 2024. Ambas eram imagens fabricadas por IA generativa. Em outras palavras, não eram reais. No entanto, à primeira vista, a internet acreditou que eram.

Às vezes, essa confusão pode ser divertida, mas, na maioria das vezes, apresenta uma séria preocupação ética. Assim como é importante acompanhar como a IA generativa funciona, também é crucial saber como identificar se algo foi gerado por IA. Neste artigo, analisaremos mais de perto as imagens geradas por IA, entenderemos os prós e os contras da arte de IA, discutiremos questões legais e exploraremos os principais métodos e ferramentas para diferenciá-las de imagens reais.

O que exatamente são imagens geradas por IA?  

As imagens de IA são criadas usando modelos de geração de imagem que usam redes neurais treinadas em grandes conjuntos de dados para gerar imagens realistas. O que é impressionante é sua capacidade de misturar estilos, conceitos e recursos para criar imagens artísticas e relevantes. Durante o treinamento, os modelos de geração de imagem aprendem diferentes recursos e detalhes dessas imagens. Fazer isso ajuda-os a criar novas imagens que parecem semelhantes em estilo e conteúdo às que aprenderam.

Existem muitos tipos de modelos de geração de imagem, cada um com suas próprias características especiais. Por exemplo, as Redes Adversárias Generativas (GANs) usam duas redes neurais que trabalham em conjunto para criar imagens realistas que se assemelham aos seus dados de treinamento. Os modelos de difusão geram imagens transformando gradualmente o ruído aleatório em imagens nítidas. Os Transformers, como os usados em modelos como DALL-E e CLIP, usam mecanismos de autoatenção para gerar imagens a partir de descrições textuais. 

‍

Qualquer pessoa pode criar imagens de IA usando ferramentas como o GPT-4o da OpenAI, Midjourney, Gencraft ou Stable Diffusion. Essas imagens estão agora aparecendo por toda a internet, e muitas vezes sem quaisquer rótulos para indicar que são feitas por IA.

Os prós e contras da arte de IA

Assim como a fotografia ou a pintura, a geração de imagens por IA está sendo considerada uma nova forma de arte por muitos. As pinturas de IA estão sendo vendidas por milhares de dólares e vencendo competições de arte. Isso levanta a questão: a arte da IA é uma coisa boa e quais são os prós e os contras de tal geração de imagens?

‍

Existem opiniões divergentes sobre isso. Por exemplo, pequenas empresas com orçamento limitado podem ver a arte gerada como uma vantagem. Elas podem criar imagens personalizadas que correspondam perfeitamente às necessidades de branding e marketing. Essas ferramentas podem economizar tempo, produzindo rapidamente visuais de alta qualidade e ajudando a manter os projetos criativos no caminho certo. Com relação à inspiração dos artistas, a geração de imagens pode fornecer acesso a uma vasta biblioteca de opções exclusivas. Um artista pode facilmente visualizar uma ideia antes de trazê-la à vida. 

No entanto, as imagens geradas por IA geralmente carecem de profundidade emocional e podem ter dificuldades em capturar experiências humanas brutas. Às vezes, a qualidade pode ser inconsistente, com imagens pixelizadas ou irrealistas. Confiar demais na IA pode sufocar a criatividade e o pensamento crítico. Há também o risco de uso indevido. As imagens de IA podem ser facilmente manipuladas e levar à desinformação. Além disso, o uso dessas ferramentas pode envolver uma curva de aprendizado acentuada e pode conter preconceitos de seus dados de treinamento. Aqui estão alguns outros contras da arte de IA:

• Preocupações Éticas: Questões sobre propriedade intelectual, como autoria, propriedade e direitos autorais de arte gerada por IA, podem ser complexas e controversas.
  ‍
• Substituição de Empregos: O uso generalizado de IA na arte pode reduzir as oportunidades para artistas e designers humanos.
  ‍
• Insensibilidade Cultural: A arte da IA pode não compreender e respeitar os contextos culturais, levando a criações inapropriadas ou ofensivas.

As áreas cinzentas legais das imagens geradas por IA

À medida que a IA avança, ainda estamos ativamente descobrindo as implicações legais (como questões de direitos autorais) como sociedade. Ao contrário das criações tradicionais, as imagens geradas por IA não podem ser protegidas por direitos autorais em alguns países, como os EUA, porque são essencialmente remixes de obras existentes, muitas das quais já são protegidas por direitos autorais. A situação se complica porque o treinamento de IA geralmente envolve grandes quantidades de dados extraídos da internet, potencialmente incluindo material protegido por direitos autorais. Para este efeito, muitas pessoas estão ativamente protestando contra o uso de conteúdo protegido por direitos autorais para treinamento de modelos de IA e querem melhores regulamentações.

Algumas empresas até entraram com ações judiciais. A Getty Images, um fornecedor de imagens de stock, entrou com um processo contra a Stability AI, um gerador de arte de IA, por alegadamente duplicar e usar a biblioteca de imagens da Getty para ganho comercial. Várias imagens produzidas pelo modelo de texto para imagem da Stability AI exibem a marca d'água da Getty. A DeviantArt e outras duas empresas de IA também estão sendo processadas por um artista em uma ação coletiva, alegando que suas obras de arte geradas por IA infringem as leis de direitos autorais. 

Como verificar se uma imagem é gerada por IA

Aprender a identificar imagens geradas por IA é crucial, pois seu uso em notícias falsas para enganar as pessoas aumentou, especialmente durante as eleições. De acordo com a BBC, 60% dos pesquisadores conseguiram usar a IA para criar imagens enganosas sobre cédulas e locais de votação. 

‍

As imagens de IA também afetam os consumidores. Um estudo recente da Attest revelou que a maioria dos consumidores (76%) não consegue diferenciar entre imagens autênticas e geradas por IA. Veja como você pode dizer se uma imagem é gerada por IA.

Verifique o título, a descrição e as tags da imagem

Pode parecer óbvio, mas a forma mais fácil de detetar imagens de IA é verificar a descrição e as tags para ‘Gerado por IA’. Uma vez que ainda há muito a ser questionado sobre as imagens de IA, as empresas que as geram e/ou licenciam estão a fazer tudo o que podem para serem transparentes quanto à sua origem. As agências de fotografia de stock que permitem imagens de IA nas suas bibliotecas exigem que os contribuidores rotulem os ficheiros como ‘gerados por IA’ no título da imagem, na descrição e nas tags da imagem (o que facilita a pesquisa ou a exclusão de imagens de IA ao navegar nos seus catálogos). Procurar estes rótulos é a forma mais simples de detetar uma imagem gerada por IA. 

Procure por marcas d'água

Outra forma de identificar imagens de IA é procurar por marcas d'água, pois muitas ferramentas de IA as adicionam. Estas podem incluir pequenos logotipos, texto ou metadados. Por exemplo, o DALL-E 3 da OpenAI usa metadados C2PA invisíveis e um símbolo visível de Credenciais de Conteúdo (CR) no canto superior esquerdo. No entanto, o logotipo só é visível ao verificar a imagem em um site de verificação de credenciais de conteúdo, como o Content Credentials Verify. As empresas podem marcar suas imagens de forma diferente, então você pode precisar se familiarizar com vários indicadores.

‍

O Google anunciou recentemente o SynthID, uma forma inovadora de marcar imagens de IA com marca d'água. O SynthID torna possível incorporar uma marca d'água digital diretamente nos pixels do conteúdo gerado por IA. É invisível ao olho humano, mas detectável para identificação. O SynthID pode avaliar se uma ferramenta de IA provavelmente criou uma imagem, procurando por esta marca d'água digital.

Procure por distorções ou anomalias dentro da imagem

As imagens geradas por IA geralmente apresentam imperfeições devido às limitações dos algoritmos de aprendizado profundo. Anomalias comuns incluem:

• Fundos desfocados ou anormais: Escadas desalinhadas, móveis com formas estranhas e detalhes borrados.
  ‍
• Inconsistências no cabelo: Texturas não naturais, padrões estranhos ou desfoque.
  ‍
• Aparência excessivamente renderizada: Uma aparência brilhante e irreal com uma mistura de texturas borradas e suaves.
  ‍
• Erros de acessórios: Joias deformadas, brincos incompatíveis e objetos distorcidos.
  ‍
• Dedos estranhos: Dedos extras, polegares ausentes ou outras anomalias nas mãos.

‍

Esses sinais ajudam a identificar imagens geradas por IA. No entanto, os avanços na IA significam que as futuras imagens de IA podem ter menos falhas visíveis.

Use ferramentas de identificação de imagem por IA

Usar ferramentas de identificação de imagem por IA é outra opção para identificar imagens de IA, embora você deva ter em mente que pode não ser totalmente preciso. Vamos dar uma olhada em algumas das ferramentas mais populares para detectar imagens de IA:

• AI Or Not: Usa algoritmos avançados e aprendizado de máquina para autenticar conteúdo real e falso rapidamente. É particularmente eficaz com imagens NFT falsas.
  ‍
• Conteúdo em Escala: Esta ferramenta gratuita e direta fornece uma pontuação de probabilidade Humano vs. IA para imagens de geradores populares.
  ‍
• Illuminarty: Oferece análise abrangente de imagens e textos gerados por IA, incluindo a identificação de modelos de IA e áreas específicas geradas por IA.
  ‍
• Detector de Arte de IA da Maybe: Uma ferramenta fácil de usar que utiliza um modelo ViT para fornecer uma pontuação percentual de humano vs. artificial para imagens artísticas.
  ‍
• V7 Deepfake Detector: Uma extensão do Chrome para detectar imagens deepfake StyleGAN, útil na identificação de perfis falsos.
  ‍
• Detector de Imagens Falsas: Usa metadados e análise de nível de erro (ELA) para detectar imagens manipuladas, mas tem compatibilidade de arquivos limitada e apresenta falhas.

À medida que a mídia gerada por IA continua a se espalhar e avançar, essas ferramentas se tornarão ainda mais eficazes no futuro.

Principais conclusões

À medida que os modelos de IA generativa se tornam mais inteligentes, está se tornando mais difícil distinguir imagens geradas por IA de fotos reais. Embora seja empolgante em termos de avanço tecnológico, também é eticamente preocupante. É verdade que a IA oferece uma maneira inovadora e econômica de criar visuais, mas há obstáculos legais e práticos a serem considerados. Felizmente, existem métodos e ferramentas sendo desenvolvidos para nos ajudar a navegar por este novo dilema. Ao nos mantermos informados, podemos garantir que o conteúdo visual permaneça confiável.

Conecte-se com a nossa comunidade para saber mais sobre IA! Explore o nosso repositório GitHub para ver como estamos a usar a IA para criar soluções inovadoras em vários setores, como saúde e agricultura. Desbloqueie novas oportunidades connosco!