Come capire se un'immagine è stata generata dall'IA

Abirami Vina

5 minuti di lettura

19 giugno 2024

Con il progredire dell'IA generativa, è importante imparare a identificare le immagini generate dall'IA. Scoprite consigli, strumenti e tecniche per individuare i falsi in modo efficiente ed efficace.

Imodelli di generazione delle immagini stanno diventando sempre più avanzati e si assiste a un aumento delle immagini di intelligenza artificiale (AI) simili alla vita. Il dibattito tra IA e foto reali sta diventando sempre più rilevante, poiché è sempre più difficile distinguere tra le due. Ci sono stati diversi casi in cui le immagini generate dall'intelligenza artificiale hanno ingannato Internet. Abbiamo visto Papa Francesco con una giacca a vento e Katy Perry al Met Gala del 2024. Entrambe le immagini sono state create dall'intelligenza artificiale generativa. In altre parole, non erano reali. Tuttavia, a prima vista, Internet ha creduto che lo fossero.

A volte questa confusione può essere divertente, ma più spesso rappresenta un serio problema etico. Così come è importante tenersi aggiornati sul funzionamento dell'IA generativa, è anche fondamentale sapere come capire se qualcosa è generato dall'IA. In questo articolo daremo un'occhiata più da vicino alle immagini generate dall'IA, capiremo i pro e i contro dell'arte dell'IA, discuteremo le questioni legali ed esploreremo i metodi e gli strumenti chiave per distinguerle dalle immagini reali.

Cosa sono esattamente le immagini generate dall'intelligenza artificiale?  

Le immagini AI sono create con modelli di generazione di immagini che utilizzano reti neurali addestrate su grandi insiemi di dati per generare immagini realistiche. Ciò che colpisce è la loro capacità di mescolare stili, concetti e caratteristiche per creare immagini artistiche e rilevanti. Durante l'addestramento, i modelli di generazione di immagini imparano diverse caratteristiche e dettagli da queste immagini. Questo li aiuta a creare nuove immagini simili per stile e contenuto a quelle da cui hanno imparato.

Esistono molti tipi di modelli di generazione di immagini, ognuno con le proprie caratteristiche. Ad esempio, le reti avversarie generative (GAN) utilizzano due reti neurali che lavorano in tandem per creare immagini realistiche che assomigliano ai dati di addestramento. I modelli di diffusione generano immagini trasformando gradualmente il rumore casuale in immagini chiare. I trasformatori, come quelli utilizzati in modelli come DALL-E e CLIP, utilizzano meccanismi di autoattenzione per generare immagini da descrizioni testuali. 

__wf_reserved_inherit
Figura 1. Generato da DALL-E 2. Prompt: Una poltrona a forma di avocado.

Chiunque può creare immagini di IA utilizzando strumenti come GPT-4o di OpenAI, Midjourney, Gencraft o Stable Diffusion. Queste immagini stanno comparendo su Internet, spesso senza alcuna etichetta che indichi che sono state create dall'IA.

I pro e i contro dell'arte AI

Come la fotografia o la pittura, la generazione di immagini AI è considerata da molti una nuova forma d'arte. I dipinti dell'intelligenza artificiale vengono venduti per migliaia di dollari e vincono concorsi d'arte. Ciò solleva la domanda: l'arte dell'IA è una buona cosa e quali sono i pro e i contro di questa generazione di immagini?

__wf_reserved_inherit
Fig. 2. Un'opera d'arte generata dall'intelligenza artificiale.

Ci sono opinioni diverse in merito. Ad esempio, le piccole imprese con un budget limitato potrebbero considerare l'arte generata come un vantaggio. Possono creare immagini personalizzate che si adattano perfettamente alle esigenze del branding e del marketing. Questi strumenti possono far risparmiare tempo producendo rapidamente immagini di alta qualità e aiutando a mantenere i progetti creativi in carreggiata. Per quanto riguarda l'ispirazione degli artisti, la generazione di immagini può fornire l'accesso a una vasta libreria di opzioni uniche. Un artista può facilmente visualizzare un'idea prima di realizzarla. 

Tuttavia, le immagini generate dall'intelligenza artificiale spesso mancano di profondità emotiva e possono faticare a catturare le esperienze umane più crude. A volte la qualità può essere incoerente, con immagini che appaiono pixelate o poco realistiche. Affidarsi troppo all'IA può soffocare la creatività e il pensiero critico. C'è anche il rischio di un uso improprio. Le immagini dell'IA possono essere facilmente manipolate e portare alla disinformazione. Inoltre, l'uso di questi strumenti può comportare una curva di apprendimento molto ripida e possono portare con sé pregiudizi derivanti dai dati di addestramento. Ecco altri svantaggi dell'arte dell'IA:

  • Problemi etici: Le questioni relative alla proprietà intellettuale, come la paternità, la proprietà e il copyright dell'arte generata dall'IA, possono essere complesse e controverse.
  • Dislocazione del lavoro: L'uso diffuso dell'IA nell'arte potrebbe ridurre le opportunità per gli artisti e i designer umani.
  • Insensibilità culturale: L'AI può non comprendere e rispettare i contesti culturali, dando luogo a creazioni inappropriate o offensive.

Le aree grigie legali delle immagini generate dall'intelligenza artificiale

Con il progredire dell'IA, la società sta ancora cercando di capire le implicazioni legali (come i problemi di copyright). A differenza delle creazioni tradizionali, le immagini generate dall'IA non possono essere protette da copyright in alcuni Paesi, come gli Stati Uniti, perché sono essenzialmente remix di opere esistenti, molte delle quali sono già protette da copyright. La situazione si complica perché l'addestramento dell'IA spesso comporta l'utilizzo di enormi quantità di dati prelevati da Internet, che potenzialmente possono includere materiale protetto da copyright. Per questo motivo, molte persone protestano attivamente contro l'uso di contenuti protetti da copyright per l'addestramento di modelli di IA e chiedono una migliore regolamentazione.

Alcune aziende hanno addirittura intentato causa. Getty Images, un fornitore di immagini di stock, ha intentato una causa contro Stability AI, un generatore di arte artificiale, per aver presumibilmente duplicato e utilizzato la libreria di immagini di Getty per scopi commerciali. Diverse immagini prodotte dal modello text-to-image di Stability AI recano il watermark di Getty. DeviantArt e altre due società di AI sono state citate in giudizio da un artista in un'azione collettiva che sostiene che le loro opere d'arte generate dall'AI violano le leggi sul copyright. 

Come verificare se un'immagine è generata dall'intelligenza artificiale

Imparare a riconoscere le immagini dell'IA è fondamentale perché il loro utilizzo nelle fake news per ingannare le persone è aumentato, soprattutto durante le elezioni. Secondo la BBC, il 60% dei ricercatori è riuscito a utilizzare l'IA per creare immagini fuorvianti su schede elettorali e luoghi. 

__wf_reserved_inherit
Fig. 3. Immagine falsa di scatole di schede elettorali in un cassonetto.

Le immagini generate dall'intelligenza artificiale influenzano anche i consumatori. Un recente studio di Attest ha rivelato che la maggior parte dei consumatori(76%) non è in grado di distinguere tra immagini autentiche e generate dall'intelligenza artificiale. Ecco come capire se un'immagine è generata dall'intelligenza artificiale.

Controllare titolo, descrizione e tag dell'immagine

Può sembrare ovvio, ma il modo più semplice per individuare le immagini AI è controllare la descrizione e i tag per "AI-Generated". Poiché ci sono ancora molti dubbi sulle immagini AI, le aziende che le generano e/o le concedono in licenza stanno facendo tutto il possibile per essere trasparenti sulla loro origine. Le agenzie di foto stock che consentono l'inserimento di immagini AI nelle loro librerie richiedono ai collaboratori di etichettare i file come "generati dall'intelligenza artificiale" nel titolo, nella descrizione e nei tag dell'immagine (il che rende più facile la ricerca o l'esclusione delle immagini AI quando si naviga nei loro cataloghi). La ricerca di queste etichette è il modo più semplice per individuare un'immagine generata dall'intelligenza artificiale. 

Cercare le filigrane

Un altro modo per identificare le immagini AI è quello di cercare le filigrane, poiché molti strumenti AI le aggiungono. Questi possono includere piccoli loghi, testo o metadati. Per esempio, DALL-E 3 di OpenAI utilizza metadati C2PA invisibili e un simbolo Content Credentials (CR) visibile nell'angolo in alto a sinistra. Tuttavia, il logo è visibile solo quando si controlla l'immagine su un sito di verifica delle credenziali di contenuto, come Content Credentials Verify. Le aziende possono contrassegnare le loro immagini in modo diverso, quindi potrebbe essere necessario familiarizzare con i vari indicatori.

__wf_reserved_inherit
Figura 4. Le immagini generate da ChatGPT includeranno i metadati C2PA.

Google ha recentemente annunciato SynthID, un modo innovativo per filigranare le immagini AI. SynthID consente di incorporare una filigrana digitale direttamente nei pixel dei contenuti generati dall'intelligenza artificiale. È invisibile all'occhio umano ma rilevabile per l'identificazione. SynthID è in grado di valutare se uno strumento di intelligenza artificiale ha probabilmente creato un'immagine attraverso la scansione di questa filigrana digitale.

Cercare distorsioni o anomalie all'interno dell'immagine.

Le immagini generate dall'intelligenza artificiale presentano spesso imperfezioni dovute ai limiti degli algoritmi di apprendimento profondo. Le anomalie più comuni includono:

  • Sfondi sfocati o anomali: Scale non allineate, mobili di forma strana e dettagli sfocati.
  • Incoerenze dei capelli: Texture innaturali, disegni strani o sfocature.
  • Aspetto eccessivamente renderizzato: Un aspetto lucido e irrealistico con un mix di texture sfocate e lisce.
  • Errori negli accessori: Gioielli deformati, orecchini non corrispondenti e oggetti distorti.
  • Dita strane: Dita in più, pollici mancanti o altre anomalie della mano.
__wf_reserved_inherit
Figura 5. Anomalie in un'immagine generata dall'intelligenza artificiale.

Questi segni aiutano a identificare le immagini generate dall'IA. Tuttavia, grazie ai progressi dell'IA, le immagini IA del futuro potrebbero avere meno difetti visibili.

Utilizzare strumenti di identificazione delle immagini AI

L'uso di strumenti per l'identificazione delle immagini AI è un'altra opzione per individuare le immagini AI, anche se bisogna tenere presente che potrebbe non essere del tutto accurato. Vediamo alcuni degli strumenti più diffusi per individuare le immagini AI:

  • AI o no: Utilizza algoritmi avanzati e l'apprendimento automatico per autenticare rapidamente contenuti veri e falsi. È particolarmente efficace con le immagini NFT false.
  • Contenuti in scala: Questo strumento gratuito e semplice fornisce un punteggio di probabilità umana e artificiale per le immagini di generatori popolari.
  • Illuminarty: Offre un'analisi completa di immagini e testi generati dall'IA, compresa l'identificazione di modelli di IA e di aree specifiche generate dall'IA.
  • Rilevatore artistico AI di Maybe: Uno strumento facile da usare che utilizza un modello ViT per fornire un punteggio percentuale umano e artificiale per le immagini artistiche.
  • V7 Deepfake Detector: Un'estensione di Chrome per rilevare le immagini deepfake di StyleGAN, utile per identificare i profili falsi.
  • Rilevatore di immagini false: Utilizza i metadati e l'analisi del livello di errore (ELA) per rilevare le immagini manipolate, ma ha una compatibilità limitata con i file e si blocca.

Con la diffusione e il progresso dei media generati dall'intelligenza artificiale, questi strumenti diventeranno ancora più efficaci in futuro.

Punti di forza

Man mano che i modelli di IA generativa diventano più intelligenti, diventa sempre più difficile distinguere le immagini generate dall'IA dalle foto reali. Sebbene sia entusiasmante in termini di progresso tecnologico, è anche eticamente preoccupante. È vero che l'IA offre un modo economico e innovativo di creare immagini, ma ci sono ostacoli legali e pratici da considerare. Fortunatamente, sono stati sviluppati metodi e strumenti per aiutarci a superare questo nuovo dilemma. Rimanendo informati, possiamo assicurarci che i contenuti visivi rimangano affidabili.

Connettetevi con la nostra comunità per saperne di più sull'IA! Esplorate il nostro repository GitHub per vedere come stiamo usando l'IA per creare soluzioni innovative in vari settori come la sanità e l'agricoltura. Sbloccate nuove opportunità con noi!

Costruiamo insieme il futuro
dell'IA!

Iniziate il vostro viaggio nel futuro dell'apprendimento automatico

Iniziare gratuitamente
Link copiato negli appunti