Come capire se un’immagine è stata generata dall’IA

I modelli di generazione delle immagini stanno diventando più avanzati e stiamo assistendo a un aumento delle immagini fotorealistiche generate dall'intelligenza artificiale (AI). Il dibattito tra immagini generate dall'AI e foto reali è sempre più attuale, poiché distinguere le une dalle altre diventa più difficile. In diverse occasioni, immagini generate dall'AI hanno ingannato gli utenti di Internet. Abbiamo visto Papa Francesco con un piumino e Katy Perry al Met Gala del 2024. Entrambe erano immagini create dall'AI generativa. In altre parole, non erano reali. Eppure, a prima vista, gli utenti di Internet le hanno credute autentiche.

A volte questo equivoco può essere divertente, ma più spesso solleva seri dubbi etici. Così come è importante tenersi al passo con il funzionamento dell'AI generativa, è fondamentale anche saper riconoscere i contenuti generati dall'AI. In questo articolo analizzeremo più da vicino le immagini generate dall'AI, ne esamineremo i pro e i contro come forma d'arte, discuteremo le questioni legali ed esploreremo metodi e strumenti utili per distinguerle dalle immagini reali.

Che cosa sono esattamente le immagini generate dall'AI?#

Le immagini generate dall'AI vengono create con modelli di generazione delle immagini che utilizzano reti neurali addestrate su grandi insiemi di dati per produrre immagini realistiche. La loro capacità di combinare stili, concetti e caratteristiche per creare immagini artistiche e pertinenti è notevole. Durante l'addestramento, i modelli di generazione delle immagini apprendono caratteristiche e dettagli diversi da queste immagini. Questo permette loro di creare nuove immagini simili per stile e contenuto a quelle che hanno analizzato.

Esistono molti tipi di modelli di generazione delle immagini, ognuno con caratteristiche specifiche. Per esempio, le reti generative avversarie (GANs) usano due reti neurali che lavorano insieme per creare immagini realistiche, simili ai dati di addestramento. I modelli di diffusione generano immagini trasformando gradualmente il rumore casuale in immagini nitide. I Transformer, come quelli usati in modelli quali DALL-E, sfruttano meccanismi di autoattenzione per generare immagini a partire da descrizioni testuali.

Fig. 1 Generata da DALL-E 2. Prompt: una poltrona a forma di avocado.

Chiunque può creare immagini con l'IA usando strumenti come ChatGPT di OpenAI, Midjourney, Gencraft o Stable Diffusion. Queste immagini si trovano ormai ovunque su Internet e spesso non hanno etichette che indichino che sono state create dall'IA.

I pro e i contro dell'arte generata dall'AI#

Come la fotografia o la pittura, la generazione di immagini con l’AI è considerata da molti una nuova forma d’arte. I dipinti generati dall’AI vengono venduti per migliaia di dollari e vincono concorsi d’arte. Questo solleva una domanda: l’arte generata dall’AI è una cosa positiva e quali sono i pro e i contro di questa generazione di immagini?

Fig. 2 Un’opera d’arte generata dall’AI.

Le opinioni in merito sono diverse. Per esempio, le piccole imprese con un budget limitato potrebbero considerare l'arte generata dall'AI un vantaggio. Possono creare immagini personalizzate, perfettamente in linea con il proprio marchio e le proprie esigenze di marketing. Questi strumenti fanno risparmiare tempo producendo rapidamente immagini di alta qualità e aiutano a portare avanti i progetti creativi. Per quanto riguarda l'ispirazione degli artisti, la generazione di immagini offre accesso a un vasto repertorio di opzioni uniche. Un artista può visualizzare facilmente un'idea prima di realizzarla.

Tuttavia, le immagini generate dall'AI spesso mancano di profondità emotiva e possono faticare a rappresentare esperienze umane autentiche. A volte la qualità è incostante e le immagini risultano pixelate o poco realistiche. Affidarsi troppo all'AI può soffocare la creatività e il pensiero critico. Esiste anche il rischio di un uso improprio. Le immagini generate dall'AI possono essere manipolate facilmente e favorire la diffusione di informazioni false. Inoltre, imparare a usare questi strumenti può richiedere molto tempo e i modelli possono ereditare distorsioni dai dati di addestramento. Ecco altri svantaggi dell'arte generata dall'AI:

• Questioni etiche: Le questioni relative alla proprietà intellettuale, come la paternità, la titolarità e il diritto d'autore delle opere d'arte generate dall'AI, possono essere complesse e controverse.
• Perdita di posti di lavoro: L'uso diffuso dell'AI nell'arte potrebbe ridurre le opportunità per artisti e designer.
• Insensibilità culturale: L'arte generata dall'AI potrebbe non comprendere e rispettare i contesti culturali, dando luogo a creazioni inappropriate o offensive.

Le zone grigie legali delle immagini generate dall'AI#

Con i progressi dell'IA, come società stiamo ancora cercando di comprendere attivamente le implicazioni legali (per esempio, le questioni relative al copyright). A differenza delle opere tradizionali, in alcuni paesi come gli Stati Uniti le immagini generate dall'IA non possono essere protette dal copyright, perché tale protezione richiede un autore umano. La questione si complica perché l'addestramento dell'IA spesso comporta la raccolta di enormi quantità di dati dal web, che potrebbero includere materiale protetto da copyright. Per questo motivo, molte persone stanno protestando contro l'uso di contenuti protetti da copyright per addestrare modelli IA e chiedono normative migliori.

Alcune aziende hanno persino intentato cause legali. Getty Images, un fornitore di immagini stock, ha avviato una causa legale contro Stability AI, un generatore di immagini artistiche basato sull'IA, accusandola di aver duplicato e utilizzato a fini commerciali la libreria di immagini di Getty. Diverse immagini prodotte dal modello di Stability AI per la generazione di immagini da testo riportano la filigrana Getty. Anche DeviantArt e altre due aziende di IA sono state citate in giudizio da un gruppo di artisti in una class action, che sostiene che le opere d'arte generate dall'IA violino le leggi sul copyright.

Come verificare se un'immagine è stata generata dall'AI#

Imparare a riconoscere le immagini generate dall'IA è fondamentale, perché il loro uso per diffondere notizie false e ingannare le persone è in aumento, soprattutto durante le elezioni. In uno studio, i ricercatori sono riusciti a usare i più diffusi generatori di immagini IA per creare disinformazione elettorale, comprese immagini fuorvianti di elettori e schede elettorali, nel 41% dei test.

Fig. 3. Immagine falsa di scatoloni pieni di schede elettorali in un cassonetto.

Le immagini generate dall'AI influenzano anche i consumatori. Un recente studio di Attest ha rivelato che la maggior parte dei consumatori (il 76%) non riesce a distinguere le immagini autentiche da quelle generate dall'AI. Ecco come riconoscere un'immagine generata dall'AI.

Controlla il titolo, la descrizione e i tag dell'immagine#

Può sembrare ovvio, ma il modo più semplice per riconoscere le immagini generate dall'AI è controllare che la descrizione e i tag riportino la dicitura «Generata dall'AI». Poiché le immagini generate dall'AI sono ancora oggetto di molte discussioni, le aziende che le producono e/o le concedono in licenza fanno il possibile per essere trasparenti sulla loro origine. Le agenzie di immagini stock che accettano immagini generate dall'AI nei propri cataloghi chiedono ai collaboratori di indicare «Generata dall'AI» nel titolo, nella descrizione e nei tag dell'immagine, così da rendere più semplice cercare o escludere queste immagini durante la consultazione dei cataloghi. Cercare queste etichette è il modo più semplice per riconoscere un'immagine generata dall'AI.

Cerca le filigrane#

Un altro modo per identificare le immagini generate dall’AI è cercare filigrane, che molti strumenti di AI aggiungono. Possono includere piccoli loghi, testo o metadati. Per esempio, DALL-E 3 di OpenAI usa metadati C2PA invisibili e un simbolo visibile di Content Credentials (CR) nell’angolo in alto a sinistra. Tuttavia, il logo è visibile solo quando si verifica l’immagine su un sito di verifica delle credenziali dei contenuti, come Content Credentials Verify. Le aziende possono contrassegnare le immagini in modi diversi, quindi potrebbe essere necessario imparare a riconoscere vari indicatori.

Fig. 4. Le immagini generate da ChatGPT includono metadati C2PA (Fonte: openai.com)

Google ha annunciato di recente SynthID, un metodo innovativo per aggiungere filigrane alle immagini generate dall'AI. SynthID permette di incorporare una filigrana digitale direttamente nei pixel dei contenuti generati dall'AI. La filigrana è invisibile all'occhio umano, ma può essere rilevata per identificare le immagini. SynthID può stabilire se è probabile che un'immagine sia stata creata con uno strumento di AI, rilevando la presenza di questa filigrana digitale.

Cerca distorsioni o anomalie nell'immagine#

Le immagini generate dall'AI presentano spesso imperfezioni dovute ai limiti degli algoritmi di deep learning. Tra le anomalie più comuni:

• Sfondi sfocati o anomali: scale disallineate, mobili dalle forme insolite e dettagli sfocati.
• Incoerenze nei capelli: trame innaturali, motivi insoliti o sfocature.
• Aspetto eccessivamente elaborato: un effetto lucido e poco realistico, con una combinazione di trame sfocate e uniformi.
• Errori negli accessori: gioielli deformati, orecchini diversi tra loro e oggetti distorti.
• Dita strane: dita in più, pollici mancanti o altre anomalie delle mani.

Fig. 5 Anomalie in un'immagine generata dall'AI.

Questi segnali aiutano a identificare le immagini generate dall'AI. Tuttavia, i progressi dell'AI potrebbero ridurre le imperfezioni visibili nelle immagini future.

Usa strumenti per identificare le immagini generate dall'AI#

Gli strumenti per identificare le immagini generate dall'AI sono un'altra opzione per riconoscerle, ma tieni presente che i risultati potrebbero non essere del tutto accurati. Vediamo alcuni degli strumenti più diffusi per rilevare le immagini generate dall'AI:

• AI Or Not: utilizza algoritmi avanzati e machine learning per autenticare rapidamente contenuti reali e falsi. È particolarmente efficace con le immagini false di NFT.
• Content at Scale: questo strumento gratuito e semplice da usare assegna alle immagini prodotte dai generatori più diffusi un punteggio di probabilità che siano state create da una persona o dall'AI.
• Illuminarty: offre un'analisi approfondita di immagini e testi generati dall'AI, con la possibilità di identificare i modelli di AI e le specifiche aree generate dall'AI.
• Maybe's AI Art Detector: uno strumento facile da usare che si avvale di un modello ViT per assegnare alle immagini artistiche un punteggio percentuale che indica se sono state create da una persona o dall'intelligenza artificiale.
• V7 Deepfake Detector: un'estensione per Chrome che rileva immagini deepfake create con StyleGAN e aiuta a identificare i profili falsi.
• Fake Image Detector: utilizza metadati e l'analisi dei livelli di errore (ELA) per rilevare immagini manipolate, ma è compatibile con un numero limitato di formati di file e può bloccarsi.

Con la continua diffusione e l'evoluzione dei contenuti generati dall'AI, questi strumenti diventeranno ancora più efficaci.

Punti chiave#

Con l'aumento dell'intelligenza dei modelli di AI generativa, è sempre più difficile distinguere le immagini generate dall'AI dalle foto reali. Questo progresso tecnologico è entusiasmante, ma solleva anche preoccupazioni etiche. È vero che l'AI offre un modo economico e innovativo per creare contenuti visivi, ma ci sono ostacoli legali e pratici da considerare. Per fortuna, si stanno sviluppando metodi e strumenti per aiutarci ad affrontare questa nuova sfida. Restando informati, possiamo contribuire a garantire l'affidabilità dei contenuti visivi.

Entra in contatto con la nostra community per saperne di più sull'AI! Esplora il nostro repository GitHub per scoprire come usiamo l'AI per sviluppare soluzioni innovative in diversi settori, come la sanità e l'agricoltura. Scopri nuove opportunità insieme a noi!