Come capire se un’immagine è stata generata dall’AI

I modelli di generazione delle immagini stanno diventando sempre più avanzati e assistiamo a un aumento delle immagini di intelligenza artificiale (AI) dall'aspetto realistico. Il dibattito tra foto generate dall'AI e foto reali sta diventando sempre più attuale, poiché è più difficile distinguere le une dalle altre. Si sono verificati diversi casi in cui immagini generate dall'AI hanno ingannato Internet. Abbiamo visto Papa Francesco con una giacca imbottita e Katy Perry al Met Gala del 2024. Entrambe erano immagini create dall'AI generativa. In altre parole, non erano reali. Tuttavia, a prima vista, Internet ha creduto che lo fossero.

A volte questa confusione può essere divertente, ma più spesso rappresenta una seria questione etica. Proprio come è importante tenersi al passo con il funzionamento dell'AI generativa, è altrettanto fondamentale sapere come capire se qualcosa è generato dall'AI. In questo articolo analizzeremo più da vicino le immagini generate dall'AI, comprenderemo i pro e i contro dell'arte generata dall'AI, discuteremo le questioni legali ed esploreremo metodi e strumenti chiave per distinguerle dalle immagini reali.

Cosa sono esattamente le immagini generate dall'AI?#

Le immagini generate dall'AI vengono create utilizzando modelli di generazione delle immagini che sfruttano reti neurali addestrate su grandi dataset per generare immagini realistiche. La loro capacità di combinare stili, concetti e caratteristiche per creare immagini artistiche e pertinenti è sorprendente. Durante l'addestramento, i modelli di generazione delle immagini apprendono diverse caratteristiche e dettagli da queste immagini. In questo modo possono creare nuove immagini simili per stile e contenuto a quelle da cui hanno appreso.

Esistono molti tipi di modelli di generazione delle immagini, ciascuno con caratteristiche specifiche. Ad esempio, le Reti generative avversarie (GANs) utilizzano due reti neurali che lavorano insieme per creare immagini realistiche simili ai dati di addestramento. I modelli di diffusione generano immagini trasformando gradualmente il rumore casuale in immagini nitide. I Transformer, come quelli utilizzati in modelli quali DALL-E e CLIP, impiegano meccanismi di autoattenzione per generare immagini a partire da descrizioni testuali.

Fig. 1 Generata da DALL-E 2. Prompt: Una poltrona a forma di avocado.

Chiunque può creare immagini generate dall'AI utilizzando strumenti come GPT-4o di OpenAI, Midjourney, Gencraft o Stable Diffusion. Queste immagini compaiono ormai in tutto Internet, spesso senza alcuna etichetta che indichi che sono state create dall'AI.

I pro e i contro dell'arte generata dall'AI#

Come la fotografia o la pittura, la generazione di immagini tramite AI viene considerata da molti una nuova forma d'arte. I dipinti generati dall'AI vengono venduti per migliaia di dollari e vincono concorsi d'arte. Questo solleva la domanda: l'arte generata dall'AI è una cosa positiva e quali sono i pro e i contro di questo tipo di generazione delle immagini?

Fig. 2 Un'opera d'arte generata dall'AI.

Le opinioni al riguardo sono diverse. Ad esempio, le piccole aziende con budget limitati potrebbero considerare l'arte generata dall'AI un vantaggio. Possono creare immagini personalizzate che si adattano perfettamente alle esigenze del brand e del marketing. Questi strumenti possono far risparmiare tempo producendo rapidamente elementi visivi di alta qualità e aiutando a mantenere i progetti creativi in carreggiata. Per quanto riguarda l'ispirazione degli artisti, la generazione di immagini può offrire accesso a un'ampia libreria di opzioni uniche. Un artista può visualizzare facilmente un'idea prima di darle vita.

Tuttavia, le immagini generate dall'AI spesso non hanno profondità emotiva e possono faticare a catturare le esperienze umane più autentiche. A volte la qualità può essere incostante, con immagini pixelate o irreali. Affidarsi troppo all'AI può soffocare la creatività e il pensiero critico. Esiste inoltre il rischio di un uso improprio. Le immagini generate dall'AI possono essere facilmente manipolate e alimentare la disinformazione. Inoltre, l'utilizzo di questi strumenti può comportare una curva di apprendimento ripida e gli strumenti possono incorporare i pregiudizi presenti nei dati di addestramento. Ecco altri svantaggi dell'arte generata dall'AI:

• Questioni etiche: Le domande relative alla proprietà intellettuale, come paternità, proprietà e copyright delle opere d'arte generate dall'AI, possono essere complesse e controverse.
• Sostituzione dei posti di lavoro: L'uso diffuso dell'AI nell'arte potrebbe ridurre le opportunità per artisti e designer umani.
• Insensibilità culturale: L'arte generata dall'AI potrebbe non comprendere né rispettare i contesti culturali, portando alla creazione di contenuti inappropriati o offensivi.

Le zone grigie legali delle immagini generate dall'AI#

Con il progresso dell'AI, come società stiamo ancora cercando attivamente di comprendere le implicazioni legali, come le questioni relative al copyright. A differenza delle creazioni tradizionali, in alcuni Paesi come gli Stati Uniti le immagini generate dall'AI non possono essere protette da copyright, perché sono essenzialmente rielaborazioni di opere esistenti, molte delle quali sono già protette. La questione si complica perché l'addestramento dell'AI spesso implica enormi quantità di dati raccolti da Internet, che potrebbero includere materiale protetto da copyright. Per questo motivo, molte persone stanno protestando contro l'uso di contenuti protetti da copyright per l'addestramento dei modelli di AI e chiedono normative migliori.

Alcune aziende hanno persino intentato cause legali. Getty Images, un fornitore di immagini stock, ha intentato una causa contro Stability AI, un generatore di arte tramite AI, accusandola di aver duplicato e utilizzato la libreria di immagini di Getty per ottenere un profitto commerciale. Diverse immagini prodotte dal modello text-to-image di Stability AI riportano il watermark di Getty. DeviantArt e altre due aziende di AI sono inoltre state citate in giudizio da un artista in una class action, che sostiene che le loro opere generate dall'AI violino le leggi sul copyright.

Come verificare se un'immagine è generata dall'AI#

Imparare a riconoscere le immagini generate dall'AI è fondamentale, perché il loro utilizzo nelle fake news per trarre in inganno le persone è aumentato, soprattutto durante le elezioni. Secondo la BBC, il 60% dei ricercatori è riuscito a utilizzare l'AI per creare immagini fuorvianti su schede elettorali e luoghi.

Fig. 3 Una falsa immagine di scatole contenenti schede elettorali in un cassonetto.

Le immagini generate dall'AI influenzano anche i consumatori. Un recente studio di Attest ha rivelato che la maggior parte dei consumatori (76%) non sa distinguere tra immagini autentiche e immagini generate dall'AI. Ecco come capire se un'immagine è generata dall'AI.

Controlla il titolo, la descrizione e i tag dell'immagine#

Può sembrare ovvio, ma il modo più semplice per riconoscere le immagini generate dall'AI consiste nel controllare che nella descrizione e nei tag sia presente l'indicazione «Generata dall'AI». Poiché sulle immagini generate dall'AI ci sono ancora molti dubbi, le aziende che le creano e/o le concedono in licenza fanno tutto il possibile per essere trasparenti sulla loro origine. Le agenzie di immagini stock che consentono l'uso di immagini generate dall'AI nelle proprie librerie chiedono ai collaboratori di etichettare i file come «generati dall'AI» nel titolo, nella descrizione e nei tag dell'immagine (così è più facile cercare o escludere le immagini generate dall'AI quando si consultano i loro cataloghi). Cercare queste etichette è il modo più semplice per riconoscere un'immagine generata dall'AI.

Cerca i watermark#

Un altro modo per identificare le immagini generate dall'AI consiste nel cercare i watermark, poiché molti strumenti di AI li aggiungono. Possono includere piccoli loghi, testo o metadati. Ad esempio, DALL-E 3 di OpenAI utilizza metadati C2PA invisibili e un simbolo visibile di Content Credentials (CR) nell'angolo in alto a sinistra. Tuttavia, il logo è visibile solo quando si controlla l'immagine su un sito di verifica delle credenziali dei contenuti, come Content Credentials Verify. Le aziende possono contrassegnare le proprie immagini in modo diverso, quindi potresti dover acquisire familiarità con diversi indicatori.

Fig. 4. Le immagini generate da ChatGPT includono metadati C2PA (Fonte: openai.com)

Google ha recentemente annunciato SynthID, un metodo innovativo per aggiungere watermark alle immagini generate dall'AI. SynthID consente di incorporare un watermark digitale direttamente nei pixel dei contenuti generati dall'AI. È invisibile all'occhio umano, ma rilevabile ai fini dell'identificazione. SynthID può valutare se è probabile che un'immagine sia stata creata da uno strumento di AI, cercando questo watermark digitale.

Cerca distorsioni o anomalie nell'immagine#

Le immagini generate dall'AI presentano spesso imperfezioni dovute ai limiti degli algoritmi di deep learning. Le anomalie comuni includono:

• Sfondi sfocati o anomali: scale disallineate, mobili dalle forme insolite e dettagli sfocati.
• Incongruenze nei capelli: texture innaturali, motivi insoliti o sfocatura.
• Aspetto eccessivamente renderizzato: un aspetto lucido e irreale, con un insieme di texture sfocate e uniformi.
• Errori negli accessori: gioielli deformati, orecchini diversi tra loro e oggetti distorti.
• Dita strane: dita aggiuntive, pollici mancanti o altre anomalie delle mani.

Fig. 5 Anomalie in un'immagine generata dall'AI.

Questi segnali aiutano a identificare le immagini generate dall'AI. Tuttavia, i progressi dell'AI fanno sì che le future immagini generate dall'AI potrebbero presentare meno difetti visibili.

Utilizza gli strumenti di identificazione delle immagini generate dall'AI#

Utilizzare strumenti di identificazione delle immagini generate dall'AI è un'altra opzione per riconoscere le immagini generate dall'AI, anche se devi tenere presente che i risultati potrebbero non essere del tutto accurati. Vediamo alcuni degli strumenti più diffusi per rilevare le immagini generate dall'AI:

• AI Or Not: utilizza algoritmi avanzati e il machine learning per autenticare rapidamente contenuti reali e falsi. È particolarmente efficace con le immagini NFT false.
• Content at Scale: questo strumento gratuito e intuitivo fornisce un punteggio di probabilità Umano rispetto ad AI per le immagini dei generatori più diffusi.
• Illuminarty: offre un'analisi completa delle immagini e dei testi generati dall'AI, inclusa l'identificazione dei modelli di AI e delle aree specifiche generate dall'AI.
• Maybe's AI Art Detector: uno strumento facile da usare che utilizza un modello ViT per fornire una percentuale di probabilità tra umano e artificiale per le immagini artistiche.
• V7 Deepfake Detector: un'estensione di Chrome per rilevare le immagini deepfake create con StyleGAN, utile per identificare i profili falsi.
• Fake Image Detector: utilizza i metadati e l'Analisi del livello di errore (ELA) per rilevare le immagini manipolate, ma presenta una compatibilità limitata con i file e si blocca frequentemente.

Man mano che i contenuti generati dall'AI continuano a diffondersi e a evolversi, questi strumenti diventeranno ancora più efficaci in futuro.

Punti chiave#

Con il crescente livello di intelligenza dei modelli di AI generativa, diventa sempre più difficile distinguere le immagini generate dall'AI dalle fotografie reali. Sebbene questo progresso tecnologico sia entusiasmante, è anche motivo di preoccupazione etica. È vero che l'AI offre un modo conveniente e innovativo per creare contenuti visivi, ma ci sono ostacoli legali e pratici da considerare. Fortunatamente, si stanno sviluppando metodi e strumenti che ci aiutano ad affrontare questo nuovo dilemma. Restando informati, possiamo assicurarci che i contenuti visivi rimangano affidabili.

Entra in contatto con la nostra community per saperne di più sull'AI! Esplora il nostro repository GitHub per scoprire come utilizziamo l'AI per creare soluzioni innovative in vari settori, come la sanità e l'agricoltura. Sblocca nuove opportunità insieme a noi!