Come capire se un'immagine è generata dall'IA

I modelli di generazione di immagini stanno diventando sempre più avanzati e assistiamo a un aumento delle immagini realistiche generate dall'intelligenza artificiale (IA). Il dibattito tra IA e foto reali sta diventando sempre più rilevante man mano che diventa difficile distinguere tra le due. Ci sono stati molteplici scenari in cui le immagini generate dall'IA hanno ingannato internet. Abbiamo visto Papa Francesco con un piumino e Katy Perry al Met Gala 2024. Entrambe erano immagini fabbricate dall'IA generativa. In altre parole, non erano reali. Tuttavia, a prima vista, internet ha creduto che lo fossero.

A volte questo scambio di persona può essere divertente, ma il più delle volte presenta una seria preoccupazione etica. Proprio come è importante tenersi aggiornati sul funzionamento dell'AI generativa, è altrettanto cruciale sapere come capire se qualcosa è generato dall'AI. In questo articolo, esamineremo più da vicino le immagini generate dall'AI, capiremo i pro e i contro dell'arte AI, discuteremo le questioni legali ed esploreremo i metodi e gli strumenti chiave per distinguerle dalle immagini reali.

Cosa sono esattamente le immagini generate dall'AI?#

Le immagini AI sono create utilizzando modelli di generazione di immagini che impiegano reti neurali addestrate su ampi set di dati per generare immagini realistiche. Ciò che colpisce è la loro capacità di mescolare stili, concetti e caratteristiche per creare immagini artistiche e pertinenti. Durante l'addestramento, i modelli di generazione di immagini imparano diverse caratteristiche e dettagli da queste immagini. In questo modo, riescono a creare nuove immagini che sembrano simili per stile e contenuto a quelle da cui hanno appreso.

Esistono molti tipi di modelli di generazione di immagini, ognuno con le sue caratteristiche speciali. Ad esempio, le Reti Generative Avversarie (GAN) utilizzano due reti neurali che lavorano in tandem per creare immagini realistiche che somigliano ai loro dati di addestramento. I modelli di diffusione generano immagini trasformando gradualmente il rumore casuale in immagini nitide. I Transformer, come quelli utilizzati in modelli quali DALL-E e CLIP, utilizzano meccanismi di auto-attenzione per generare immagini a partire da descrizioni testuali.

Fig 1. Generata da DALL-E 2. Prompt: Una poltrona a forma di avocado.

Chiunque può creare immagini con l'IA utilizzando strumenti come GPT-4o di OpenAI, Midjourney, Gencraft o Stable Diffusion. Queste immagini compaiono ormai ovunque su internet, spesso senza alcuna etichetta che indichi che sono state fatte dall'IA.

I pro e i contro dell'arte AI#

Analogamente alla fotografia o alla pittura, la generazione di immagini tramite IA viene considerata da molti una nuova forma d'arte. I dipinti creati dall'IA vengono venduti per migliaia di dollari e vincono concorsi d'arte. Questo solleva una domanda: l'arte dell'IA è una cosa positiva e quali sono i pro e i contro di tale generazione di immagini?

Fig 2. Un'opera d'arte generata dall'IA.

Esistono opinioni contrastanti al riguardo. Ad esempio, le piccole imprese con un budget limitato potrebbero vedere l'arte generata come un vantaggio. Possono creare immagini personalizzate che corrispondono perfettamente alle esigenze di branding e marketing. Questi strumenti possono far risparmiare tempo producendo rapidamente immagini di alta qualità e aiutando a mantenere i progetti creativi sulla giusta strada. Per quanto riguarda l'ispirazione degli artisti, la generazione di immagini può fornire l'accesso a una vasta libreria di opzioni uniche. Un artista può facilmente visualizzare un'idea prima di darle vita.

Tuttavia, le immagini generate dall'AI spesso mancano di profondità emotiva e possono faticare a catturare le esperienze umane autentiche. A volte, la qualità può essere incoerente, con immagini che appaiono pixelate o irrealistiche. Affidarsi troppo all'AI può soffocare la creatività e il pensiero critico. Esiste anche il rischio di un uso improprio. Le immagini AI possono essere facilmente manipolate e portare alla disinformazione. Inoltre, l'utilizzo di questi strumenti può comportare una curva di apprendimento ripida e potrebbero trasportare pregiudizi dai loro dati di addestramento. Ecco alcuni altri contro dell'arte AI:

• Questioni etiche: Le domande sulla proprietà intellettuale, come la paternità, la proprietà e il copyright dell'arte generata dall'AI, possono essere complesse e controverse.
• Spostamento professionale: L'uso diffuso dell'AI nell'arte potrebbe ridurre le opportunità per gli artisti e i designer umani.
• Insensibilità culturale: L'arte AI potrebbe non comprendere e rispettare i contesti culturali, portando a creazioni inappropriate o offensive.

Le zone grigie legali delle immagini generate dall'AI#

Mentre l'IA avanza, stiamo ancora cercando attivamente di comprendere le implicazioni legali (come i problemi di copyright) come società. A differenza delle creazioni tradizionali, le immagini generate dall'IA non possono essere protette da copyright in alcuni paesi come gli Stati Uniti perché sono essenzialmente remix di opere esistenti, molte delle quali sono già coperte da copyright. La questione si complica perché l'addestramento dell'IA spesso coinvolge enormi quantità di dati estratti da internet, che potenzialmente includono materiale protetto da copyright. A questo proposito, molte persone stanno protestando attivamente contro l'uso di contenuti protetti da copyright per l'addestramento dei modelli di IA e chiedono normative migliori.

Alcune aziende hanno persino intentato cause legali. Getty Images, un fornitore di immagini stock, ha intentato una causa contro Stability AI, un generatore di arte basato su IA, per aver presumibilmente duplicato e utilizzato la libreria di immagini di Getty a fini di lucro commerciale. Diverse immagini prodotte dal modello da testo a immagine di Stability AI recano la filigrana di Getty. DeviantArt e altre due aziende di IA sono inoltre citate in giudizio da un artista in una class action in cui si sostiene che le loro opere d'arte generate dall'IA violino le leggi sul copyright.

Come verificare se un'immagine è generata dall'AI#

Imparare a individuare le immagini dell'IA è fondamentale perché il loro utilizzo nelle fake news per ingannare le persone è aumentato, soprattutto durante le elezioni. Secondo la BBC, il 60% dei ricercatori è riuscito a usare l'IA per creare immagini fuorvianti su schede elettorali e luoghi di voto.

Fig 3. Un'immagine falsa di scatole di schede elettorali in un cassonetto.

Le immagini dell'IA colpiscono anche i consumatori. Un recente studio condotto da Attest ha rivelato che la maggior parte dei consumatori (76%) non sa distinguere tra immagini autentiche e immagini generate dall'IA. Ecco come puoi capire se un'immagine è generata dall'IA.

Controlla il titolo, la descrizione e i tag dell'immagine#

Può sembrare ovvio, ma il modo più semplice per individuare le immagini AI è controllare la descrizione e i tag per la dicitura 'AI-Generated'. Poiché ci sono ancora molti interrogativi riguardo alle immagini AI, le aziende che le generano e/o le concedono in licenza stanno facendo tutto il possibile per essere trasparenti sulla loro origine. Le agenzie di foto stock che consentono immagini AI nelle loro librerie richiedono ai collaboratori di etichettare i file come 'AI-generated' nel titolo, nella descrizione e nei tag dell'immagine (il che rende più facile cercare o escludere immagini AI durante la navigazione nei loro cataloghi). Cercare queste etichette è il modo più semplice per individuare un'immagine generata dall'AI.

Cerca i watermark#

Un altro modo per identificare le immagini dell'IA è cercare le filigrane, poiché molti strumenti di IA le aggiungono. Queste possono includere piccoli loghi, testo o metadati. Ad esempio, DALL-E 3 di OpenAI utilizza metadati C2PA invisibili e un simbolo visibile di Content Credentials (CR) nell'angolo in alto a sinistra. Tuttavia, il logo è visibile solo quando si controlla l'immagine su un sito di verifica delle credenziali dei contenuti, come Content Credentials Verify. Le aziende potrebbero contrassegnare le proprie immagini in modo diverso, quindi potresti aver bisogno di familiarizzare con vari indicatori.

Fig 4. Le immagini generate da ChatGPT includeranno metadati C2PA (Fonte: openai.com)

Google ha recentemente annunciato SynthID, un modo innovativo per aggiungere watermark alle immagini AI. SynthID consente di incorporare un watermark digitale direttamente nei pixel dei contenuti generati dall'AI. È invisibile all'occhio umano ma rilevabile per l'identificazione. SynthID può valutare se uno strumento AI ha probabilmente creato un'immagine scansionando questo watermark digitale.

Cerca distorsioni o anomalie all'interno dell'immagine#

Le immagini generate dall'AI presentano spesso imperfezioni dovute ai limiti degli algoritmi di deep learning. Le anomalie comuni includono:

• Sfondi sfocati o anormali: Scale disallineate, mobili dalla forma strana e dettagli sfocati.
• Incoerenze nei capelli: Texture innaturali, motivi strani o sfocature.
• Aspetto eccessivamente renderizzato: Un aspetto lucido e irrealistico con un misto di texture sfocate e lisce.
• Errori negli accessori: Gioielli deformati, orecchini spaiati e oggetti distorti.
• Dita strane: Dita extra, pollici mancanti o altre anomalie delle mani.

Fig 5. Anomalie in un'immagine generata dall'IA.

Questi segnali aiutano a identificare le immagini generate dall'AI. Tuttavia, i progressi nell'AI significano che le future immagini AI potrebbero avere meno difetti visibili.

Usa strumenti di identificazione delle immagini AI#

L'utilizzo di strumenti di identificazione delle immagini AI è un'altra opzione per individuare le immagini AI, anche se tieni presente che potrebbe non essere del tutto accurato. Diamo un'occhiata ad alcuni degli strumenti più popolari per rilevare le immagini AI:

• AI Or Not: Utilizza algoritmi avanzati e apprendimento automatico per autenticare rapidamente contenuti reali e falsi. È particolarmente efficace con le immagini NFT false.
• Content at Scale: Questo strumento gratuito e intuitivo fornisce un punteggio di probabilità Umano vs IA per le immagini provenienti da generatori popolari.
• Illuminarty: Offre un'analisi completa delle immagini e del testo generati dall'IA, inclusa l'identificazione dei modelli di IA e di specifiche aree generate dall'IA.
• Maybe's AI Art Detector: Uno strumento facile da usare che sfrutta un modello ViT per fornire un punteggio percentuale umano vs artificiale per le immagini artistiche.
• V7 Deepfake Detector: Un'estensione di Chrome per il rilevamento di immagini deepfake create con StyleGAN, utile per identificare profili falsi.
• Fake Image Detector: Utilizza i metadati e l'analisi del livello di errore (ELA) per rilevare le immagini manipolate, ma ha una compatibilità con i file limitata e tende a bloccarsi.

Man mano che i media generati dall'AI continuano a diffondersi e ad avanzare, questi strumenti diventeranno ancora più efficaci in futuro.

Punti chiave#

Man mano che i modelli di AI generativa diventano più intelligenti, sta diventando sempre più difficile distinguere le immagini generate dall'AI dalle foto reali. Sebbene sia entusiasmante in termini di progresso tecnologico, è anche eticamente preoccupante. È vero che l'AI offre un modo economico e innovativo per creare elementi visivi, ma ci sono ostacoli legali e pratici da considerare. Per fortuna, si stanno sviluppando metodi e strumenti per aiutarci a gestire questo nuovo dilemma. Rimanendo informati, possiamo assicurarci che i contenuti visivi rimangano affidabili.

Unisciti alla nostra community per saperne di più sull'IA! Esplora il nostro repository GitHub per scoprire come usiamo l'IA per creare soluzioni innovative in vari settori come la sanità e l'agricoltura. Sblocca nuove opportunità insieme a noi!