Come capire se un'immagine è generata dall'IA

I modelli di generazione di immagini stanno diventando sempre più avanzati e assistiamo a un aumento di immagini create dall'intelligenza artificiale (AI) estremamente realistiche. Il dibattito tra AI e foto reale sta diventando sempre più rilevante, man mano che risulta più difficile distinguerle. Ci sono stati diversi scenari in cui le immagini generate dall'AI hanno ingannato Internet. Abbiamo visto Papa Francesco con un piumino e Katy Perry al Met Gala del 2024. Entrambe le immagini sono state create dall'AI generativa. In altre parole, non erano reali. Tuttavia, a prima vista, Internet ha creduto che lo fossero.

A volte questo scambio di persona può essere divertente, ma il più delle volte presenta una seria preoccupazione etica. Proprio come è importante tenersi aggiornati sul funzionamento dell'AI generativa, è altrettanto cruciale sapere come capire se qualcosa è generato dall'AI. In questo articolo, esamineremo più da vicino le immagini generate dall'AI, capiremo i pro e i contro dell'arte AI, discuteremo le questioni legali ed esploreremo i metodi e gli strumenti chiave per distinguerle dalle immagini reali.

Link to this sectionCosa sono esattamente le immagini generate dall'AI?#

Le immagini AI sono create utilizzando modelli di generazione di immagini che impiegano reti neurali addestrate su ampi set di dati per generare immagini realistiche. Ciò che colpisce è la loro capacità di mescolare stili, concetti e caratteristiche per creare immagini artistiche e pertinenti. Durante l'addestramento, i modelli di generazione di immagini imparano diverse caratteristiche e dettagli da queste immagini. In questo modo, riescono a creare nuove immagini che sembrano simili per stile e contenuto a quelle da cui hanno appreso.

Esistono molti tipi di modelli di generazione di immagini, ognuno con le sue caratteristiche speciali. Ad esempio, le Reti Generative Avversarie (GAN) utilizzano due reti neurali che lavorano in tandem per creare immagini realistiche che somigliano ai loro dati di addestramento. I modelli di diffusione generano immagini trasformando gradualmente il rumore casuale in immagini nitide. I Transformer, come quelli utilizzati in modelli quali DALL-E e CLIP, utilizzano meccanismi di auto-attenzione per generare immagini a partire da descrizioni testuali.

Fig 1. Generata da DALL-E 2. Prompt: Una poltrona a forma di avocado.

Chiunque può creare immagini AI utilizzando strumenti come GPT-4o di OpenAI, Midjourney, Gencraft o Stable Diffusion. Queste immagini appaiono ormai ovunque su Internet e spesso senza alcuna etichetta che indichi che sono state create dall'AI.

Link to this sectionI pro e i contro dell'arte AI#

Come la fotografia o la pittura, la generazione di immagini AI viene considerata da molti una nuova forma d'arte. I dipinti AI vengono venduti per migliaia di dollari e vincono concorsi artistici. Ciò solleva la domanda: l'arte AI è un bene e quali sono i pro e i contro di tale generazione di immagini?

Fig 2. Un'opera d'arte generata dall'AI.

Esistono opinioni contrastanti al riguardo. Ad esempio, le piccole imprese con un budget limitato potrebbero vedere l'arte generata come un vantaggio. Possono creare immagini personalizzate che corrispondono perfettamente alle esigenze di branding e marketing. Questi strumenti possono far risparmiare tempo producendo rapidamente immagini di alta qualità e aiutando a mantenere i progetti creativi sulla giusta strada. Per quanto riguarda l'ispirazione degli artisti, la generazione di immagini può fornire l'accesso a una vasta libreria di opzioni uniche. Un artista può facilmente visualizzare un'idea prima di darle vita.

Tuttavia, le immagini generate dall'AI spesso mancano di profondità emotiva e possono faticare a catturare le esperienze umane autentiche. A volte, la qualità può essere incoerente, con immagini che appaiono pixelate o irrealistiche. Affidarsi troppo all'AI può soffocare la creatività e il pensiero critico. Esiste anche il rischio di un uso improprio. Le immagini AI possono essere facilmente manipolate e portare alla disinformazione. Inoltre, l'utilizzo di questi strumenti può comportare una curva di apprendimento ripida e potrebbero trasportare pregiudizi dai loro dati di addestramento. Ecco alcuni altri contro dell'arte AI:

• Questioni etiche: Le domande sulla proprietà intellettuale, come la paternità, la proprietà e il copyright dell'arte generata dall'AI, possono essere complesse e controverse.
• Spostamento professionale: L'uso diffuso dell'AI nell'arte potrebbe ridurre le opportunità per gli artisti e i designer umani.
• Insensibilità culturale: L'arte AI potrebbe non comprendere e rispettare i contesti culturali, portando a creazioni inappropriate o offensive.

Link to this sectionLe zone grigie legali delle immagini generate dall'AI#

Man mano che l'AI avanza, come società stiamo ancora cercando di comprendere le implicazioni legali (come le questioni di copyright). A differenza delle creazioni tradizionali, le immagini generate dall'AI non possono essere protette da copyright in alcuni paesi come gli Stati Uniti perché sono essenzialmente remix di opere esistenti, molte delle quali sono già protette da copyright. La situazione si complica perché l'addestramento dell'AI comporta spesso l'utilizzo di enormi quantità di dati estratti da Internet, che potrebbero includere materiale protetto da copyright. A questo proposito, molte persone stanno attivamente protestando contro l'uso di contenuti protetti da copyright per l'addestramento dei modelli AI e chiedono migliori regolamentazioni.

Alcune aziende hanno persino intentato cause legali. Getty Images, un fornitore di immagini stock, ha intentato una causa contro Stability AI, un generatore di arte AI, per aver presumibilmente duplicato e utilizzato la libreria di immagini di Getty a fini commerciali. Diverse immagini prodotte dal modello text-to-image di Stability AI portano il watermark di Getty. Anche DeviantArt e altre due società di AI sono state citate in giudizio da un artista in una class action, sostenendo che le loro opere d'arte generate dall'AI violano le leggi sul copyright.

Link to this sectionCome verificare se un'immagine è generata dall'AI#

Imparare a riconoscere le immagini AI è fondamentale perché il loro utilizzo nelle fake news per fuorviare le persone è aumentato, specialmente durante le elezioni. Secondo la BBC, il 60% dei ricercatori è riuscito a utilizzare l'AI per creare immagini fuorvianti su schede elettorali e luoghi.

Fig 3. Un'immagine falsa di scatole di schede elettorali in un cassonetto.

Le immagini AI influenzano anche i consumatori. Un recente studio di Attest ha rivelato che la maggior parte dei consumatori (76%) non riesce a distinguere tra immagini autentiche e generate dall'AI. Ecco come puoi capire se un'immagine è generata dall'AI.

Link to this sectionControlla il titolo, la descrizione e i tag dell'immagine#

Può sembrare ovvio, ma il modo più semplice per individuare le immagini AI è controllare la descrizione e i tag per la dicitura 'AI-Generated'. Poiché ci sono ancora molti interrogativi riguardo alle immagini AI, le aziende che le generano e/o le concedono in licenza stanno facendo tutto il possibile per essere trasparenti sulla loro origine. Le agenzie di foto stock che consentono immagini AI nelle loro librerie richiedono ai collaboratori di etichettare i file come 'AI-generated' nel titolo, nella descrizione e nei tag dell'immagine (il che rende più facile cercare o escludere immagini AI durante la navigazione nei loro cataloghi). Cercare queste etichette è il modo più semplice per individuare un'immagine generata dall'AI.

Link to this sectionCerca i watermark#

Un altro modo per identificare le immagini AI è cercare i watermark, poiché molti strumenti AI li aggiungono. Questi possono includere piccoli loghi, testo o metadati. Ad esempio, DALL-E 3 di OpenAI utilizza metadati C2PA invisibili e un simbolo visibile di Credenziali dei Contenuti (CR) nell'angolo in alto a sinistra. Tuttavia, il logo è visibile solo quando si controlla l'immagine su un sito di verifica delle credenziali dei contenuti, come Content Credentials Verify. Le aziende potrebbero contrassegnare le loro immagini in modo diverso, quindi potresti dover familiarizzare con vari indicatori.

Fig 4. Le immagini generate da ChatGPT includeranno metadati C2PA (Fonte: openai.com)

Google ha recentemente annunciato SynthID, un modo innovativo per aggiungere watermark alle immagini AI. SynthID consente di incorporare un watermark digitale direttamente nei pixel dei contenuti generati dall'AI. È invisibile all'occhio umano ma rilevabile per l'identificazione. SynthID può valutare se uno strumento AI ha probabilmente creato un'immagine scansionando questo watermark digitale.

Link to this sectionCerca distorsioni o anomalie all'interno dell'immagine#

Le immagini generate dall'AI presentano spesso imperfezioni dovute ai limiti degli algoritmi di deep learning. Le anomalie comuni includono:

• Sfondi sfocati o anormali: Scale disallineate, mobili dalla forma strana e dettagli sfocati.
• Incoerenze nei capelli: Texture innaturali, motivi strani o sfocature.
• Aspetto eccessivamente renderizzato: Un aspetto lucido e irrealistico con un misto di texture sfocate e lisce.
• Errori negli accessori: Gioielli deformati, orecchini spaiati e oggetti distorti.
• Dita strane: Dita extra, pollici mancanti o altre anomalie delle mani.

Fig 5. Anomalie in un'immagine generata dall'AI.

Questi segnali aiutano a identificare le immagini generate dall'AI. Tuttavia, i progressi nell'AI significano che le future immagini AI potrebbero avere meno difetti visibili.

Link to this sectionUsa strumenti di identificazione delle immagini AI#

L'utilizzo di strumenti di identificazione delle immagini AI è un'altra opzione per individuare le immagini AI, anche se tieni presente che potrebbe non essere del tutto accurato. Diamo un'occhiata ad alcuni degli strumenti più popolari per rilevare le immagini AI:

• AI Or Not: Utilizza algoritmi avanzati e machine learning per autenticare rapidamente contenuti reali e falsi. È particolarmente efficace con le immagini NFT false.
• Content at Scale: Questo strumento gratuito e semplice fornisce un punteggio di probabilità Umano vs AI per le immagini provenienti da generatori popolari.
• Illuminarty: Offre un'analisi completa delle immagini e dei testi generati dall'AI, inclusa l'identificazione di modelli AI e specifiche aree generate dall'AI.
• Maybe's AI Art Detector: Uno strumento facile da usare che utilizza un modello ViT per fornire una percentuale di probabilità umano vs artificiale per le immagini artistiche.
• V7 Deepfake Detector: Un'estensione per Chrome per rilevare immagini deepfake StyleGAN, utile per identificare profili falsi.
• Fake Image Detector: Utilizza i metadati e l'Error Level Analysis (ELA) per rilevare immagini manipolate, ma ha una compatibilità di file limitata e presenta arresti anomali.

Man mano che i media generati dall'AI continuano a diffondersi e ad avanzare, questi strumenti diventeranno ancora più efficaci in futuro.

Link to this sectionPunti chiave#

Man mano che i modelli di AI generativa diventano più intelligenti, sta diventando sempre più difficile distinguere le immagini generate dall'AI dalle foto reali. Sebbene sia entusiasmante in termini di progresso tecnologico, è anche eticamente preoccupante. È vero che l'AI offre un modo economico e innovativo per creare elementi visivi, ma ci sono ostacoli legali e pratici da considerare. Per fortuna, si stanno sviluppando metodi e strumenti per aiutarci a gestire questo nuovo dilemma. Rimanendo informati, possiamo assicurarci che i contenuti visivi rimangano affidabili.

Connettiti con la nostra community per saperne di più sull'AI! Esplora il nostro repository GitHub per vedere come stiamo usando l'AI per creare soluzioni innovative in vari settori come la sanità e l'agricoltura. Sblocca nuove opportunità con noi!