Licenza YOLO
Torna al glossario di Ultralytics

AI Watermarking

La filigrana IA nasconde un segnale rilevabile automaticamente in immagini, testo, audio o video generati. Come funzionano SynthID e gli schemi a lista verde e quali sono i loro limiti.

La filigranatura dell'IA consiste nell'inserire un segnale nascosto e rilevabile automaticamente nei contenuti prodotti da un sistema di IA generativa, affinché un rilevatore dotato della chiave corretta possa stabilire in seguito se un'immagine, un video, una clip audio o un testo provenga da quel sistema. Il segnale è progettato per risultare impercettibile alle persone e resistere alle modifiche comuni, come ridimensionamento e compressione. Le filigrane sono un elemento della provenienza dei dati per i media sintetici e le normative ne stanno imponendo l'uso: l'articolo 50 del regolamento europeo sull'intelligenza artificiale impone ai fornitori di sistemi generativi di contrassegnare gli output in un formato rilevabile e leggibile automaticamente a partire dal 2 agosto 2026; i sistemi già sul mercato hanno tempo fino al 2 dicembre 2026. Le norme cinesi sull'etichettatura dei contenuti generati dall'IA, in vigore da settembre 2025, richiedono etichette nascoste nei metadati dei file oltre a quelle visibili.

Come funziona la filigrana AI#

La maggior parte degli schemi attuali incorpora il segnale durante la generazione dei contenuti, rendendolo più difficile da rimuovere rispetto a un contrassegno aggiunto in seguito.

  • Immagini e video: un encoder addestrato apporta piccole modifiche distribuite sull'intera immagine e, in seguito, un decoder neurale abbinato recupera il segnale. SynthID di Google DeepMind funziona così per immagini, video e audio generati da modelli come Imagen, Veo e Lyria; Stable Signature di Meta perfeziona il decoder di un modello di diffusione latente affinché ogni immagine prodotta contenga una firma binaria fissa. Altri metodi inseriscono uno schema nel rumore iniziale che un modello di diffusione denoising trasforma, integrando così il contrassegno nella rappresentazione dello spazio latente dell'immagine fin dal primo passaggio.
  • Testo: un modello linguistico di grandi dimensioni (LLM) sceglie ogni token da una distribuzione di probabilità; una filigrana testuale orienta queste scelte secondo uno schema verificabile solo da chi possiede la chiave. SynthID Text, descritto su Nature nel 2024, è stato valutato su quasi 20 milioni di risposte di Gemini senza un calo misurabile della qualità ed è open source in Hugging Face Transformers.
  • Contrassegni aggiunti a posteriori: le filigrane classiche di elaborazione del segnale, come gli schemi nel dominio delle frequenze, possono essere aggiunte a qualsiasi file dopo la generazione, anche se in genere sono più facili da rimuovere.

Per le immagini, il rilevamento si basa sul punteggio di output di un decoder; per il testo, è un test statistico sulla sequenza di token che non richiede alcun accesso al modello.

Una filigrana testuale basata sulla lista verde#

Lo schema descritto in A Watermark for Large Language Models da Kirchenbauer e colleghi usa una chiave segreta per calcolare l'hash del token precedente e suddividere il vocabolario in una parte «verde» e una parte rimanente «rossa», quindi aggiunge un piccolo bias ai logit dei token verdi prima del campionamento. Il testo senza filigrana seleziona token verdi alla frequenza di base, mentre quello con filigrana li seleziona molto più spesso: la differenza viene rilevata con un test z a una proporzione. Nel frammento seguente, logit casuali simulano un modello linguistico:

import torch

torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42  # key is the secret shared with the detector


def green_list(prev):
    """Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
    return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]


for bias in (0.0, delta):  # ordinary sampling, then watermarked sampling
    tokens = [0]
    for _ in range(length):
        logits = torch.randn(vocab)  # stands in for a language model's next-token logits
        logits[green_list(tokens[-1])] += bias
        tokens.append(torch.multinomial(logits.softmax(0), 1).item())

    # Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
    hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
    z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
    print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")

Il campionamento ordinario seleziona 44 token verdi su 200 (z = -1,0), vicino al 25% previsto, mentre l'esecuzione con filigrana ne seleziona 141 (z = 14,9), ben oltre la soglia z = 4 usata nell'articolo per contrassegnare un testo come filigranato. Poiché ogni token contribuisce alla prova, i passaggi più lunghi consentono un rilevamento più sicuro; il segnale è invece più debole nei testi in cui il token successivo è quasi obbligato, come il codice o un elenco di fatti.

  • Credenziali dei contenuti (C2PA): un manifesto di metadati con firma crittografica che registra gli strumenti con cui un file è stato creato o modificato. Contiene molti più dettagli di una filigrana, ma scompare quando il file viene ricodificato o acquisito tramite screenshot; per questo spesso si combinano le due soluzioni.
  • Rilevamento di deepfake e immagini generate dall'IA: classificatori che cercano nei contenuti tracce della generazione senza contrassegni incorporati. Funzionano con l'output di qualsiasi generatore, ma forniscono risposte probabilistiche che diventano meno affidabili man mano che i generatori migliorano; le persone usano indizi simili per capire a occhio se un'immagine è stata generata dall'IA.
  • Steganografia: nasconde un messaggio segreto all'interno di un file. La filigranatura riprende le sue tecniche, ma privilegia un rilevamento robusto rispetto all'occultamento di un payload voluminoso.

Le piattaforme che etichettano i media sintetici e filtrano i contenuti scadenti generati dall'IA applicano di solito questi controlli su più livelli:

Robustezza e limiti#

Una filigrana deve resistere a modifiche innocue come ritaglio, ridimensionamento, variazioni di colore e compressione JPEG, e possibilmente anche ad attacchi avversari deliberati. Gli sviluppatori la testano applicando ai contenuti contrassegnati trasformazioni simili all'aumento dei dati e misurando quanto spesso il rilevamento riesce ancora. Gli schemi attuali presentano limiti noti:

  • Rigenerazione: aggiungere rumore a un'immagine e ricostruirla con un modello generativo rimuove le filigrane invisibili a livello di pixel mantenendo l'immagine visivamente simile.
  • Parafrasi e traduzione: riscrivere un testo filigranato con un altro modello, o tradurlo e ritradurlo, attenua lo schema di token contato dal rilevatore.
  • Copertura: si possono rilevare solo gli output dei fornitori che incorporano un contrassegno; i modelli con pesi aperti possono essere eseguiti senza. L'assenza di una filigrana quindi non dice nulla sul fatto che il contenuto sia stato creato da una persona.
  • Falsificazione: un aggressore che conosce abbastanza bene uno schema può applicarne il contrassegno a contenuti creati da persone per screditarlo.

Le filigrane visibili pongono un problema distinto nei dataset di visione artificiale: i modelli le imparano come scorciatoie. In un caso noto, un classificatore addestrato sul dataset PASCAL VOC ha imparato a riconoscere i cavalli anche grazie a un'etichetta di copyright presente in circa un quinto delle foto dei cavalli e ha fallito quando l'etichetta è stata rimossa. Le filigrane e i loghi visibili sono normali elementi delle immagini, quindi un modello Ultralytics YOLO26 per il rilevamento degli oggetti, addestrato su esempi etichettati, può individuarli in un dataset di training, così i team possono ritagliare o rimuovere le immagini contrassegnate prima che insegnino al modello un indizio fuorviante.

Esplora le soluzioni

La visione artificiale nello sport

La visione artificiale nello sport

Scopri come Ultralytics YOLO alimenta la computer vision nello sport con il tracciamento di giocatori e palloni, l'analisi delle prestazioni, gli approfondimenti per gli allenatori e la riabilitazione degli atleti.
Scopri di più
Computer vision per immagini aeree

Computer vision per immagini aeree

Trasforma immagini aeree e riprese da drone in informazioni utili in tempo reale per agricoltura, acquacoltura, conservazione e analisi geospaziale con Ultralytics YOLO.
Scopri di più
Computer vision nel settore aerospaziale

Computer vision nel settore aerospaziale

Applica la visione artificiale nel settore aerospaziale con Ultralytics YOLO per l'ispezione degli aeromobili, il rilevamento di FOD sulle piste, le operazioni di terra aeroportuali e il rilevamento di difetti nei materiali compositi.
Scopri di più
Visione artificiale nella sicurezza

Visione artificiale nella sicurezza

Proteggi ogni sito con i modelli Ultralytics YOLO. L'IA visiva alimenta il monitoraggio perimetrale, il rilevamento delle minacce, il riconoscimento delle targhe e la sicurezza sul lavoro.
Scopri di più
Visione artificiale nella robotica

Visione artificiale nella robotica

Dai più potenza alle macchine intelligenti con i modelli Ultralytics YOLO. Nell'ambito della robotica, l'IA visiva alimenta la navigazione autonoma, la percezione, il tracciamento degli oggetti e il controllo in tempo reale.
Scopri di più
Visione artificiale nella logistica

Visione artificiale nella logistica

Semplifica la logistica con i modelli Ultralytics YOLO. L'IA per la visione consente l'ispezione dei pacchi, la selezione, il tracciamento dei veicoli e il monitoraggio della sicurezza nei magazzini in tempo reale.
Scopri di più
Visione artificiale nel commercio al dettaglio

Visione artificiale nel commercio al dettaglio

Ripensa il commercio al dettaglio con i modelli Ultralytics YOLO. L'IA per la visione consente di tracciare le scorte, monitorare gli scaffali, gestire le code e ottenere informazioni più approfondite sui clienti.
Scopri di più
Visione artificiale in ambito sanitario

Visione artificiale in ambito sanitario

Crea soluzioni sanitarie con i modelli Ultralytics YOLO. In ambito sanitario, l'IA per la visione consente di elaborare più rapidamente le immagini mediche, migliorare la diagnostica e monitorare i pazienti.
Scopri di più
Computer vision nella produzione

Computer vision nella produzione

Ottimizza la produzione con i modelli Ultralytics YOLO. La visione basata sull'IA migliora il controllo qualità, il rilevamento dei difetti, la conformità ai requisiti sui DPI e l'automazione delle linee di assemblaggio.
Scopri di più
Computer vision nel settore automobilistico

Computer vision nel settore automobilistico

Applica la computer vision al settore automobilistico con i modelli Ultralytics YOLO. La visione basata sull'IA migliora la sicurezza stradale, i sistemi di assistenza alla guida e l'automazione dei veicoli, per strade più intelligenti.
Scopri di più
Visione artificiale in agricoltura

Visione artificiale in agricoltura

Porta l'IA visiva nell'agricoltura intelligente con i modelli Ultralytics YOLO. Gestisci il monitoraggio delle colture, il tracciamento del bestiame e l'agricoltura di precisione per ottenere raccolti più abbondanti e intelligenti.
Scopri di più

Costruiamo insieme il futuro dell'IA!

Inizia il tuo percorso verso il futuro del machine learning