AI Washing

L’AI washing è la pratica di esagerare o rappresentare in modo fuorviante quanto un prodotto, un servizio o un’azienda utilizzi l’intelligenza artificiale e ciò che tale tecnologia può fare. Crea uno scarto tra le capacità pubblicizzate e il funzionamento effettivo: clienti e investitori sono indotti ad aspettarsi un’intelligenza, un’autonomia o prestazioni che il sistema sottostante non offre.

Il termine riprende greenwashing, che descrive affermazioni ambientali fuorvianti. Jim Hare, analista di Gartner, ha usato «AI washing» nella sua analisi del 6 luglio 2017 sui fornitori di software aziendale che sfruttano la discontinuità introdotta dall’AI, descrivendo i fornitori che applicano indiscriminatamente l’etichetta AI.

Come funziona l’AI washing#

L’AI washing trasforma la complessità tecnica in un vantaggio di marketing. Gli acquirenti si imbattono in termini come intelligenza artificiale, apprendimento automatico e «autonomo», senza informazioni sufficienti per collegare tali descrizioni a una funzionalità operativa. La rappresentazione fuorviante può riguardare l’esistenza della tecnologia, il suo contributo a un flusso di lavoro o la solidità dei risultati.

Tra gli schemi più comuni ci sono:

• Esagerazione delle capacità: pubblicizzare un sistema come capace di svolgere attività a livello esperto quando i suoi risultati non sono supportati da prove a sostegno di tale affermazione.
• Occultamento del coinvolgimento umano: presentare un servizio come autonomo mentre le persone svolgono parti sostanziali del lavoro pubblicizzato.
• Sovrastima delle prestazioni: estendere i risultati ottenuti in condizioni selezionate a un pubblico o a un’attività più ampi di quanto giustificato dalla valutazione.
• Accelerazione dei tempi: descrivere funzionalità di AI pianificate come capacità già presenti nel prodotto.

Questi schemi incidono sulle decisioni di acquisto, investimento e assunzione del personale. Inoltre, nascondono i requisiti operativi: i clienti devono capire quali risultati richiedono una verifica, quali attività svolge il sistema e in che modo gli errori influiscono sulle decisioni successive.

AI washing e concetti correlati#

L’automazione robotica dei processi automatizza flussi di lavoro ripetitivi, spesso tramite regole predefinite. L’apprendimento automatico apprende schemi dai dati, mentre l’AI simbolica utilizza conoscenze esplicite e regole di ragionamento. Le descrizioni accurate dei prodotti identificano il meccanismo e il suo ruolo. Definire AI un sistema basato su regole diventa fuorviante quando le affermazioni associate promettono capacità di apprendimento o adattabilità che il sistema non possiede.

I flussi di lavoro con intervento umano assegnano alle persone responsabilità definite di revisione o di decisione. Le descrizioni trasparenti rendono visibile questo contributo. Per esempio, Ultralytics Platform applica l’annotazione dei dati assistita dall’AI: la sua funzionalità di annotazione intelligente YOLO genera etichette preliminari dalle predizioni del modello, che gli annotatori possono verificare, modificare o rimuovere. In questo modo sono identificati sia il compito automatizzato sia il ruolo umano.

Un’allucinazione si verifica quando un modello produce contenuti errati o non supportati. L’AI washing riguarda le affermazioni fatte sul sistema. L’AI spiegabile aiuta a interpretare il comportamento del modello; la trasparenza nell’AI comunica capacità, condizioni di valutazione e responsabilità. Entrambe favoriscono descrizioni dei prodotti AI basate su prove.

Esempi e conseguenze nel mondo reale#

Le autorità di regolamentazione hanno adottato il termine nelle loro azioni di contrasto. Nel dicembre 2023, il presidente della SEC Gary Gensler ha messo in guardia le aziende contro l’«AI washing»; la FTC ha poi avviato il caso DoNotPay descritto di seguito nell’ambito dell’Operazione AI Comply, la campagna del settembre 2024 contro le affermazioni ingannevoli sull’AI.

La società di consulenza finanziaria Delphia ha affermato che i dati dei clienti rafforzavano le sue previsioni di investimento basate sull’AI. La SEC ha rilevato che, dal 2019 al 2023, l’azienda non disponeva delle capacità di AI e apprendimento automatico che pubblicizzava. Nell’accordo transattivo del 18 marzo 2024, Delphia ha accettato di pagare una sanzione civile di 225.000 dollari. Anche Global Predictions ha accettato una sanzione di 175.000 dollari per affermazioni fuorvianti, tra cui previsioni basate sull’AI e la dichiarazione di essere il primo consulente finanziario regolamentato che utilizza l’AI.

DoNotPay ha pubblicizzato un servizio di AI come il «primo avvocato robot al mondo», attribuendogli capacità che avrebbero potuto sostituire le competenze legali umane. L’accordo transattivo nell’azione contro DoNotPay ha previsto 193.000 dollari di risarcimento e l’invio di comunicazioni agli abbonati aventi diritto. La FTC ha reso definitivo il provvedimento nel gennaio 2025, limitando le affermazioni non supportate sulla possibilità di sostituire servizi professionali.

Prove a sostegno delle affermazioni sull’AI#

Un’affermazione comprovata collega una funzionalità specifica ai relativi input, output, valutazione e condizioni operative. Una scheda del modello documenta gli usi previsti, i dettagli dello sviluppo e i limiti misurati. La provenienza dei dati stabilisce l’origine dei materiali di valutazione, mentre dati di test indipendenti consentono di verificare le prestazioni al di là degli esempi usati in fase di sviluppo.

Nella visione artificiale, le prove a sostegno di un’affermazione derivano dall’attività pubblicizzata. I risultati del rilevamento degli oggetti possono includere precisione, richiamo e precisione media media, insieme alla composizione del dataset e ai risultati per classe. Le affermazioni sulla velocità devono specificare hardware, dimensione dell’immagine, dimensione del batch e ambito della misurazione.

La governance dell’AI collega questi documenti alle approvazioni dei prodotti e alla revisione del marketing, così che ogni affermazione pubblicata possa essere ricondotta a una scheda del modello, a una valutazione o a un ruolo umano documentato.