Shadow AI

L'IA ombra è l'uso di strumenti, modelli e servizi di intelligenza artificiale all'interno di un'organizzazione senza che i team IT, di sicurezza o di conformità ne siano a conoscenza o lo abbiano approvato. Tra i casi tipici ci sono dipendenti che incollano contenuti di lavoro in un account personale di un assistente di IA generativa, sviluppatori che chiamano un'API di un modello non verificato e team che attivano funzioni di IA nei software che già utilizzano. L'IA ombra è un sottoinsieme dell'IT ombra, il problema più datato delle applicazioni e dei servizi cloud non approvati, e cresce per gli stessi motivi: gli strumenti sono gratuiti o economici, bastano pochi minuti per adottarli e rendono le persone più produttive.

In che cosa l'IA ombra differisce dall'IT ombra#

I servizi di IA elaborano i dati che ricevono e li memorizzano. Ogni prompt inviato a un modello linguistico di grandi dimensioni (LLM) esce dall'organizzazione e i piani per i consumatori possono conservare le conversazioni o usarle come dati di addestramento, a meno che l'utente non scelga di non consentirlo. Nel 2023, alcuni ingegneri di Samsung hanno incollato codice sorgente riservato e appunti di riunioni in ChatGPT; in seguito, l'azienda ha limitato l'uso degli strumenti di IA generativa sui propri dispositivi.

I rischi esistono anche nella direzione opposta. L'output di un assistente non verificato può contenere allucinazioni, codice non sicuro o testo con licenza poco chiara, che finiscono in prodotti e decisioni senza essere controllati. I pesi dei modelli scaricati da hub pubblici come Hugging Face possono eseguire codice arbitrario al caricamento se usano il formato pickle di Python; per questo il formato safetensors memorizza solo tensori. Gli agenti di IA collegati alla posta elettronica, ai calendari o ai repository di codice tramite il token personale di un dipendente possono agire sui sistemi aziendali; inoltre, una pagina web o un documento dannoso può manipolarli tramite prompt injection.

Il costo emerge dai dati sulle violazioni. Il rapporto 2026 di IBM sul costo di una violazione dei dati ha rilevato che il 43% delle organizzazioni colpite incluse nello studio aveva subito incidenti legati all'IA ombra, rispetto al 20% dell'anno precedente, e che tali violazioni erano costate in media 5,39 milioni di dollari, contro una media complessiva di 4,99 milioni.

Forme comuni di IA ombra#

• Chatbot e assistenti di scrittura: account personali usati per riassumere contratti, correggere codice proprietario o redigere risposte contenenti dati dei clienti.
• Funzionalità di IA integrate: un fornitore aggiunge trascrizione, riepiloghi o appunti delle riunioni a uno strumento approvato, e la funzionalità inizia a inviare dati a un nuovo sub-responsabile del trattamento senza una nuova revisione.
• Modelli e API non verificati: gli sviluppatori inviano immagini a un'API di visione artificiale esterna o distribuiscono pesi scaricati la cui licenza, provenienza e sicurezza non sono state verificate da nessuno.
• Estensioni e agenti del browser: strumenti che leggono ogni pagina aperta da un dipendente o agiscono per suo conto sugli account collegati.

Rilevare e ridurre l'IA ombra#

L'individuazione combina diversi segnali: log di rete e DNS che mostrano il traffico verso endpoint di IA, broker per la sicurezza degli accessi al cloud e strumenti di prevenzione della perdita di dati che controllano i caricamenti, inventari delle estensioni del browser, note spese per abbonamenti all'IA e chiavi API, nonché sondaggi o programmi di amnistia in cui i team dichiarano quali strumenti usano. Ogni strumento individuato passa quindi attraverso lo stesso processo di valutazione iniziale illustrato sotto e viene inserito nell'inventario da cui dipende la governance dell'IA.

I programmi che riducono l'IA ombra abbinano regole chiare sui dati che possono essere inseriti nei diversi strumenti a opzioni autorizzate altrettanto facili da usare: account aziendali con l'addestramento sui dati dei clienti disabilitato, un gateway per l'IA che registra e filtra tutto il traffico dei modelli e modelli self-hosted per le attività più sensibili. La formazione sull'alfabetizzazione all'IA spiega perché esistono le regole e quali strumenti sono approvati.

Il lavoro di visione artificiale presenta una sua versione del problema quando le immagini di persone, prodotti o strutture sono conservate in account personali su strumenti online di annotazione e addestramento. In uno spazio di lavoro del team Ultralytics Platform, i dataset, i modelli e le distribuzioni creati da qualsiasi membro appartengono al team e sono visibili a tutti i membri; i ruoli Owner, Admin, Editor e Viewer stabiliscono chi può modificarli.

L'IA ombra è un problema di visibilità che si trasforma in incidenti di privacy dei dati e sicurezza dei dati, perché un team di sicurezza non può valutare, proteggere o monitorare uno strumento di cui ignora l'esistenza. Il NIST AI Risk Management Framework lo affronta nella sottocategoria GOVERN 1.6, che richiede meccanismi per censire i sistemi di IA, con risorse proporzionate alle priorità di rischio dell'organizzazione.