Transparency in AI

La trasparenza nell'IA consiste nell'apertura sul modo in cui un sistema di intelligenza artificiale (AI) viene creato, addestrato, valutato e utilizzato, e nel far sapere alle persone quando ne stanno usando uno. Risponde a domande sull'intero sistema: quali dati sono stati usati per addestrare il modello, chi lo ha creato e con quale scopo, quanto bene funziona e per chi, per quali usi non è adatto e se un interlocutore in chat, un'immagine o una decisione provengono dall'IA. La trasparenza permette agli utenti di calibrare la fiducia, agli auditor e alle autorità di regolamentazione di verificare le dichiarazioni sul sistema e ai ricercatori di individuare difetti come i bias algoritmici: per questo i Principi dell'OCSE sull'IA e la maggior parte degli altri quadri di riferimento per l'etica dell'IA la indicano come principio fondamentale.

Forme di trasparenza#

• Dichiarazione: Le persone vengono informate quando interagiscono con un sistema di IA o visualizzano contenuti generati dall'IA. L'articolo 50 del regolamento europeo sull'IA, applicabile dal 2 agosto 2026, impone ai chatbot di chiarire che gli utenti stanno parlando con una macchina, ai fornitori di sistemi generativi di contrassegnare i risultati in un formato leggibile automaticamente e ai deployer di etichettare i deepfake. Standard come Content Credentials (C2PA) e la filigranatura dell'IA implementano questi contrassegni.
• Documentazione: Una scheda del modello riporta l'uso previsto del modello, i dati di training, i risultati di valutazione suddivisi per gruppo e le limitazioni note; le schede informative dei dataset fanno lo stesso per i dati, documentandone motivazione, composizione, processo di raccolta e usi consigliati. Ai sensi del regolamento europeo sull'IA, i fornitori di modelli di IA per uso generale devono anche pubblicare una sintesi dei contenuti usati per il training, seguendo un modello pubblicato dalla Commissione europea nel luglio 2025.
• Accesso: La pubblicazione di pesi, codice o dati consente a soggetti esterni di ispezionare, riprodurre e testare direttamente un modello, anziché affidarsi ai resoconti del suo sviluppatore.
• Spiegazioni dei risultati: È possibile spiegare le singole decisioni con metodi di IA spiegabile (XAI), richiesti in alcuni contesti ad alto rischio dal GDPR e dal regolamento europeo sull'IA.

L'accesso può avere diversi livelli. Un modello chiuso si può usare solo tramite l'API del suo sviluppatore; un modello con pesi aperti pubblica i propri parametri; la Definizione di IA open source 1.0 della Open Source Initiative, pubblicata nell'ottobre 2024, richiede inoltre il codice completo di training e inferenza e informazioni sufficienti sui dati di training, inclusi provenienza e trattamento, perché una persona esperta possa creare un sistema sostanzialmente equivalente:

Trasparenza e spiegabilità#

I termini si sovrappongono e a volte vengono usati insieme, come in «trasparenza e spiegabilità». La trasparenza riguarda il sistema e il processo che lo ha prodotto, e sussiste anche per un modello che nessuno riesce a interpretare, ad esempio quando uno sviluppatore documenta i dati di training e i risultati dei test. La spiegabilità riguarda il motivo per cui un modello ha prodotto un particolare risultato, ad esempio quali pixel hanno determinato una classificazione. I modelli interpretabili, come i piccoli alberi decisionali, sono comprensibili per progettazione, mentre l'interpretabilità meccanicistica effettua il reverse engineering dei circuiti interni delle reti di grandi dimensioni. La provenienza dei dati, cioè la registrazione dell'origine dei dati e delle modifiche subite, fornisce gran parte delle informazioni contenute nei rapporti sulla trasparenza.

Documentazione che accompagna il modello#

La documentazione è più utile quando resta associata al modello dopo il deployment. Ultralytics YOLO26 inserisce in ogni modello esportato una descrizione del modello e del suo dataset di training, la versione della libreria, la data di esportazione, l'attività, le dimensioni dell'input e i nomi delle classi, ad esempio nelle proprietà dei metadati di un file ONNX; Ultralytics legge poi questi campi per eseguire correttamente il modello:

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

I campi stampati identificano il modello, i dati di training, il software usato per l'esportazione e la data in cui è avvenuta, senza bisogno di accedere all'esecuzione di training originale.

Misurare la trasparenza#

Il Foundation Model Transparency Index di Stanford valuta i principali sviluppatori di IA sulla base di 100 indicatori che riguardano i dati e le risorse di calcolo alla base dei loro modelli di punta, i modelli stessi e il loro utilizzo dopo la pubblicazione. Nell'edizione 2025, che ha valutato 13 sviluppatori, la media è scesa da 58 nel 2024 a 40 su 100; gli sviluppatori sono risultati particolarmente poco trasparenti sui dati e sulle risorse di calcolo usati per il training, mentre IBM ha ottenuto il punteggio più alto dell'indice, pari a 95.