L'IA costituzionale mira ad allineare i modelli di IA ai valori umani

L'intelligenza artificiale (IA) sta rapidamente diventando una parte fondamentale della nostra vita quotidiana. Viene integrata in strumenti utilizzati in ambiti come l'assistenza sanitaria, il reclutamento, la finanza e la sicurezza pubblica. Con l'espansione di questi sistemi, si levano anche preoccupazioni riguardo alla loro etica e affidabilità.

Ad esempio, a volte i sistemi di IA costruiti senza considerare l'equità o la sicurezza possono produrre risultati distorti o inaffidabili. Questo accade perché molti modelli non hanno ancora un modo chiaro per riflettere e allinearsi ai valori umani.

Per affrontare queste sfide, i ricercatori stanno ora esplorando un approccio noto come constitutional AI. In parole semplici, introduce un insieme scritto di principi nel processo di addestramento del modello. Questi principi aiutano il modello a valutare il proprio comportamento, a fare meno affidamento sul feedback umano e a rendere le risposte più sicure e facili da comprendere.

Finora questo approccio è stato utilizzato principalmente rispetto ai large language models (LLMs). Tuttavia, la stessa struttura potrebbe aiutare a guidare i sistemi di computer vision a prendere decisioni etiche durante l'analisi dei dati visivi.

In questo articolo esploreremo come funziona la constitutional AI, esamineremo esempi reali e discuteremo le sue potenziali applicazioni nei sistemi di computer vision.

Fig 1. Caratteristiche della constitutional AI. Immagine dell'autore.

Cos'è la constitutional AI?#

La constitutional AI è un metodo di model training che guida il comportamento dei modelli di IA fornendo un chiaro insieme di regole etiche. Queste regole fungono da codice di condotta. Invece di affidarsi al modello per dedurre cosa sia accettabile, esso segue un insieme scritto di principi che plasmano le sue risposte durante l'training.

Questo concetto è stato introdotto da Anthropic, un'azienda di ricerca focalizzata sulla sicurezza dell'IA che ha sviluppato la famiglia di LLM Claude come metodo per rendere i sistemi di IA più auto-supervisionati nel loro processo decisionale.

Invece di affidarsi esclusivamente al feedback umano, il modello impara a criticare e perfezionare le proprie risposte in base a una serie predefinita di principi. Questo approccio è simile a un sistema giuridico, in cui un giudice fa riferimento a una costituzione prima di emettere una sentenza.

In questo caso, il modello diventa sia il giudice che lo studente, utilizzando lo stesso insieme di regole per esaminare e perfezionare il proprio comportamento. Questo processo rafforza l'allineamento del modello di IA e supporta lo sviluppo di sistemi di IA sicuri e responsabili.

Come funziona la constitutional AI?#

L'obiettivo della constitutional AI è insegnare a un modello di IA come prendere decisioni sicure ed eque seguendo una serie chiara di regole scritte. Ecco una semplice analisi di come funziona questo processo:

• Definizione della costituzione: viene creato un elenco scritto di principi etici che il modello dovrebbe seguire. La costituzione delinea ciò che l'IA dovrebbe evitare e quali valori dovrebbe riflettere.
• Addestramento con esempi supervised: Al modello vengono mostrate risposte campione che seguono la costituzione. Questi esempi aiutano l'IA a comprendere quale sia l'aspetto di un comportamento accettabile.
• Riconoscimento e applicazione di pattern: nel tempo, il modello inizia a cogliere questi pattern. Impara ad applicare gli stessi valori quando risponde a nuove domande o gestisce nuove situazioni.
• Critica e perfezionamento degli output: il modello rivede le proprie risposte e le modifica in base alla costituzione. Questa fase di auto-revisione lo aiuta a migliorare senza affidarsi solo al feedback umano.
• Produzione di risposte allineate e più sicure: il modello impara da regole coerenti, il che aiuta a ridurre i bias e a migliorare l'affidabilità nell'uso nel mondo reale. Questo approccio lo rende più allineato ai valori umani e più facile da governare.

Fig 2. Una panoramica sull'utilizzo della Constitutional AI per addestrare i modelli.

Principi fondamentali del design etico dell'IA#

Affinché un modello di IA segua ethical rules, tali regole devono prima essere chiaramente definite. Quando si parla di constitutional AI, queste regole si basano su un insieme di principi fondamentali.

Ad esempio, ecco quattro principi che costituiscono le basi di un'efficace costituzione dell'IA:

• Transparency: Dovrebbe essere facile capire come un modello sia arrivato a una risposta. Se una risposta si basa su fatti, stime o pattern, sarà trasparente per l'utente. Questo crea fiducia e aiuta le persone a giudicare se possono fare affidamento sull'output del modello.
• Uguaglianza: le risposte dovrebbero rimanere coerenti tra diversi utenti. Il modello non dovrebbe cambiare il proprio output in base al nome, al background o alla posizione di una persona. L'uguaglianza aiuta a prevenire i bias e promuove un trattamento paritario.
• Responsabilità: dovrebbe esserci un modo per tracciare come un modello è stato addestrato e cosa ha influenzato il suo comportamento. Quando qualcosa va storto, i team dovrebbero essere in grado di identificarne la causa e migliorarla. Ciò supporta la trasparenza e la responsabilità a lungo termine.
• Sicurezza: i modelli devono evitare di produrre contenuti che possono causare danni. Se una richiesta porta a output rischiosi o non sicuri, il sistema dovrebbe riconoscerlo e fermarsi. Ciò protegge sia l'utente che l'integrità del sistema.

Esempi di constitutional AI nei large language models#

La constitutional AI è passata dalla teoria alla pratica e viene ora lentamente utilizzata in modelli di grandi dimensioni che interagiscono con milioni di utenti. Due degli esempi più comuni sono i LLM di OpenAI e Anthropic.

Sebbene entrambe le organizzazioni abbiano adottato approcci diversi per creare sistemi di IA più etici, condividono un'idea comune: insegnare al modello a seguire una serie di principi guida scritti. Diamo un'occhiata più da vicino a questi esempi.

L'approccio alla constitutional AI di OpenAI#

OpenAI ha introdotto un documento chiamato Model Spec come parte del processo di addestramento per i suoi modelli ChatGPT. Questo documento funge da costituzione. Descrive a cosa dovrebbe mirare il modello nelle sue risposte, inclusi valori come utilità, onestà e sicurezza. Definisce anche cosa conta come output dannoso o fuorviante.

Questo framework è stato utilizzato per mettere a punto i modelli di OpenAI valutando le risposte in base a quanto bene corrispondono alle regole. Nel tempo, questo ha aiutato a plasmare ChatGPT in modo che produca meno output dannosi e si allinei meglio a ciò che gli utenti desiderano realmente.

Fig 3. Un esempio di ChatGPT che utilizza la Model Spec di OpenAI per rispondere.

I modelli di IA etica di Anthropic#

La costituzione che segue il modello di Anthropic, Claude, si basa su principi etici provenienti da fonti come la Dichiarazione universale dei diritti umani, linee guida di piattaforma come i termini di servizio di Apple e la ricerca di altri laboratori di IA. Questi principi aiutano a garantire che le risposte di Claude siano sicure, eque e allineate a importanti valori umani.

Claude utilizza anche il Reinforcement Learning from AI Feedback (RLAIF), in cui esamina e regola le proprie risposte sulla base di queste linee guida etiche, anziché fare affidamento sul human feedback. Questo processo consente a Claude di migliorare nel tempo, rendendolo più scalabile e migliore nel fornire risposte utili, etiche e non dannose, anche in situazioni complesse.

Fig 4. Comprendere l'approccio di Anthropic alla constitutional AI.

Applicare la constitutional AI alla computer vision#

Poiché la constitutional AI sta influenzando positivamente il modo in cui si comportano i modelli linguistici, sorge naturalmente la domanda: un approccio simile potrebbe aiutare i sistemi basati sulla visione a rispondere in modo più equo e sicuro?

Mentre i computer vision models lavorano con le immagini anziché con il testo, la necessità di una guida etica è altrettanto importante. Ad esempio, l'equità e i bias sono fattori chiave da considerare, poiché questi sistemi devono essere addestrati a trattare tutti allo stesso modo ed evitare risultati dannosi o ingiusti durante l'analisi dei dati visivi.

Fig 5. Sfide etiche legate alla computer vision. Immagine dell'autore.

Al momento, l'uso di metodi di constitutional AI nella computer vision è ancora in fase di esplorazione ed è nelle sue fasi iniziali, con ricerche in corso in questo settore.

Ad esempio, Meta ha recentemente introdotto CLUE, un framework che applica un ragionamento simile a quello costituzionale ai task di sicurezza delle immagini. Trasforma ampie regole di sicurezza in passaggi precisi che l'IA multimodale (sistemi di IA che elaborano e comprendono molteplici tipi di dati) può seguire. Questo aiuta il sistema a ragionare in modo più chiaro e a ridurre i risultati dannosi.

Inoltre, CLUE rende i giudizi sulla sicurezza delle immagini più efficienti semplificando regole complesse, consentendo ai modelli di IA di agire rapidamente e con precisione senza bisogno di un ampio input umano. Utilizzando una serie di principi guida, CLUE rende i sistemi di moderazione delle immagini più scalabili garantendo al contempo risultati di alta qualità.

Punti chiave#

Man mano che i sistemi di IA si assumono maggiori responsabilità, l'attenzione si sta spostando da ciò che possono fare a ciò che dovrebbero fare. Questo cambiamento è fondamentale poiché questi sistemi vengono utilizzati in aree che hanno un impatto diretto sulla vita delle persone, come l'assistenza sanitaria, le forze dell'ordine e l'istruzione.

Per garantire che i sistemi di IA agiscano in modo appropriato ed etico, hanno bisogno di una base solida e coerente. Questa base dovrebbe dare priorità all'equità, alla sicurezza e alla fiducia.

Una costituzione scritta può fornire tale base durante l'addestramento, guidando il processo decisionale del sistema. Può anche fornire agli sviluppatori un framework per rivedere e modificare il comportamento del sistema dopo l'implementazione, garantendo che continui ad allinearsi ai valori che è stato progettato per sostenere e rendendolo più facile da adattare man mano che emergono nuove sfide.

Unisciti oggi alla nostra crescente community! Approfondisci l'IA esplorando il nostro GitHub repository. Vuoi creare i tuoi progetti di computer vision? Esplora le nostre licensing options. Scopri come il computer vision in healthcare sta migliorando l'efficienza ed esplora l'impatto dell'AI in manufacturing visitando le nostre pagine delle soluzioni!