Strong AI

L'IA forte ha due significati. Nella filosofia della mente, è il nome dato da John Searle alla tesi secondo cui un computer programmato in modo adeguato avrebbe letteralmente una mente e comprenderebbe ciò che elabora; la sua argomentazione della stanza cinese del 1980 fu formulata per confutare questa posizione. Nell'uso tecnico moderno, IA forte è sinonimo di intelligenza artificiale generale (AGI): un sistema ipotetico che eguaglia le persone in quasi tutti i compiti cognitivi. Il termine contrapposto, IA debole, oggi indica di solito l'intelligenza artificiale ristretta e specifica per attività (IA) attualmente in uso, e nessun sistema esistente è considerato IA forte in nessuno dei due sensi.

L'ipotesi dell'IA forte di Searle#

Searle ha introdotto entrambi i termini in «Minds, Brains, and Programs», pubblicato su Behavioral and Brain Sciences. Nel suo uso, l'IA debole sostiene che i computer siano potenti strumenti per simulare e studiare la mente. L'IA forte va oltre: «il computer programmato in modo adeguato è davvero una mente, nel senso che si può letteralmente affermare che i computer dotati dei programmi giusti capiscono e possiedono altri stati cognitivi». L'ipotesi deriva dal computazionalismo, la tesi secondo cui pensare equivale a calcolare: qualsiasi macchina che esegua il programma giusto penserebbe, qualunque sia il materiale di cui è fatta.

L'argomento della stanza cinese#

L'argomento della stanza cinese di Searle immagina una persona che non parla cinese, chiusa in una stanza con un manuale di regole scritto in inglese. Delle domande in cinese arrivano attraverso una fessura; la persona confronta i caratteri con le regole e ricopia quelli indicati dalle regole. Le risposte convincono i madrelingua all'esterno che qualcuno nella stanza capisca il cinese. La persona non capisce nulla e Searle sostiene che un computer che esegue un programma si trova nella stessa situazione: manipola simboli in base alla loro forma e la sola sintassi non è sufficiente a produrre significato. I critici hanno proposto obiezioni a cui Searle ha poi risposto:

• Obiezione del sistema: la persona è solo una parte di un sistema che comprende il manuale di regole e i fogli di appunti, e il sistema nel suo insieme capisce. Searle ha risposto che avrebbe potuto memorizzare le regole ed eseguire tutto a mente senza comunque capire il cinese.
• Obiezione del robot: collocare il programma in un robot con telecamere e motori, affinché i suoi simboli siano collegati agli oggetti del mondo. Searle ha risposto che le letture dei sensori arrivano al programma come altri simboli da manipolare. Un robot la cui ripresa della telecamera passa attraverso un rilevatore Ultralytics YOLO26 riceve l'indice di classe 0, un punteggio di confidenza e le coordinate del riquadro quando una persona entra nel suo campo visivo; secondo Searle, questo aggiunge dati, non comprensione. Stevan Harnad ha poi formulato la questione di fondo come problema dell'ancoraggio dei simboli: come possono i simboli acquisire significato attraverso la percezione e l'azione del sistema stesso nel mondo.
• Obiezione del simulatore cerebrale: fare in modo che il programma simuli l'attivazione di ogni neurone nel cervello di una persona che parla cinese. Searle ha risposto immaginando un uomo che aziona un enorme sistema di tubi e valvole che riproduce quelle attivazioni; l'uomo non capirebbe il cinese, perché la simulazione di un cervello non è un cervello.
• Obiezione delle altre menti: attribuiamo comprensione alle altre persone solo in base al loro comportamento, quindi gli stessi indizi dovrebbero valere per i computer. Searle ha risposto che la questione riguarda cosa sia la comprensione, non come possiamo sapere che qualcuno la possiede.

IA forte e AGI, test di Turing e coscienza#

• AGI: Una questione di capacità, misurata in base a ciò che un sistema sa fare. L'IA forte di Searle riguarda la comprensione interiore e, secondo la sua tesi, una macchina potrebbe superare ogni test comportamentale senza capire nulla. Futuristi come Ray Kurzweil usano «IA forte» per indicare l'AGI al livello umano: è il significato adottato oggi dalla maggior parte della letteratura tecnica, comprese le discussioni sulle potenziali applicazioni e sfide dell'IA forte.
• Test di Turing: nel 1950 Alan Turing propose di sostituire la domanda «Le macchine possono pensare?» con un gioco d'imitazione valutato solo sulla conversazione. La stanza cinese mette proprio in discussione il passaggio dal superamento di un test del genere alla comprensione autentica.
• Coscienza: l'IA forte nel senso di Searle implica stati mentali, che molti filosofi collegano all'esperienza soggettiva. Un rapporto del 2023 redatto da 19 ricercatori ha valutato i sistemi di IA in base a proprietà indicative ricavate dalle teorie neuroscientifiche della coscienza e ha concluso che «nessun sistema di IA attuale è cosciente», ma che «non ci sono ostacoli tecnici evidenti» alla creazione di sistemi che soddisfino tali indicatori.

IA forte e modelli linguistici#

I modelli linguistici di grandi dimensioni (LLM) hanno riacceso il dibattito, poiché conversano fluentemente in cinese e in molte altre lingue, un po' come la persona nella stanza. In un articolo del 2020, Emily Bender e Alexander Koller hanno sostenuto che un sistema addestrato solo sulla forma linguistica non può imparare il significato, mentre altri citano prove di modelli interni del mondo. In «Rappresentazioni emergenti del mondo» (ICLR 2023), i ricercatori hanno addestrato un modello GPT solo su sequenze di mosse legali di Othello, hanno scoperto che le sonde potevano ricavare dalle sue attivazioni lo stato corrente della scacchiera e hanno dimostrato che modificare quello stato interno della scacchiera cambiava le mosse previste dal modello.