Singularity

La singolarità tecnologica è un ipotetico momento futuro in cui l'intelligenza artificiale (AI) diventa capace di migliorarsi più rapidamente di quanto gli esseri umani riescano a seguirne l'evoluzione, innescando una crescita incontrollata dell'intelligenza artificiale e cambiamenti della civiltà imprevedibili prima di quel momento. Il nome deriva dalla matematica e dalla fisica, dove una singolarità è un punto in cui una funzione o una teoria fisica smette di funzionare, come il centro di un buco nero. Nessun sistema di IA è ancora riuscito a migliorare la propria intelligenza senza la guida umana, perciò la singolarità resta un'ipotesi; tuttavia, influenza il modo in cui ricercatori e responsabili delle politiche affrontano l'intelligenza artificiale generale (AGI) e la sicurezza dell'IA.

Origini dell'idea#

• John von Neumann (anni '50): il matematico Stanislaw Ulam ricordò una conversazione in cui von Neumann descrisse l'accelerazione del progresso tecnologico come un avvicinamento a «una sorta di singolarità essenziale nella storia della specie, oltre la quale gli affari umani, così come li conosciamo, non potrebbero continuare».
• I. J. Good (1965): in «Speculations Concerning the First Ultraintelligent Machine», lo statistico descrisse un'«esplosione d'intelligenza» in cui una macchina più intelligente di qualsiasi essere umano progetta macchine ancora migliori, rendendo la prima macchina di questo tipo «l'ultima invenzione che l'uomo dovrà mai realizzare».
• Vernor Vinge (1993): il matematico e autore di fantascienza rese popolare il termine in «The Coming Technological Singularity», scritto per un simposio NASA, che si apriva con: «Entro trent'anni avremo i mezzi tecnologici per creare un'intelligenza sovrumana».
• Ray Kurzweil (2005): nel suo libro The Singularity Is Near, il futurologo estrapolò le tendenze esponenziali dell'informatica per prevedere la singolarità nel 2045; il seguito del 2024, The Singularity Is Nearer, conferma quella data e indica il 2029 per l'IA di livello umano.

Come si svilupperebbe un'esplosione d'intelligenza#

Il meccanismo alla base dell'ipotesi è l'auto-miglioramento ricorsivo. Oggi gli ingegneri progettano architetture di reti neurali, curano i dati di addestramento e scrivono il codice per l'addestramento. Un sistema capace di svolgere da solo questa ricerca potrebbe creare un successore più efficace, che a sua volta condurrebbe la ricerca meglio e più rapidamente, e così via. L'accelerazione o il rallentamento di questo ciclo dipende dai rendimenti di ogni iterazione: se ogni aumento di capacità produce un incremento ancora maggiore della velocità di ricerca, la crescita diventa incontrollata; se invece l'elaborazione, i dati, l'energia o gli esperimenti nel mondo reale diventano colli di bottiglia, la crescita rallenta fino a stabilizzarsi.

I ricercatori chiamano decollo la velocità della transizione. Un decollo rapido, o hard takeoff, porterebbe dall'IA di livello umano a un'IA enormemente sovrumana nel giro di ore o giorni, senza lasciare tempo per correggere gli errori; un decollo lento, o soft takeoff, si svilupperebbe nel corso di anni o decenni. Le leggi di scala osservate nel deep learning descrivono miglioramenti graduali, secondo leggi di potenza, ottenuti aumentando la capacità di calcolo, i dati e i parametri; il progresso dovuto soltanto alla scalabilità segue quindi la crescita dell'hardware e degli investimenti.

Singolarità, AGI e superintelligenza#

• AGI: livello di capacità di un sistema che eguaglia gli esseri umani in pressoché tutte le attività cognitive. L'AGI potrebbe esistere senza una singolarità, se il suo auto-miglioramento fosse lento o limitato.
• Superintelligenza artificiale (ASI): livello di capacità superiore all'AGI. Il filosofo Nick Bostrom definisce la superintelligenza come un intelletto che supera ampiamente le prestazioni cognitive umane in pressoché tutti gli ambiti di interesse.
• Singolarità: un evento, la transizione in cui l'IA auto-migliorante passa dal livello AGI alla superintelligenza e le previsioni umane cessano di funzionare.

Mantenere allineati agli obiettivi umani sistemi più intelligenti di chi li supervisiona è il problema di ricerca noto come superallineamento.

Precursori nell'IA di oggi#

L'IA automatizza già parti circoscritte del proprio sviluppo. L'apprendimento automatico automatizzato (AutoML) e la ricerca dell'architettura neurale (NAS) esplorano modelli che un tempo le persone sceglievano manualmente. L'ottimizzazione degli iperparametri in Ultralytics YOLO è una versione su piccola scala della stessa idea: un algoritmo genetico modifica impostazioni di addestramento come il tasso di apprendimento e l'intensità dell'aumento dei dati, riaddestra il modello e conserva la configurazione con il punteggio migliore. Su scala più ampia, l'agente di programmazione AlphaEvolve di Google DeepMind ha trovato un modo più rapido per suddividere una moltiplicazione di matrici, accelerando del 23% un kernel chiave dell'architettura Gemini e riducendo dell'1% il tempo di addestramento di Gemini.

Critiche e dibattito#

Gli scettici sostengono che l'intelligenza non cresca come è cresciuto il numero di transistor nei processori. In "The Singularity Isn't Near" (2011), il cofondatore di Microsoft Paul Allen e Mark Greaves hanno proposto un "freno della complessità": ogni progresso nella comprensione della cognizione ne rivela altra complessità, rallentando così il progresso. Altri sottolineano i limiti fisici dei chip e dell'energia, nonché il fatto che la ricerca richiede esperimenti lenti nel mondo reale. I ricercatori che prendono sul serio questo scenario sostengono che l'allineamento vada risolto prima che tali sistemi esistano e, nel maggio 2023, centinaia di scienziati e dirigenti del settore dell'IA hanno firmato una dichiarazione di una frase secondo cui mitigare il rischio di estinzione causato dall'IA dovrebbe essere una priorità globale, al pari delle pandemie e della guerra nucleare. La previsione di Vinge indicava una scadenza: "Mi sorprenderò se questo evento si verificherà prima del 2005 o dopo il 2030."