Introduzione al settore emergente dell’IA neuro-simbolica

Oggi, grazie alla rapida crescita dell’intelligenza artificiale (AI) e alla maggiore disponibilità di potenza di calcolo, vengono rilasciati modelli di AI avanzati più rapidamente che mai. Il settore dell’AI sta infatti promuovendo innovazioni concrete in molti ambiti.

Per esempio, in ambito sanitario i sistemi di AI vengono usati per attività come l’analisi di immagini mediche a supporto della diagnosi precoce. Tuttavia, come ogni tecnologia, anche l’AI ha i suoi limiti.

Una delle principali preoccupazioni riguarda la trasparenza. Per esempio, un modello di rilevamento di oggetti può individuare con precisione un tumore in una risonanza magnetica cerebrale, ma può essere difficile capire come sia arrivato a quella conclusione. Questa mancanza di spiegabilità rende più difficile per medici e ricercatori fidarsi pienamente dei risultati dell’AI o convalidarli.

È proprio per questo che cresce l’interesse per il campo emergente dell’AI neuro-simbolica. L’AI neuro-simbolica combina i punti di forza del deep learning nel riconoscimento di schemi con il ragionamento strutturato e basato su regole dell’AI simbolica. L’obiettivo è creare sistemi che facciano previsioni accurate e sappiano anche spiegare il proprio ragionamento in modo comprensibile alle persone.

In questo articolo vedremo come funziona l'intelligenza artificiale neuro-simbolica e come combina apprendimento e ragionamento per creare sistemi più trasparenti e consapevoli del contesto.

I due aspetti dell’AI neuro-simbolica: apprendimento e ragionamento#

Prima di approfondire l’AI neuro-simbolica, diamo uno sguardo più da vicino ai due sottocampi che riunisce: il deep learning e l’AI simbolica.

Il deep learning si concentra sul riconoscimento di schemi nei dati, mentre l’AI simbolica usa regole, logica o buon senso per ragionare sui problemi. Entrambi hanno punti di forza, ma anche dei limiti. Combinandoli, l’AI neuro-simbolica crea sistemi capaci sia di apprendere dai dati sia di spiegare le proprie decisioni con maggiore chiarezza.

Panoramica sul deep learning#

Il deep learning è un ramo del machine learning che usa reti neurali artificiali, ispirate in modo approssimativo al modo in cui il cervello elabora le informazioni. Queste reti apprendono analizzando grandi quantità di dati e modificando le connessioni interne per migliorare le prestazioni.

Questo permette alle reti di riconoscere schemi in immagini, suoni e testi senza dover definire regole apposite per ogni situazione. Per questo, il deep learning è particolarmente efficace nelle attività incentrate sulla percezione, come il riconoscimento delle immagini, l’elaborazione del parlato e la traduzione automatica.

Un buon esempio è un modello di computer vision addestrato a segmentare gli oggetti nelle immagini. Con un numero sufficiente di esempi etichettati, può imparare a distinguere strade, veicoli e pedoni nelle riprese del traffico in tempo reale.

Tuttavia, nonostante la loro accuratezza, i modelli di deep learning spesso faticano a spiegare chiaramente come siano arrivati a un determinato risultato. Questa sfida, comunemente definita problema della scatola nera, rende più difficile per gli utenti interpretare o verificare le decisioni del modello, soprattutto in ambiti delicati come la sanità o la finanza. È un aspetto importante, perché un’AI responsabile richiede trasparenza, fiducia e la possibilità di capire perché un modello abbia formulato una determinata previsione.

Alla scoperta dell’AI simbolica#

L’AI simbolica adotta un approccio più strutturato all’intelligenza e al processo decisionale. Rappresenta le conoscenze tramite simboli e applica regole logiche per elaborarle, in modo simile a come usiamo il ragionamento e il linguaggio per risolvere problemi. Ogni passaggio del processo di ragionamento è definito, il che rende le decisioni dell’AI simbolica trasparenti e più facili da spiegare.

La conoscenza simbolica funziona particolarmente bene nelle attività che seguono regole chiare e ben definite, come la pianificazione, la programmazione o la gestione di conoscenze strutturate. Tuttavia, l’AI simbolica fatica a gestire dati non strutturati o situazioni che non rientrano facilmente in categorie predefinite.

Un esempio comune di approccio simbolico è costituito dai primi programmi per gli scacchi. Seguivano regole scritte a mano e strategie fisse, anziché apprendere dalle partite precedenti o adattarsi a diversi avversari. Di conseguenza, il loro modo di giocare tendeva a essere rigido e prevedibile.

Fig. 1. Uno sguardo alla struttura dell’AI e ai suoi sottocampi. (Immagine dell’autore)

Che cos’è l’AI neuro-simbolica?#

Negli anni 2010, con la diffusione del deep learning, i ricercatori iniziarono a cercare modi per andare oltre il semplice riconoscimento di schemi e arrivare a comprendere relazioni e contesto. Questo cambiamento ha permesso ai modelli di AI non solo di rilevare oggetti in una scena, come un gatto e un tappeto, ma anche di interpretare le relazioni tra quegli oggetti, riconoscendo, per esempio, che il gatto è seduto sul tappeto.

Questi progressi hanno però messo in evidenza anche un limite fondamentale. I modelli di deep learning riconoscono gli schemi molto bene, ma spesso faticano a spiegare il proprio ragionamento o a gestire situazioni insolite. Questo rinnovato interesse per il ragionamento ha riportato l’attenzione dei ricercatori su un campo esistente dagli anni ’80: l’AI neuro-simbolica.

L’AI neuro-simbolica integra il deep learning e l’AI simbolica. Permette ai modelli di apprendere dagli esempi come fa il deep learning, applicando al contempo logica e ragionamento come fa l’AI simbolica.

In poche parole, l’AI neuro-simbolica può riconoscere informazioni, comprendere il contesto e fornire spiegazioni più chiare delle proprie decisioni. Questo approccio ci avvicina allo sviluppo di sistemi di AI più affidabili e capaci di comportarsi in modo simile agli esseri umani.

Fig. 2. Capire l’AI neuro-simbolica (Immagine dell’autore)

Le basi del funzionamento dell’AI neuro-simbolica#

Un’architettura neuro-simbolica riunisce apprendimento e ragionamento in un unico framework. In genere comprende tre componenti principali: un livello neurale di percezione che interpreta i dati grezzi, un livello di ragionamento simbolico che applica la logica e un livello di integrazione che collega i due. Ora esamineremo più da vicino ciascun livello.

Il livello neurale di percezione#

Il componente neurale di percezione elabora dati non strutturati, come immagini, video, testi o audio, e li converte in rappresentazioni interne utilizzabili dal sistema. In genere usa modelli di deep learning per rilevare schemi e identificare oggetti o caratteristiche nell’input. In questa fase, il sistema riconosce ciò che è presente nei dati, ma non ragiona ancora sul significato, sulle relazioni o sul contesto.

Ecco alcuni tipi comuni di modelli di deep learning usati in questo livello:

• Le reti neurali convoluzionali (CNNs): sono un tipo di rete neurale progettata per elaborare dati strutturati su griglia, come le immagini. Le CNNs usano filtri convoluzionali per analizzare un’immagine e rilevare schemi come bordi, texture e forme. Combinando questi schemi, imparano a riconoscere oggetti come automobili, frutta e persone.
• Transformer: i Transformer sono modelli progettati per comprendere le relazioni tra le diverse parti di un input. Invece di elaborare le informazioni esclusivamente in sequenza, possono esaminare più parti dei dati contemporaneamente e stabilire quali siano le più importanti. Questo permette loro di comprendere il contesto nei testi, nelle immagini o in entrambi. Grazie a questa flessibilità, i Transformer sono l'architettura alla base della maggior parte dei moderni modelli linguistici e di molti sistemi visione-linguaggio.
• Le reti neurali ricorrenti (RNNs): questo tipo di modello è progettato per analizzare dati sequenziali, come il parlato o i segnali di serie temporali. Mantiene una memoria degli input precedenti, consentendo alle previsioni di tenere conto del contesto nel tempo.

In definitiva, questi modelli neurali estraggono e rappresentano caratteristiche significative dai dati grezzi. Questo output diventa poi l’input per il livello di ragionamento simbolico, che interpreta e ragiona su ciò che il sistema ha rilevato.

Il livello di ragionamento simbolico#

Il livello di ragionamento simbolico prende le informazioni prodotte dal livello di percezione neurale e le interpreta usando la logica. Invece di basarsi solo sui modelli, si affida a elementi come regole, grafi della conoscenza, basi di conoscenza e ontologie (descrizioni organizzate dei concetti e delle loro relazioni). Questi elementi aiutano il sistema a capire come i diversi componenti si integrano e quali azioni sono appropriate in una determinata situazione.

Per esempio, in un'auto a guida autonoma, il livello di percezione neurale può riconoscere un semaforo rosso nelle immagini della telecamera. Il livello di ragionamento simbolico può quindi applicare una regola come: «Se il semaforo è rosso, il veicolo deve fermarsi». Poiché il ragionamento si basa su regole chiare, è più facile spiegare e verificare le decisioni del sistema, un aspetto particolarmente importante nelle situazioni in cui sicurezza e responsabilità sono fondamentali.

Il livello di integrazione#

Il livello di integrazione collega il livello di percezione neurale e il livello di ragionamento simbolico, assicurando che apprendimento e ragionamento operino insieme. In una direzione, converte i risultati dei modelli neurali (come il rilevamento di un pedone) in rappresentazioni simboliche che descrivono l'oggetto e i suoi attributi.

Nell'altra direzione, prende le regole simboliche (per esempio, «un veicolo deve fermarsi se un pedone si trova sulle strisce pedonali») e le traduce in segnali che guidano i modelli neurali. Questo può comportare l'evidenziazione delle aree rilevanti di un'immagine, l'influenza sull'attenzione o la modifica dei percorsi decisionali del modello.

Questo scambio bidirezionale crea un ciclo di feedback. La componente neurale acquisisce struttura e interpretabilità grazie alle regole simboliche, mentre la componente simbolica può adattarsi in modo più efficace sulla base dei dati del mondo reale. Tecniche come le reti neurali logiche (LNNs) favoriscono questa interazione integrando vincoli logici direttamente nelle architetture neurali.

Collegando in questo modo percezione e ragionamento, l'AI neuro-simbolica può produrre decisioni accurate e più facili da interpretare. Molti ricercatori considerano questo approccio un passo promettente verso un'AI più affidabile e in linea con i valori umani e, potenzialmente, una base per i progressi futuri verso l'intelligenza artificiale generale (AGI).

Applicazioni dell'AI neuro-simbolica#

Ora che abbiamo una visione più chiara di cosa sia l'IA neuro-simbolica e di come funzioni, diamo un'occhiata ad alcuni dei suoi casi d'uso nel mondo reale.

Guidare in modo più sicuro: vedere i pedoni e capirne il comportamento#

Per funzionare in sicurezza, i veicoli autonomi devono capire ciò che li circonda. Usano tecnologie come la computer vision per rilevare pedoni, veicoli, segnaletica orizzontale e segnali stradali.

Anche se i modelli di deep learning riescono a identificare questi oggetti con precisione, non sempre ne capiscono il significato nel contesto o il modo in cui sono collegati tra loro in una situazione reale. Per esempio, un modello neurale potrebbe riconoscere un pedone sulle strisce, ma non capire se sta per attraversare o se è fermo ad aspettare.

L'AI neuro-simbolica cerca di colmare questa lacuna consentendo ai veicoli a guida autonoma di combinare il riconoscimento visivo con il ragionamento logico, così da interpretare le situazioni anziché limitarsi a identificare gli oggetti. Ricerche recenti sull'AI hanno dimostrato che i sistemi che combinano la percezione neurale con le regole simboliche possono migliorare la previsione del comportamento dei pedoni.

In questi sistemi, la componente neurale analizza indizi visivi come la postura, il movimento e la posizione di un pedone. La componente simbolica applica quindi regole logiche, considerando fattori come la vicinanza della persona a un attraversamento pedonale e le indicazioni del semaforo in quel momento.

Combinando queste due prospettive, il sistema neuro-simbolico può fare più che limitarsi a rilevare un pedone. Può prevedere in modo ragionevole se è probabile che il pedone attraversi e spiegare perché ha preso quella decisione. Ne derivano comportamenti più sicuri e trasparenti nei veicoli autonomi.

Fig. 3. Previsioni basate sul comportamento osservato dei pedoni usando l'AI neuro-simbolica. (Fonte)

Interpretazione logica nel visual question answering#

Un'altra importante applicazione dell'AI neuro-simbolica è il visual question answering (VQA). I sistemi VQA sono progettati per rispondere a domande sulle immagini.

Combina modelli linguistici di grandi dimensioni (LLMs) e modelli visivi per eseguire ragionamenti multimodali, integrando ciò che il sistema vede con ciò che comprende. Per esempio, se a un sistema VQA viene mostrata un'immagine e viene chiesto «La tazza è sul tavolo?», il sistema deve riconoscere gli oggetti e anche capirne la relazione. Deve determinare se la tazza si trova effettivamente sopra il tavolo nella scena.

Uno studio recente ha dimostrato come l'AI neuro-simbolica possa migliorare il VQA integrando la percezione neurale con il ragionamento simbolico. Nel sistema proposto, la rete neurale analizza prima l'immagine per riconoscere gli oggetti e i loro attributi, come colore, forma o dimensione.

La componente di ragionamento simbolico applica quindi regole logiche per interpretare le relazioni tra gli oggetti e rispondere alla domanda. Se le viene chiesto «Quanti cilindri grigi ci sono nella scena?», la componente neurale identifica tutti i cilindri e i loro colori, mentre quella simbolica li filtra in base ai criteri e conta quelli corretti.

Fig. 4. Esempi di scenari VQA in cui servono conoscenze astratte e logica. (Fonte)

Queste ricerche mostrano come il VQA neuro-simbolico possa andare oltre la semplice fornitura di risposte. Poiché il modello può mostrare i passaggi che lo hanno portato a una conclusione, favorisce l'AI spiegabile, in cui i sistemi formulano previsioni e motivano il proprio ragionamento in modo comprensibile alle persone.

Vantaggi e svantaggi dell'AI neuro-simbolica#

Ecco alcuni dei principali vantaggi dell'uso dell'AI neuro-simbolica:

• Capacità di ragionamento più avanzate: A differenza dei modelli di deep learning puri, l'AI neuro-simbolica può svolgere attività che richiedono ragionamento in più passaggi, pianificazione, applicazione di regole e gestione di ambiti di conoscenza strutturati, nei quali l'AI simbolica eccelle tradizionalmente.
• Adattabilità: Questi sistemi si comportano bene anche con attività nuove o mai viste, perché possono ragionare logicamente oltre ciò che hanno appreso durante l'addestramento. Invece di limitarsi a memorizzare i dati, comprendono relazioni e schemi ricorrenti.
• Robustezza al rumore e all'ambiguità: I vincoli logici possono aiutare a prevenire errori quando i dati sono rumorosi, incompleti o ambigui. Il livello di ragionamento può applicare regole che guidano o correggono le previsioni neurali.

Nonostante il suo potenziale, l'AI neuro-simbolica è ancora in evoluzione e presenta alcune difficoltà pratiche. Ecco alcuni dei suoi principali limiti:

• Integrazione complessa: Sebbene questo approccio ibrido offra un'elevata interpretabilità, progettare algoritmi che combinino percezione e ragionamento resta difficile.
• Scalabilità: Il ragionamento simbolico può diventare lento o richiedere molte risorse computazionali quando si gestiscono grafi della conoscenza di grandi dimensioni o insiemi di regole complessi. Ciò può rendere più difficile distribuire in modo efficiente applicazioni in tempo reale, come la guida autonoma, l'elaborazione video o il ragionamento su conoscenze su larga scala.
• Robustezza del ragionamento: Se le regole simboliche sono troppo rigide, i sistemi possono avere difficoltà in scenari reali ambigui o imprevedibili. Trovare un equilibrio tra apprendimento flessibile e ragionamento affidabile resta una sfida aperta.

Punti chiave#

L'AI neuro-simbolica rappresenta un passo importante verso la creazione di sistemi di AI capaci non solo di percepire il mondo, ma anche di ragionarci sopra e spiegare le proprie decisioni. A differenza dei sistemi di deep learning tradizionali, che si basano soprattutto su schemi appresi dai dati, l'AI neuro-simbolica combina l'apprendimento statistico con la logica e la conoscenza strutturate. Invece di sostituire il deep learning, lo sviluppa ulteriormente e ci avvicina un po' alla creazione di un'AI capace di comprendere e ragionare in modo più simile agli esseri umani.

Unisciti alla nostra community ed esplora il nostro repository GitHub. Dai un'occhiata alle pagine dedicate alle nostre soluzioni per scoprire varie applicazioni dell'AI in agricoltura e della computer vision in ambito sanitario. Scopri le nostre opzioni di licenza e inizia a sviluppare il tuo progetto di AI visiva!