L'intelletto umano si fonda su tre pilastri: vedere (osservare il mondo), fare (intervenire in esso) e immaginare (simulare ciò che potrebbe accadere in base a scelte diverse). Al momento, l’intelligenza artificiale risiede solo in uno di questi pilastri.
L’espansione dei modelli di IA di frontiera esistenti non risolverà questo problema. La svolta che ha scatenato la frenesia odierna è stata l'architettura del trasformatore, sviluppata da Google e ampliata in grandi modelli linguistici addestrati su gran parte dell'Internet pubblica e utilizzati per scrivere testo e codice. Poi sono arrivati gli agenti che uniscono questi modelli in flussi di lavoro automatizzati. Ora l’attenzione è rivolta ai “modelli del mondo”, che cercano di catturare l’ambiente fisico da vasti flussi di video e altri input.
I modelli mondiali rappresentano un’importante evoluzione degli LLM. Questa cosiddetta intelligenza spaziale viene utilizzata per sviluppare una tecnologia in grado di abilitare auto senza conducente e lavoratori robotizzati. Il problema è che i sistemi costruiti in questo modo non comprendono realmente il mondo che registrano. Invece, lo imitano un oggetto 3D alla volta. Confondono la coincidenza con la causa. Possono agire senza saper spiegare il perché, ottimizzare senza cogliere cosa succede se le condizioni cambiano e avere allucinazioni con grande sicurezza. In settori come la sanità, le reti energetiche o, peggio, le armi autonome, le ripercussioni potrebbero non essere solo imbarazzanti ma letali.
Decenni fa, Alan Turing sosteneva che una macchina veramente intelligente dovrebbe “imparare dall’esperienza”. Non dovrebbe osservare passivamente ma agire. Dovrebbe imparare dalle conseguenze delle sue azioni e chiedersi “e se?” Addestrare una macchina a fare questo richiederà qualcosa di nuovo: un “modello del mondo causale” che funga da mappa interna di come funziona una fetta di realtà, non solo di come appare.
Negli ultimi 20 anni, un piccolo ma determinato gruppo di scienziati ha costruito un linguaggio matematico di causa ed effetto e, con esso, una solida base teorica per tali modelli. L'opera, resa popolare in Judea Pearl's IL Libro dei perchéspiega come distinguere la correlazione dalla causalità, formalizzare gli interventi e generare controfattuali – in altre parole, i mondi che avrebbero potuto essere.
Gli attuali modelli di intelligenza artificiale si concentrano sulle correlazioni tra le variabili. Funziona bene in situazioni predittive in cui è possibile utilizzare il riconoscimento di pattern. Ma i modelli del mondo causale sono necessari se vogliamo affrontare i problemi che contano di più in questo secolo. Pianificare scenari di adattamento climatico in megalopoli come San Paolo, dove vivo, richiede di porsi domande “e se” su eventi estremi che non si sono ancora verificati (e potrebbero non verificarsi).
La vera scoperta scientifica non è possibile senza modelli in grado di generalizzare, seguire le regole causali di un sistema e generare scenari realistici e andare oltre la semplice estrapolazione e automazione dei processi esistenti. Prendiamo ad esempio le reti biologiche complesse. Come possiamo scoprire i nuovi bioprodotti necessari per accelerare la transizione energetica o risolvere malattie complesse? Progettare colture resistenti alla siccità non è questione di trovare modelli nei rendimenti passati; richiede una comprensione dei modi in cui interagiscono il microbioma del suolo, la genetica delle piante, l’acqua, i nutrienti, i parassiti, le malattie e il clima – e una comprensione di cosa guida cosa, quando e dove.
I mercati emergenti, che sono vulnerabili e pieni di sfide che forniscono dati sperimentali utili, dovrebbero essere in prima linea in questo. Sono banchi di prova, partner e co-sviluppatori ideali per l'innovazione.
Il mondo si trova di fronte a una scelta. Può continuare a correre per costruire infrastrutture su vasta scala per supportare i modelli di intelligenza artificiale esistenti, oppure può scegliere di concentrare parte di quell’attenzione verso lo sviluppo di modelli che comprendano come funziona realmente il mondo e come può essere deliberatamente cambiato e controllato in meglio.
Lo sviluppo di modelli causali può avere altri vantaggi inaspettati. L’approccio della forza bruta di testare trilioni di possibili correlazioni e ponderarle per tentativi ed errori consumerà dati, energia, emissioni e denaro. Ma i modelli causali dovrebbero essere parsimoniosi fin dalla progettazione. L'addestramento e l'inferenza possono essere molto più efficienti perché la macchina non effettuerebbe una ricerca cieca; significherebbe indagare lungo linee di causalità significative sotto i vincoli delle leggi della fisica che governano il mondo reale.
Da San Paolo a Nairobi a Mumbai, i costi del ritardo si contano in raccolti falliti e emissioni evitabili. Senza una rivoluzione nel modo in cui le macchine ragionano su causa ed effetto, l’attuale boom dell’intelligenza artificiale rischia di finire in una delusione.