Mentre la rivoluzione dell’intelligenza artificiale accelera, siamo bombardati sia da visioni utopiche che da profezie apocalittiche. È difficile valutare l’entità della minaccia, perché siamo stati condizionati a temere lo scenario sbagliato. La fantascienza ci ha ripetutamente messo in guardia sulla ribellione dei Big Robot. In molti romanzi e film di fantascienza – come IL Terminatore E IL Matrice — Le IA e i robot decidono di prendere il controllo del mondo, di ribellarsi ai loro padroni umani e di schiavizzare o distruggere il genere umano. È estremamente improbabile che una cosa del genere accada nell’immediato futuro. La tecnologia semplicemente non c'è. Al momento, le IA sono idiot savant. Potrebbero aver padroneggiato alcuni campi ristretti come giocare a scacchi, piegare proteine o comporre testi, ma non hanno l’intelligenza generale necessaria per attività altamente complesse come costruire un esercito di robot e prendere il controllo di un paese. Sfortunatamente, l’improbabilità della Big Robot Rebellion non significa che non ci sia nulla da temere. Perché non sono i robot assassini di cui dovremmo preoccuparci; sono piuttosto i burocrati digitali. Quello di Kafka Il processo è una guida migliore alla distopia dell'IA di Il terminatore.
Milioni di anni di evoluzione hanno condizionato gli esseri umani a temere predatori violenti come quello raffigurato in Il terminatore. Troviamo molto più difficile comprendere le minacce burocratiche, perché la burocrazia è uno sviluppo molto nuovo nell’evoluzione dei mammiferi e persino dell’uomo. Le nostre menti sono preparate a temere la morte per una tigre, ma non la morte per documento.
La burocrazia cominciò a svilupparsi solo circa 5.000 anni fa, dopo l’invenzione della scrittura nell’antica Mesopotamia. Ma la burocrazia ha rapidamente cambiato le società umane in modi radicali e inaspettati. Consideriamo, ad esempio, l’impatto che i documenti scritti e i burocrati che li maneggiano hanno avuto sul significato di proprietà. Prima dell'invenzione dei documenti scritti, la proprietà si basava sul consenso comune. Se “possedevi” un campo, significava che i tuoi vicini erano d’accordo che fosse il tuo campo, sia attraverso le loro parole che con le loro azioni. Non costruirono una residenza su quel campo e non ne raccolsero i prodotti, a meno che tu non glielo permettessi.
La natura comunitaria della proprietà limitava i diritti di proprietà individuale. Ad esempio, i tuoi vicini potrebbero aver concordato che hai il diritto esclusivo di coltivare un particolare campo, ma non hanno riconosciuto il tuo diritto di venderlo agli stranieri. Allo stesso tempo, finché la proprietà era una questione di consenso comunitario, ciò ostacolava anche la capacità delle lontane autorità centrali di controllare la terra. In assenza di documenti scritti e di elaborate burocrazie, nessun re poteva ricordare chi possedeva quale campo in centinaia di villaggi remoti. I re quindi trovarono difficile aumentare le tasse, il che a sua volta impedì loro di mantenere eserciti e forze di polizia.
Poi venne inventata la scrittura, seguita dalla creazione di archivi e burocrazie. All'inizio la tecnologia era molto semplice. Gli antichi burocrati mesopotamici usavano bastoncini per imprimere segni su tavolette di argilla, che in pratica erano solo pezzi di fango. Ma nel contesto dei nuovi sistemi burocratici, questi pezzi di fango hanno rivoluzionato il significato di proprietà. All'improvviso, possedere un campo significò che su una tavoletta d'argilla era scritto che quel campo era tuo. Se i tuoi vicini avessero raccolto frutta lì per anni, e nessuno di loro avesse mai detto che quel pezzo di terra era tuo, ma tu fossi comunque riuscito a produrre un pezzo di fango ufficiale che dicesse che ne sei il proprietario, potresti far valere la tua richiesta in tribunale. Al contrario, se la comunità locale riconosceva che possedevi un campo, ma nessun documento gli dava un timbro ufficiale di approvazione, allora non ne possedevi. Lo stesso vale ancora oggi, tranne per il fatto che i nostri documenti cruciali sono scritti su pezzi di carta o chip di silicio invece che su argilla.
Una volta che la proprietà divenne una questione di documenti scritti piuttosto che di consenso comune, le persone poterono iniziare a vendere i propri campi senza chiedere il permesso ai vicini. Per vendere un campo, hai semplicemente trasferito la fondamentale tavoletta d'argilla a qualcun altro. Ma significava anche che la proprietà poteva ora essere determinata dalla burocrazia distante che produceva i documenti rilevanti, e forse li conservava in un archivio centrale. Si aprì la strada alla riscossione delle tasse, al pagamento degli eserciti e alla creazione di grandi stati centralizzati. Il documento scritto cambiò il modo in cui il potere scorreva nel mondo e diede un enorme peso a burocrati come esattori delle tasse, pagatori, contabili, archivisti e avvocati. Sono diventati gli idraulici della rete informatica, che nel bene e nel male controllano il movimento delle tasse, dei pagamenti e perfino dei soldati manipolando documenti, moduli, statuti e le altre leve burocratiche.
Questo è il potere che l’intelligenza artificiale è ora pronta a conquistare. La burocrazia è un ambiente artificiale, in cui è sufficiente la padronanza di un campo ristretto per esercitare un enorme impatto sul mondo più ampio, manipolando il flusso di informazioni. Se si lancia un’intelligenza artificiale odierna nel disordinato mondo non strutturato, probabilmente non sarà in grado di realizzare molto – e certamente non sarà in grado di formare un esercito di robot. Ma questo è come gettare un avvocato aziendale nella savana disordinata e non strutturata. Lì, le capacità dell'avvocato non significano nulla e non possono competere con un elefante o un leone. Ma se prima si costruisce un sistema burocratico e lo si impone alla savana, l’avvocato diventa molto più potente di tutti i leoni del mondo messi insieme. Al giorno d’oggi, la sopravvivenza stessa dei leoni dipende dagli avvocati che compongono e spostano documenti in burocrazie labirintiche. Fondamentalmente, all’interno di questo labirinto, è probabile che l’intelligenza artificiale diventi molto più potente di qualsiasi avvocato umano.
Nei prossimi anni, milioni di burocrati dell’intelligenza artificiale prenderanno sempre più decisioni sulla vita non solo dei leoni, ma anche degli esseri umani. I banchieri AI decideranno se concederti un prestito. Gli IA nel sistema educativo decideranno se accettarti all'università. Le IA nelle aziende decideranno se darti un lavoro. Le IA nel sistema giudiziario decideranno se mandarti in prigione. Le IA militari decideranno se bombardare la tua casa. Queste IA non sono necessariamente cattive. Potrebbero rendere i sistemi molto più efficienti e persino più equi. Potrebbero fornirci assistenza sanitaria, istruzione, giustizia e sicurezza di livello superiore. Ma se le cose vanno male, i risultati potrebbero essere disastrosi. E in alcune aree le cose sono già andate storte.
Forse l’esempio più significativo è la storia degli algoritmi dei social media. Queste IA primitive hanno già rimodellato il mondo, esercitando un’enorme influenza sulla società umana. Agli algoritmi di aziende come Facebook, X, YouTube e TikTok è stato assegnato un obiettivo molto ristretto, perfetto per gli idiot savant: aumentare il coinvolgimento degli utenti. Più tempo gli utenti trascorrono sui social media, più soldi guadagnano le aziende. Nel perseguire il coinvolgimento degli utenti, gli algoritmi hanno fatto una scoperta pericolosa. Facendo esperimenti su milioni di cavie umane, gli algoritmi dei social media hanno imparato che l’avidità, l’odio e la paura aumentano il coinvolgimento degli utenti. Se premi il pulsante dell'avidità, dell'odio o della paura nella mente di un essere umano, attiri la sua attenzione e lo tieni incollato allo schermo. Gli algoritmi hanno quindi iniziato a diffondere deliberatamente avidità, odio e paura. Questa è stata una delle ragioni principali dell’attuale epidemia di teorie del complotto, notizie false e disordini sociali che minano le società di tutto il mondo.
Gli algoritmi dei social media sono IA estremamente limitate che non possono sopravvivere nella savana o orchestrare la Big Robot Rebellion. Ma all’interno della struttura burocratica delle piattaforme di social media, questi idioti sapienti esercitano un potere enorme, che un tempo era appannaggio degli esseri umani. Per secoli, gli editori umani hanno deciso cosa includere nei notiziari radiofonici e televisivi e cosa mettere in prima pagina sui giornali, modellando così la conversazione pubblica. Ha reso gli editori figure potenti. Jean-Paul Marat ha plasmato il corso della Rivoluzione francese curando l'influente giornale L'Ami du Peuple. Eduard Bernstein ha plasmato il pensiero socialdemocratico moderno attraverso l'editing Der Sozialdemokrat. La posizione più importante che Vladimir Lenin ricoprì prima di diventare dittatore sovietico fu quella di editore Iskra. Benito Mussolini guadagnò fama e influenza come redattore del giornale di destra Il Popolo d'Italia. È interessante notare che uno dei primi lavori al mondo ad essere automatizzato dall’intelligenza artificiale non sono stati i tassisti o gli operai tessili, ma i redattori di notizie. Il lavoro che una volta veniva svolto da Lenin e Mussolini può ora essere svolto dalle IA.
Il caos provocato dagli editor algoritmici sulle società umane è un segnale di avvertimento. Il mondo umano è un reticolo di molteplici burocrazie, in cui le IA possono acquisire un enorme potere anche se sono totalmente incapaci di organizzare la Big Robot Rebellion. Perché ribellarsi a un sistema se puoi prenderne il controllo dall'interno?