Questi sono tempi incerti per la Silicon Valley. Le aziende tecnologiche stanno licenziando il personale che hanno assunto durante la pandemia. Twitter, sotto Elon Musk, ha respinto gli inserzionisti. Apple, autoproclamatasi sostenitrice della privacy, vuole ridurre la portata di Google. È possibile immaginare che il selvaggio west digitale diventerà più signorile.

Tuttavia, per i critici di Big Tech, c’è poco sollievo. Shoshana Zuboff, professoressa emerita alla Harvard Business School, ha pubblicato L’era del capitalismo di sorveglianza nel 2019 – un’esplosione su come le aziende tecnologiche abbiano guadagnato miliardi di dollari risucchiando dati privati. “Pensavamo di cercare su Google, ma Google ci stava cercando”, ha riassunto.

Oggi è frustrata dal fatto che gli sforzi per frenare le aziende tecnologiche siano così frammentati. “Abbiamo studiosi, ricercatori, sostenitori fantastici che si concentrano sulla privacy, altri che si concentrano sulla disinformazione, altri che si concentrano sul nesso con la democrazia”, ​​dice, quando ci incontriamo a Londra. Questa “balcanizzazione” riduce la capacità di individuare la “vera fonte del danno”: i dati delle persone vengono trattati come una risorsa senza costo, proprio come lo erano le foreste e altre parti della natura nei secoli passati.

Zuboff cita i dati che, negli Stati Uniti, che non hanno una legge federale sulla privacy, le persone hanno la loro posizione esposta 747 volte al giorno. Nell’UE, che secondo lei ha la “migliore regolamentazione”, è 376. “È meglio, ma non è quasi abbastanza”. Mark Zuckerberg una volta ti ha promesso che un modello predittivo ti avrebbe detto, arrivando in una città sconosciuta, in quale bar andare e un barista ti avrebbe già preparato il tuo drink preferito. Quel sogno è svanito solo sulla base della praticità, non del principio.

In un carta pubblicato a novembre, Zuboff ha sostenuto che Apple e Google avevano funzionari sanitari europei armati di forza sulla tecnologia di tracciamento Covid. “È possibile avere un capitalismo di sorveglianza ed è possibile avere una democrazia. Non è possibile avere entrambi”, ha scritto. Apple aveva creato l’illusione di agire come Robin Hood, quando solo la supervisione democratica poteva proteggere i diritti individuali.

Vede la sua mossa contro Google semplicemente come una “espansione” del capitalismo della sorveglianza. Le promesse di Tim Cook di proteggere la privacy possono essere ritirate in qualsiasi momento: “Gli utenti non hanno voce in capitolo”.

La sorveglianza tecnologica è importante, sostiene Zuboff, perché ci priva di “interiorità che sostiene la vita”. Né gli individui possono realisticamente rinunciare da soli. Ciò di cui abbiamo bisogno è il diritto al santuario.

L’anno scorso Bruxelles ha introdotto il Digital Services Act e il Digital Markets Act, la sua legislazione tecnologica più completa fino ad oggi. Il parlamento del Regno Unito sta attualmente discutendo il disegno di legge sulla sicurezza online. Zuboff vuole che questi siano trampolini di lancio.

***

Normalmente nelle interviste ai giornali, il giornalista fa domande e l’intervistato risponde. Un’intervista con Zuboff è diversa. Fai domande e, il più delle volte, lei risponde con i primi principi: spiegazioni passo dopo passo di come crede che il capitalismo della sorveglianza abbia preso piede in questo secolo.

Zuboff è particolare su come vengono descritte le sue idee, su come sono impostate le cose, su quale penna usa. Rimugina ogni dettaglio. “Ti distraggo se mi alzo? mi siedo. Di solito cammino e parlo”, dice, quando iniziamo.

Questa particolare mente è, nella terminologia tecnologica, una caratteristica, non un bug. Consente a Zuboff di avere una visione a lungo termine. Nel 1988 ha pubblicato Nell’era della macchina intelligente, che sosteneva che i computer avrebbero cambiato le aziende in un modo che le tecnologie precedenti non avevano fatto. In seguito ha gestito Odyssey, un programma educativo della Harvard Business School per aiutare le persone di successo a decidere come trascorrere l’ultima parte della loro vita.

La sua opera sul capitalismo della sorveglianza è stata la sua fioritura di fine carriera. È stato pubblicato quando aveva 67 anni, dopo che un fulmine aveva bruciato la sua casa di famiglia nel Maine e dopo la morte inaspettata di suo marito e talvolta coautore, l’uomo d’affari Jim Maxmin.

Zuboff sostiene che le aziende tecnologiche sapevano che il pubblico non avrebbe mai sostenuto la loro raccolta di dati. “Fin dall’inizio, sono stati intesi come cose che dovevano essere segrete, dovevano essere camuffate dagli utenti, per timore che provocassero resistenza”. Cita un recente dirigente di Google che ha detto: “Non farebbe impazzire la gente sapere quanta attenzione stiamo prestando?”

Oggi le aziende tecnologiche “stanno diventando molto più riluttanti a brevettare le loro scoperte, perché non vogliono che il pubblico sappia esattamente cosa stanno facendo. Nella maggior parte dei casi non mettono più a disposizione dei ricercatori i propri dati”.

Quindi Zuboff vede la necessità di una spedizione di pesca regolamentare. Le leggi tecnologiche dell’UE creeranno “nuovi quadri di persone con nuovi mix di competenze che andranno all’interno delle aziende. Il loro compito sarà quello di sollevare il cofano, per capire cosa sta realmente accadendo. Uno degli enormi problemi che abbiamo è che la maggior parte delle informazioni che escono dalle aziende è intenzionalmente progettata per essere fuorviante. Il gaslighting è una forma d’arte retorica realmente praticata da queste aziende”.

Zuboff usa raramente risposte brevi o una terminologia semplice. Tuttavia, è diretta sulla moderazione dei contenuti – i tentativi delle aziende di rimuovere i contenuti dannosi – che descrive come “sabbie mobili. . . una proposta assolutamente perdente, progettata in realtà per tenerci occupati il ​​più a lungo possibile in modo che possano continuare a farla franca con quello che stanno realmente facendo.

È più positiva riguardo al design adatto all’età, in cui le piattaforme sono progettate per ridurre al minimo i danni ai bambini e per raccogliere meno dati da loro. Il Regno Unito è stato il pioniere del design adatto all’età, ma dopo la Brexit perderà la “maggiore potenza muscolare” di Bruxelles contro il capitalismo della sorveglianza, afferma Zuboff. Vede anche “una mossa per indebolire e snaturare l’attuale regime di protezione dei dati con un disegno di legge sulla protezione dei dati che favorisce le grandi aziende tecnologiche e perpetua l’idea sbagliata che la democrazia deve togliersi di mezzo”.

***

Il problema per i sostenitori della privacy è che la loro causa sembra offrire troppo pochi vantaggi e troppi svantaggi. Per la maggior parte dei cittadini europei, l’impatto maggiore della legislazione sulla privacy sono i fastidiosi pop-up dei cookie. La regolamentazione sembra poco pratica: il Regno Unito e la Francia volevano entrambi imporre limiti di età ai siti porno, ma finora non sono riusciti a trovare modi efficaci per farlo.

Allo stesso modo, Zuboff critica Apple e Google per aver preso il controllo del tracciamento del Covid, ma se il loro sistema funzionasse semplicemente meglio di quelli centralizzati preferiti dai funzionari sanitari europei? Lei ride del suggerimento. Ma ammette che la regolamentazione è ostacolata “perché non possiamo entrare [tech companies] per sapere cosa sta realmente accadendo. Stiamo regolando con i paraocchi su . . . Non capiamo abbastanza bene il nostro avversario.

Zuboff insiste sul fatto che il suo attacco non è contro la tecnologia in sé, ma contro la logica economica che la sostiene: il “furto”. Offre la possibilità che potremmo usare dati e previsioni per il bene comune. La controargomentazione è che ci sono compromessi di base. I servizi tecnologici, che si tratti di prevedere risposte di testo o percorsi di guida più veloci, possono funzionare solo accumulando dati e riducendo la nostra privacy.

Chiedo cosa pensa della proprietà di Twitter da parte di Musk. “Abbiamo politici, legislatori, funzionari eletti, così come l’intera cittadinanza, concentrati su un uomo e ponendo la domanda, ‘che cosa farà?’ La nostra stabilità politica, la nostra capacità di sapere cosa è vero e cosa falso, la nostra salute e in una certa misura la nostra sanità mentale, viene messa alla prova quotidianamente a seconda delle decisioni che Musk decide di prendere. Lo considero fondamentalmente intollerabile . . . Questi spazi non possono esistere esclusivamente sotto il controllo aziendale. . . Siamo entrati da due decenni nell’era digitale ma non abbiamo mai, come democrazie, fatto il punto sul significato di queste tecnologie”.

Musk ha riportato Donald Trump su Twitter. La sospensione dell’ex presidente degli Stati Uniti da Facebook terminerà “nelle prossime settimane”, ha detto la sua casa madre. Zuboff è sbalordito. “Non dovrebbe essere una decisione che spetta a individui come Musk o Zuckerberg o chiunque altro”. Le implicazioni per la democrazia sono troppo grandi. “In una civiltà dell’informazione, i nostri spazi informativi devono esistere sotto il diritto pubblico ed essere governati da istituzioni democratiche. . . Con fortuna e determinazione guarderemo indietro ai giorni degli oligarchi dell’informazione come Musk e Zuckerberg come i primi primitivi passi falsi di una nuova civiltà”.

Paragona i giganti della tecnologia occidentale allo stato di sorveglianza cinese. “Questo è un mondo in cui la privacy è stata estinta. La privacy è ora una categoria di zombi. Nessuno di noi ha privacy, anche se ci pensavamo nel 2000”.

Il suo senso di distopia è viscerale. “Qualcuno ha appena inventato un tipo di vernice che puoi mettere sul tuo viso che confonde il riconoscimento facciale. I giovani su Reddit sono molto entusiasti di questo. È terribile, Henry!»

L’abolizione del capitalismo della sorveglianza richiede nuove leggi che consentano alle società di decidere “cosa diventa in primo luogo dati, cosa condividiamo, con chi e a quale scopo”.

Invece, la tecnologia va avanti, in particolare sotto forma di intelligenza artificiale. “ChatGPT ci ha scosso. Ha scioccato le persone, costringendoci a riconoscere fino a che punto è arrivata l’intelligenza artificiale, praticamente senza leggi e governance democratica che ne modellano o ne limitano lo sviluppo e l’applicazione”. Lo sviluppo dell’intelligenza artificiale si è basato sul furto di dati umani, sostiene. Indica con speranza la proposta di legge sull’IA dell’UE, “la prima legge per affermare la governance democratica sull’applicazione dell’IA”. Ma è difficile non pensare che, anche quando la Silicon Valley inciampa, è comunque un passo avanti.