Gio. Mag 23rd, 2024
Abbiamo bisogno di una costituzione sull’intelligenza artificiale che protegga i nostri diritti civili

Rimani informato con aggiornamenti gratuiti

Oggi sei stato ignorato per un lavoro. Ti è stato rifiutato un prestito. Tu, o forse tuo figlio, siete stati respinti da una delle migliori università. E non sapevi nemmeno che fosse successo. Ogni giorno, in alcune delle parti più profonde e costituzionalmente protette della nostra vita, gli algoritmi prendono decisioni che nessun essere umano potrebbe mai giustificare faccia a faccia.

Sotto pressione, le aziende stanno discutendo di quadri etici e istituendo comitati consultivi. Non abbiamo bisogno di un manifesto sull’intelligenza artificiale: abbiamo bisogno di una costituzione. Così come viene utilizzata oggi, l’intelligenza artificiale è semplicemente incompatibile con i diritti civili.

Come capo scienziato di uno dei prime aziende a utilizzare l’intelligenza artificiale nelle assunzioni, ho creato il sistema che ti ha scavalcato per quel lavoro. Gli enormi datori di lavoro che erano nostri clienti non avevano bisogno di aspettare la tua domanda di lavoro; in effetti abbiamo fatto domanda per te, che tu lo sapessi o no. Ma quando l'intelligenza artificiale decide chi verrà assunto, non saprai mai perché non sei stato tu. Un essere umano che ti chiedesse informazioni sulla tua età, sulla tua politica o sulla pianificazione familiare durante il processo di assunzione costituirebbe una violazione perseguibile dei tuoi diritti civili. L’intelligenza artificiale fa lo stesso a tua insaputa è altrettanto sbagliato, ma completamente nascosto alla vista.

Oltre alle assunzioni, alcuni datori di lavoro stanno giocando con sistemi per farlo licenziare automaticamente i lavoratori a bassa produttività. Ma perché licenziare le persone se puoi “aiutarle” a scegliere di andarsene? Altre aziende stanno sviluppando valutazioni della personalità basate sull’apprendimento automatico che eliminano i candidati previsti agitarsi per aumentare i salarisostenere la sindacalizzazione o dimostrare tendenze al salto di lavoro.

I prestiti guidano la mobilità economica in America, anche se storicamente sono stati uno strumento potente di discriminazione. Ho lavorato su più progetti per ridurre questo pregiudizio utilizzando l'intelligenza artificiale. Ciò che ho imparato, tuttavia, è che anche se un algoritmo funziona esattamente come previsto, è comunque progettato esclusivamente per ottimizzare i rendimenti finanziari per il creditore che lo ha pagato. Il processo di richiesta di prestito è già impenetrabile per la maggior parte, e ora anche le tue speranze casa la proprietà o il finanziamento delle piccole imprese stanno morendo in un calcolo di 50 millisecondi.

Ogni settimana si verificano scoperte guidate dall’intelligenza artificiale nel campo della salute e delle biotecnologie. In termini di salute è pensato per essere imparziale, ma se sei un valore anomalo, quel nuovo straordinario strumento diagnostico potrebbe non diagnosticarti in modo accurato. Come faresti a sapere se l'algoritmo proprietario di un'azienda sconosciuta fosse stato addestrato su pazienti come te? E se tutti i medici della tua zona utilizzano lo stesso strumento, non hai nessun posto dove andare per una seconda opinione. Quando un medico basato sull'intelligenza artificiale ti dice che sei semplicemente isterico, è improbabile che la compagnia assicurativa basata sull'intelligenza artificiale non sia d'accordo.

Dal punto di vista giuridico, il diritto a un avvocato e al controllo giurisdizionale sono una garanzia costituzionale negli Stati Uniti e un diritto civile consolidato in gran parte del mondo. Queste sono le basi delle vostre libertà civili. Quando gli algoritmi agiscono come un testimone espertoche testimonia contro di te ma è immune al controinterrogatorio, questi diritti non sono semplicemente erosi: cessano di esistere.

Le persone non sono perfette. Né la formazione etica per gli ingegneri dell’intelligenza artificiale né la legislazione da parte di politici tristemente disinformati possono cambiare questa semplice verità. Non ho bisogno di dare per scontato che gli amministratori delegati di Big Tech siano cattivi attori o che le grandi aziende siano malevole per capire che ciò che è nel loro interesse non è sempre nel mio. Gli autori della Costituzione degli Stati Uniti hanno riconosciuto questa semplice verità e hanno cercato di sfruttare la natura umana per un bene superiore. La Costituzione non presupponeva semplicemente che le persone avrebbero sempre agito verso quel bene più grande. Ha invece definito un meccanismo dinamico – interesse personale ed equilibrio di potere – che imporrebbe il compromesso e il buon governo. La sua visione di trattare le persone come attori reali piuttosto che come angeli migliori ha prodotto uno dei più grandi quadri di governance della storia.

Immagina che ti venga offerto un test basato sull'intelligenza artificiale per la depressione post-partum. La mia azienda ha sviluppato proprio questo test e ha il potere di cambiarti la vita, ma potresti scegliere di non usarlo per paura che potremmo vendere i risultati a intermediari di dati o politici attivisti. Hai il diritto che la nostra IA agisca esclusivamente per la tua salute. È per questo motivo che ho fondato un'organizzazione no-profit indipendente, La fiducia umana, che contiene tutti i dati ed esegue tutti gli algoritmi con la sola responsabilità fiduciaria nei tuoi confronti. Nessuna madre dovrebbe essere costretta a scegliere tra un test medico salvavita e i suoi diritti civili.

L’intelligenza artificiale può fare cose meravigliose. Ma i diritti civili non possono esistere in un mondo di calcoli nascosti. Proprio come con un avvocato o un medico, dobbiamo avere un’intelligenza artificiale che agisca nel nostro interesse personale. L’intelligenza artificiale ha bisogno di una costituzione o, più precisamente, abbiamo bisogno di una costituzione che definisca l’accesso all’intelligenza artificiale che agisce esclusivamente per nostro conto come un diritto civile.