Ven. Mar 1st, 2024

Rimani informato con aggiornamenti gratuiti

Le società di intelligenza artificiale OpenAI, Anthropic e Cohere si sono impegnate in una diplomazia segreta con esperti cinesi di intelligenza artificiale, in mezzo alla preoccupazione condivisa su come la potente tecnologia possa diffondere disinformazione e minacciare la coesione sociale.

Secondo diverse persone con conoscenza diretta, nei mesi di luglio e ottobre dello scorso anno si sono svolti a Ginevra due incontri a cui hanno partecipato scienziati ed esperti politici dei gruppi AI nordamericani, insieme a rappresentanti dell’Università Tsinghua e di altre istituzioni statali cinesi.

I partecipanti hanno affermato che i colloqui hanno consentito a entrambe le parti di discutere i rischi derivanti dalla tecnologia emergente e di incoraggiare gli investimenti nella ricerca sulla sicurezza dell’IA. Hanno aggiunto che l’obiettivo finale è trovare un percorso scientifico per sviluppare in sicurezza una tecnologia IA più sofisticata.

“Non c’è modo per noi di stabilire standard internazionali sulla sicurezza e l’allineamento dell’IA senza un accordo tra questo insieme di attori”, ha affermato una persona presente ai colloqui. “E se sono d’accordo, è molto più facile portare con sé gli altri.”

I colloqui precedentemente non dichiarati sono un raro segno di cooperazione sino-americana nel mezzo di una corsa per la supremazia tra le due maggiori potenze nel campo delle tecnologie all’avanguardia come l’intelligenza artificiale e l’informatica quantistica. Attualmente, Washington ha bloccato le esportazioni statunitensi di chip ad alte prestazioni prodotti da aziende come Nvidia, necessari per sviluppare sofisticati software di intelligenza artificiale.

Ma il tema della sicurezza dell’IA è diventato un punto di interesse comune tra gli sviluppatori della tecnologia di entrambi i paesi, dati i potenziali rischi esistenziali per l’umanità.

Secondo un negoziatore presente, che ha voluto restare anonimo, gli incontri di Ginevra sono stati organizzati con la consapevolezza della Casa Bianca e dei funzionari governativi del Regno Unito e della Cina. La Casa Bianca ha rifiutato di commentare.

“La Cina sostiene gli sforzi per discutere la governance dell’IA e sviluppare quadri, norme e standard necessari basati su un ampio consenso”, ha affermato l’ambasciata cinese nel Regno Unito.

“La Cina è pronta a portare avanti comunicazione, scambio e cooperazione pratica con varie parti sulla governance globale dell’IA e a garantire che l’IA si sviluppi in modo da far avanzare la civiltà umana”.

I colloqui sono stati convocati dal Gruppo Shaikh, un’organizzazione di mediazione privata che facilita il dialogo tra gli attori chiave nelle regioni di conflitto, in particolare in Medio Oriente.

“Abbiamo visto l’opportunità di riunire i principali attori statunitensi e cinesi che lavorano sull’intelligenza artificiale. Il nostro obiettivo principale era sottolineare le vulnerabilità, i rischi e le opportunità associati all’ampia diffusione di modelli di intelligenza artificiale condivisi in tutto il mondo”, ha affermato Salman Shaikh, amministratore delegato del gruppo.

“Riconoscere questo fatto può, a nostro avviso, diventare il fondamento per il lavoro scientifico collaborativo, portando in ultima analisi a standard globali sulla sicurezza dei modelli di intelligenza artificiale”.

Le persone coinvolte nei colloqui hanno affermato che le società cinesi di intelligenza artificiale come ByteDance, Tencent e Baidu non hanno partecipato; pur essendo stata informata dei dettagli delle discussioni, Google DeepMind non ha partecipato.

Durante i colloqui, gli esperti di IA di entrambe le parti hanno discusso le aree di impegno nella cooperazione tecnica, nonché proposte politiche più concrete che hanno alimentato le discussioni intorno alla riunione del Consiglio di sicurezza delle Nazioni Unite sull’IA nel luglio 2023 e al vertice sull’IA del Regno Unito nel novembre dello scorso anno. anno.

Il successo degli incontri ha portato a piani per discussioni future che si concentreranno su proposte scientifiche e tecniche su come allineare i sistemi di intelligenza artificiale con i codici legali e le norme e i valori di ciascuna società, secondo il negoziatore presente.

Sono aumentate le richieste di cooperazione tra le principali potenze per contrastare l’ascesa dell’intelligenza artificiale.

A novembre, gli scienziati cinesi che lavorano sull’intelligenza artificiale si sono uniti agli accademici occidentali per chiedere controlli più severi sulla tecnologia, firmando una dichiarazione in cui avvertivano che l’intelligenza artificiale avanzata avrebbe rappresentato un “rischio esistenziale per l’umanità” nei prossimi decenni.

Il gruppo, di cui faceva parte Andrew Yao, uno dei più eminenti scienziati informatici cinesi, ha chiesto la creazione di un organismo di regolamentazione internazionale, la registrazione e il controllo obbligatori dei sistemi avanzati di intelligenza artificiale, l’inclusione di procedure di “spegnimento” istantaneo e che gli sviluppatori spendano il 30% del loro budget per la ricerca sulla sicurezza dell’intelligenza artificiale.

OpenAI ha confermato che un membro del suo team per gli affari globali ha partecipato ai colloqui di Ginevra. Anthropic e Cohere hanno rifiutato di commentare la loro partecipazione. L’Università di Tsinghua non ha risposto a una richiesta di commento.