xAI di Elon Musk ha limitato la funzione di generazione di immagini sul suo modello Grok AI in risposta a una protesta per la proliferazione di false immagini sessualizzate sulla piattaforma di social media X.
L'imprenditore miliardario è stato messo sotto esame la scorsa settimana dopo che migliaia di persone hanno iniziato a utilizzare Grok per generare deepfake sessualizzati di donne e, in alcuni casi, bambini, condividendoli su X e sull'app Grok separata, entrambi gestiti dalla start-up xAI di Musk.
Dopo aver subito pressioni da parte dei governi di tutto il mondo, inclusi divieti e minacce di azioni legali, la società mercoledì ha annunciato di aver “implementato misure tecnologiche” per impedire a Grok di generare determinate immagini sessualizzate.
Ha segnato una rara ritirata da parte dell'uomo più ricco del mondo, che ha spinto affinché i suoi prodotti di intelligenza artificiale avessero meno “guardrail” di contenuti rispetto a concorrenti come OpenAI e Google in linea con i suoi ideali di “libertà di parola”, ma anche nel tentativo di aumentare i download della sua app Grok, secondo gli addetti ai lavori.
xAI ha detto in un post su X che Grok non avrebbe più consentito “la modifica di immagini di persone reali in abiti rivelatori come i bikini”.
Anche la generazione di immagini di “persone reali in bikini, biancheria intima e abiti simili tramite l’account Grok e in Grok in X” sarà bloccata nelle giurisdizioni in cui è illegale, ha aggiunto.
La ritirata è arrivata dopo che il governo del Regno Unito ha annunciato che avrebbe accelerato l’applicazione di nuovi poteri rendendo reato penale la creazione di immagini intime non consensuali, anche con l’intelligenza artificiale.
Mercoledì scorso, il primo ministro britannico Sir Keir Starmer ha affermato che la piattaforma di social media di Musk aveva indicato ai funzionari governativi che stava agendo per rispettare le leggi sulla sicurezza online del paese bloccando la generazione di immagini sessuali non consensuali.
“Abbiamo chiarito a X che queste immagini sono illegali, riprovevoli e devono essere affrontate”, ha detto Starmer. “Sono stato informato che X sta agendo per garantire il pieno rispetto della legge britannica. Se è così, è il benvenuto, ma non faremo marcia indietro: devono agire.”
La scorsa settimana Musk aveva respinto le minacce del governo britannico di vietare la piattaforma a causa della questione, affermando di volere “qualsiasi scusa per la censura” e sostenendo che X veniva individuato laddove altri rivali offrivano capacità simili.
Ma in un post su X mercoledì, Musk ha detto: “Quando gli viene chiesto di generare immagini, si rifiuterà di produrre qualcosa di illegale, poiché il principio operativo di Grok è obbedire alle leggi di qualsiasi paese o stato”.
Ha aggiunto che “non era a conoscenza di alcuna immagine di minorenni nudi generata da Grok. Letteralmente zero”.
La questione ha suscitato minacce di multe e divieti nell'UE, nel Regno Unito e in Francia, e l'annuncio di un'indagine da parte dell'autorità di regolamentazione britannica Ofcom. Grok è stato bandito anche in Indonesia e Malesia.
Mercoledì il procuratore generale della California ha affermato che lo stato americano ha aperto un’indagine su Grok e xAI “su immagini di donne e bambini spogliati e sessuali”.
Mercoledì un portavoce della Commissione europea ha affermato che l'UE “ha preso atto delle misure aggiuntive che X sta adottando per vietare a Grok di generare immagini sessualizzate di donne e bambini” e ha aggiunto che “se questi cambiamenti non dovessero essere efficaci, la Commissione non esiterà a utilizzare l'intera gamma di strumenti di applicazione del DSA”, riferendosi al suo Digital Services Act, che controlla i contenuti online.
Venerdì scorso, xAI ha dichiarato che avrebbe limitato l'uso del suo generatore di immagini Grok solo agli abbonati paganti. Mercoledì, X ha scritto che questa decisione “aggiunge un ulteriore livello di protezione contribuendo a garantire che le persone che tentano di abusare dell'account Grok per violare la legge o le nostre politiche possano essere ritenute responsabili”.
Ha aggiunto: “Agiamo per rimuovere contenuti violativi ad alta priorità, incluso materiale pedopornografico (CSAM) e nudità non consensuale, intraprendendo azioni appropriate contro gli account che violano le nostre X Rules”.
Martedì scorso, Grok sembrava ignorare le richieste di un certo numero di utenti X in tutto il mondo di generare deepfake sessualizzati, tuttavia alcuni venivano ancora generati, secondo i dati forniti dal think-tank Institute for Strategic Dialogue.
Il numero di richieste di deepfake non consensuali è esploso all’inizio di gennaio, in particolare dopo che Musk ha condiviso un’immagine falsa di se stesso in bikini.
È arrivato anche perché xAI ha registrato un turnover nei suoi team di sicurezza. Nella prima settimana di dicembre, il capo della sicurezza del prodotto di xAI Vincent Stark ha lasciato l'azienda, insieme a uno dei suoi principali ricercatori sulla sicurezza dell'intelligenza artificiale Norman Mu e Alex Chen, che hanno supervisionato la messa a punto della personalità e del comportamento di Grok.