Ofcom, l'ente regolatore dei media britannico, ha minacciato Grok, il chatbot AI di X, con un divieto o una multa multimilionaria dopo aver avviato un'indagine formale sui deepfake sessualizzati di donne e bambini creati sulla piattaforma di Elon Musk.
Lunedì, l’organismo di vigilanza dei media ha espresso preoccupazione sul fatto che il chatbot basato sull’intelligenza artificiale fosse utilizzato per potenziali “abusi di immagini intime” e “materiale pedopornografico”.
Un portavoce di Ofcom ha dichiarato: “Le segnalazioni di Grok utilizzato per creare e condividere immagini intime illegali e non consensuali e materiale pedopornografico su X sono state profondamente preoccupanti.
“Le piattaforme devono proteggere le persone nel Regno Unito dai contenuti illegali nel Regno Unito, e non esiteremo a indagare dove sospettiamo che le aziende stiano venendo meno ai loro doveri, soprattutto dove c'è il rischio di danni ai bambini.”
Ofcom la scorsa settimana ha lanciato una rapida revisione su X dopo che Grok è stato utilizzato per generare migliaia di immagini sessualizzate di donne che indossavano lingerie e bikini senza il loro consenso, nonché immagini estreme di ragazze adolescenti e bambini.
Ai sensi dell'Online Safety Act, Ofcom ha affermato che può rivolgersi ai tribunali per bloccare la piattaforma di Musk o multare il gruppo per un importo superiore a 18 milioni di sterline o fino a un decimo delle sue entrate globali, se rileva che X non ha fatto abbastanza per impedire la visione di contenuti illegali o consentire la visione di materiale maggiore di 18 anni ai minori.
L’indagine esaminerà sei aree, tra cui se X ha effettuato le necessarie valutazioni dei rischi, se ha intrapreso azioni per rimuovere rapidamente le immagini e se i bambini potrebbero aver visto il contenuto.
La mossa arriva prima di una dichiarazione della Camera dei Comuni del segretario alla tecnologia del Regno Unito Liz Kendall lunedì pomeriggio. I ministri avevano precedentemente affermato che il governo avrebbe sostenuto la decisione dell'Ofcom.
Il segretario agli affari Peter Kyle ha affermato che il governo sosterrà Ofcom contro X, anche se la piattaforma fosse limitata o bloccata nel Regno Unito.
Kyle ha detto alla BBC che è “spaventoso” che X non abbia testato adeguatamente Grok, dato che può manipolare le immagini e il suo potenziale impatto sulle donne.
“Questo governo e Liz Kendall, il ministro della tecnologia, sostengono pienamente Ofcom nella loro capacità di farlo”, ha detto Kyle.
Ha aggiunto: “Il fatto di aver incontrato proprio ieri una donna ebrea che ha trovato un’immagine di se stessa in bikini fuori Auschwitz generata dall’intelligenza artificiale e messa online mi ha fatto venire la nausea”.
La mossa di avviare un'indagine formale è il passo successivo nel processo normativo di Ofcom per raccogliere prove per avviare una causa contro X, ma deluderà alcuni politici che avrebbero voluto azioni più drastiche o l'uso di poteri di emergenza.
La Malesia e l'Indonesia sono stati i primi paesi al mondo a bloccare l'accesso a Grok nel fine settimana a causa del timore che il chatbot potesse essere utilizzato per produrre immagini pornografiche e non consensuali che coinvolgono donne e bambini.
È probabile che la mossa susciti una risposta rabbiosa da parte di Musk, il proprietario di X, che ha già accusato il governo britannico di cercare di sopprimere la libertà di parola, così come da parte dell'amministrazione di Donald Trump.
Sarah Rogers, sottosegretario americano alla diplomazia pubblica, ha accusato il Regno Unito di “contemplare un X ban in stile russo” questo fine settimana.
La scorsa settimana, X ha parzialmente limitato la possibilità di generare immagini di Grok da parte degli utenti gratuiti, ma ha lasciato molti indignati per il fatto che una manipolazione così estrema delle immagini fosse ancora disponibile per i suoi clienti paganti.
Anche i ministri del Regno Unito sono sotto pressione affinché rimuovano le comunicazioni ufficiali dalla piattaforma.
X è stato contattato per un commento.