L'UE ha avviato un'indagine formale sull'xAI di Elon Musk in seguito alla protesta pubblica per il modo in cui il suo chatbot Grok diffondeva immagini sessualizzate di donne e bambini.
L'imprenditore miliardario è stato messo sotto esame dalle autorità di regolamentazione di tutto il mondo questo mese dopo che le persone hanno iniziato a utilizzare Grok per generare deepfake di persone senza consenso. Le immagini sono state pubblicate sul social network X e sull'app Grok separata, entrambi gestiti da xAI.
L'indagine, annunciata lunedì ai sensi del Digital Services Act dell'UE, valuterà se xAI abbia tentato di mitigare i rischi derivanti dall'implementazione degli strumenti di Grok su X e dalla proliferazione di contenuti che “potrebbero equivalere a materiale pedopornografico”.
“I deepfake sessuali non consensuali di donne e bambini sono una forma di degrado violenta e inaccettabile”, ha affermato Henna Virkkunen, capo della tecnologia dell'UE.
“Con questa indagine, determineremo se X ha adempiuto ai suoi obblighi legali ai sensi della DSA, o se ha trattato i diritti dei cittadini europei – compresi quelli di donne e bambini – come un danno collaterale del suo servizio”.
Se si scopre che l’azienda viola le regole, il blocco può imporre sanzioni fino al 6% del fatturato annuo mondiale. Un funzionario dell'UE ha affermato che non ci saranno misure provvisorie durante l'indagine.
L'indagine europea arriva dopo che l'autorità britannica di regolamentazione dei media Ofcom ha aperto un'indagine formale su Grok, mentre Malesia e Indonesia hanno bandito del tutto il chatbot.
A seguito della reazione negativa, xAI ha limitato l'uso di Grok agli abbonati paganti e ha affermato di aver “implementato misure tecnologiche” per impedire a Grok di generare determinate immagini sessualizzate.
Musk ha anche affermato che “chiunque utilizzi Grok per creare contenuti illegali subirà le stesse conseguenze come se caricasse contenuti illegali”.
Un funzionario dell’UE ha affermato che “con il danno a cui sono esposti gli individui soggetti a queste immagini, non siamo finora convinti di quali misure attenuanti la piattaforma abbia adottato per tenerlo sotto controllo”.
L'azienda, che lo scorso anno ha acquisito il sito di social media X di Musk, ha progettato i suoi prodotti di intelligenza artificiale in modo che abbiano meno “guardrail” di contenuti rispetto a concorrenti come OpenAI e Google. Musk ha definito il suo modello Grok “massima ricerca della verità”.
La Commissione ha multato X 120 milioni di euro nel dicembre dello scorso anno per aver violato le sue norme sulla trasparenza, fornendo un accesso insufficiente ai dati e il design ingannevole dei suoi segni di spunta blu per i conti verificati.
La multa è stata criticata da Musk e dal governo degli Stati Uniti, con l’amministrazione Trump che ha affermato che l’UE stava ingiustamente prendendo di mira gruppi americani e violando i principi della libertà di parola sostenuti dal movimento Maga.
X non ha risposto immediatamente a una richiesta di commento.