L’assistenza clienti basata sull’intelligenza artificiale è diventata l’impostazione predefinita per quasi tutte le principali piattaforme tecnologiche. Se riscontri un problema, appare un chatbot e per le domande di routine funziona davvero. Il problema è quando le aziende concedono l’accesso all’intelligenza artificiale alle funzioni sensibili dell’account prima che i guardrail siano pronti. Questo è esattamente quello che è successo qui. Gli hacker hanno sfruttato il bot di supporto Meta AI durante il fine settimana per dirottare una serie di account Instagram di alto profilo e il metodo era di una semplicità quasi imbarazzante.
Tutto ciò di cui un hacker aveva bisogno era una VPN impostata in una posizione vicino all'account di destinazione. Da lì, hanno chiesto al bot di supporto Meta AI di modificare l'indirizzo email sull'account e lui ha obbedito. Ha inviato un codice di verifica direttamente all'aggressore. Reimpostazione della password eseguita, proprietario originale bloccato. Tra gli account colpiti: il nome archiviato della Casa Bianca di Obama, il sergente capo della forza spaziale americana e il marchio di bellezza Sephora. Secondo i rapporti, i canali Telegram monetizzavano silenziosamente la falla da marzo, ben prima che diventasse pubblica.
Come è successo
Meta ha lanciato l'assistente di supporto AI su tutti gli account Facebook e Instagram a marzo. Il bot potrebbe reimpostare le password e gestire altre funzioni sensibili dell'account. I controlli di identità si basavano in gran parte sulla posizione, che una VPN rende banale falsificare. Pertanto, quando il bot ha richiesto un controllo dei selfie, gli aggressori lo hanno semplicemente aggirato con immagini generate dall’intelligenza artificiale.
Ciò che ha peggiorato le cose è che le vittime non avevano nessun posto a cui rivolgersi. Meta ha tagliato circa 8.000 posti di lavoro a maggio come parte della sua ristrutturazione basata sull’intelligenza artificiale, quindi il sostegno umano era già scarso sul terreno. Lo stesso bot che ha consentito l’accesso agli hacker non è riuscito nemmeno ad aiutare i proprietari a uscire. Il vicepresidente delle comunicazioni di Meta, Andy Stone ha confermato su X che la società ha risolto il problemama Meta non ha ancora detto quanti account siano stati colpiti. Abbiamo già visto i guardrail dell'IA fallire in modi simili, e non è mai una bella impressione.
Questo però brucia un po' di più. Meta ha investito miliardi nell’intelligenza artificiale e si posiziona come uno dei leader nel settore. Farsi sconfiggere da un hacker con una VPN e una richiesta educata al proprio bot di supporto Meta AI è quanto di più imbarazzante si possa immaginare.