Agiresti su una punta apparente di Martin Wolf, il veterano commentatore di economia del FT?
Le sue funzionalità di analisi di esperti in molti video finanziari legittimi pubblicati sugli account di social media di FT, ma i truffatori hanno generato una serie di convincenti immagini video di DeepFake su Instagram in cui sembra offrire consulenza di investimento.
“In questo momento, questi tre titoli sono a una svolta critica e potrebbero vedere guadagni significativi nei prossimi due mesi”, afferma uno sguardo convincente, ma manipolato digitalmente Wolf, in una pubblicità falsa che invita le persone a unirsi al suo “gruppo di investimenti Whatsapp esclusivo” per saperne di più.
Meta, proprietario di WhatsApp e Instagram, ha detto al FT che ha rimosso e disabilitato gli annunci, ma i lettori sarebbero saggi a fare attenzione a più truffe di questa natura mentre le truffe di Deepfake diventano mainstream.
Cosa c'è dietro l'ascesa in profonde truffe?
La rapida ascesa dell'IA generativa (intelligenza artificiale). La tecnologia necessaria per creare video e immagini sintetiche è economica, prontamente disponibile e facile da utilizzare per i truffatori per creare contenuti dall'aspetto convincente.
Deepfakes di celebrità tra cui Taylor Swift, Elon Musk e le stelle di Dragons 'Den sono stati creati per promuovere tutto, dagli utensili da cucina alle truffe crittografiche e nelle pillole dietetiche. L'anno scorso, un uomo britannico ha perso £ 76.000 a causa di una truffa in profondità in cui Martin Lewis, fondatore di Money Saving Expert, sembrava promuovere Un sistema di investimento Bitcoin inesistente.
I truffatori hanno ora un vantaggio cruciale, ha affermato Nick Stapleton, presentatore della premiata serie BBC Intercettori truffa e autore del libro Come battere i truffatori.
“I DeepFakes stanno funzionando come un incantesimo per i truffatori, perché molti utenti di social media semplicemente non sanno di cosa sia in grado di generare AI quando si tratta di realizzare video convincenti di imitazione”, ha detto. “Vedono un video come Deepfake di Martin Wolf e credono che sia reale perché non hanno le informazioni per metterlo in discussione.”
Lewis, che afferma di avere lo “strano riconoscimento” di essere il volto più scammato in Gran Bretagna, ha messo in guardia sull'aumento delle pubblicità di Deepfake su ITV Buongiorno Gran Bretagna Questa settimana.
“Non mi fiderei di una pubblicità con una celebrità se lo hai visto solo sui social media se parla di investimenti o diete o di qualsiasi altra aree di truffa”, ha detto. “Se mi ha fatto entrare, non faccio mai pubblicità, quindi è un falso. Tutto ciò che ti affretta a fare soldi … falsi, falsi, falsi, non fidarti di loro, sono criminali.”
Quali altre forme possono prendere i video di DeepFake?
Le celebrità non sono le uniche le cui immagini possono essere clonate. Gli esperti di frode affermano che i DeepFakes vengono sempre più utilizzati nelle video chiamate per impersonare il personale senior di organizzazioni aziendali, convincendo altri membri del personale a elaborare pagamenti che si rivelano fraudolenti.
L'anno scorso, la società di ingegneria del Regno Unito Arup ha perso $ 25 milioni (£ 20 milioni) quando un membro dello staff di Hong Kong è stato persuaso a effettuare 15 trasferimenti bancari dopo che i truffatori hanno clonato digitalmente il Chief Financial Officer dell'azienda in una videoconferenza.
Gli influencer online che pubblicano video e immagini dei loro volti su piattaforme di social media sono particolarmente vulnerabili, poiché più contenuti di un individuo c'è per formare l'IA, più realistica sarà il copycat.
Man mano che la tecnologia avanza, i video di DeepFake hanno il potenziale per rendere le truffe romantiche ancora più convincenti e potrebbero potenzialmente essere utilizzate per manipolare immagini di amici e familiari che fanno richieste di denaro.
Cosa dovrebbero fare di più le piattaforme di social media?
Mentre le piattaforme di social media affermano che utilizzeranno il riconoscimento facciale per individuare e eliminare annunci falsi, non devono stare svegli a lungo per guadagnare trazione.
Come ha detto lo stesso Martin Wolf: “Com'è possibile che un'azienda come Meta con le sue enormi risorse, compresi gli strumenti di intelligenza artificiale, non possa identificare e abbattere automaticamente tali frodi, in particolare se informata della loro esistenza?”
Meta ha detto a FT: “È contro le nostre politiche impersonare i personaggi pubblici e abbiamo rimosso e disabilitato gli annunci, i conti e le pagine che sono state condivise con noi.
“I truffatori sono implacabili e evolvono continuamente le loro tattiche per cercare di eludere il rilevamento, motivo per cui sviluppiamo costantemente nuovi modi per rendere più difficile per i truffatori ingannare gli altri, incluso l'uso della tecnologia di riconoscimento facciale”, ha aggiunto Meta.
“Il semplice fatto è che quando questi video sono inseriti sui social media come annunci, passano attraverso un processo di verifica”, ha detto Stapleton. “Se artisti del calibro di Meta avrebbero semplicemente preso in considerazione l'idea di investire più dei loro grandi profitti in un migliore controllo e una migliore moderazione dei post generali, ciò diventerebbe meno un problema molto rapidamente.”
In base alla nuova legge sulla sicurezza online del Regno Unito, le aziende tecnologiche devono fissare obiettivi di performance per rimuovere rapidamente il materiale illegale quando ne diventano a conoscenza e testare gli algoritmi per rendere i contenuti illegali più difficili da diffondere.
Come puoi individuare un video è probabilmente un profondo?
La punta superiore di Stapleton per individuare le immagini manipolate digitalmente è guardare la bocca della persona che presumibilmente parla sulla telecamera: sta davvero facendo le forme delle parole? Successivamente, guarda la loro pelle: è piatta nella consistenza, senza definizione o rughe? E guarda i loro occhi: sbattono le palpebre o troppo?
Infine, ascolta il tono della loro voce. “Le lotte dell'IA con la gamma di voci umane, quindi i paesi profondi tenderanno a sembrare molto piatti e persino di tono e mancanza di emozioni”, ha detto.
Il video Deepfake del lupo di FT non suonava molto come lui, ma poiché così tanti utenti di social media guardano video su silenziosi e leggono le didascalie, i truffatori ottengono un ulteriore vantaggio.
Infine, sii particolarmente diffidente nelle pubblicità sui social media. Se non riesci a trovare le informazioni riportate da nessun'altra parte, è quasi sicuramente un falso.
Cosa fare se sei stato impersonato online
Segnala la truffa al social media, utilizzando gli strumenti di reporting della piattaforma. Inoltre, fai sapere ai tuoi amici e follower dell'account falso per impedire loro di essere ingannati.
Se sei stato vittima di questa truffa Deepfake o continui a vedere il video DeepFake di Martin Wolf su piattaforme di social media, ti preghiamo di condividere la tua esperienza con FT FT [email protected]