Sblocca gratuitamente il digest dell'editore
Il gruppo di abbinamenti online di incontri sta cercando di risolvere un problema secolare con il romanticismo: come convincere gli uomini a comportarsi meglio.
Il gruppo, che possiede piattaforme di matchmaking Tinder e cerniera, sta usando l'intelligenza artificiale per rilevare segnali che qualcuno potrebbe inviare un messaggio che è offensivo o eccessivamente sessuale, come parte della sua spinta per allenare gli utenti in una condotta più cavalleresco online.
Per gli “uomini soprattutto”, una “parte importante del nostro approccio di sicurezza si concentra sulla guida del cambiamento comportamentale in modo da poter rendere le esperienze di appuntamenti più sicure e più rispettose”, ha affermato Yoel Roth, capo della fiducia e della sicurezza.
Quando un utente digita un messaggio “fuori colore”, le app di Match genereranno un prompt automatizzato che chiede se sono sicuri di voler inviarlo. “Lo consideriamo internamente come” troppo, troppo presto “”, ha detto Roth. Un quinto di persone che ricevono questi suggerimenti riconsiderano i loro messaggi, secondo Match.
Gli sforzi per arruolare l'intelligenza artificiale per aiutare a migliorare il comportamento degli appuntamenti arrivano come i tre più grandi marchi di matchmaking online a livello globale-Tinder e rivali di Match Badoo e Bumble-stanno perdendo gli utenti a causa della cosiddetta fatica dell'app di appuntamenti tra gli utenti della Generazione Z.
Ciò ha visto i gruppi di appuntamenti online lanciare una serie di nuove funzionalità, tra cui prodotti di accertamento degli amici e di costruzione della comunità, nel tentativo di aiutare a invertire un rallentamento post-pandemico degli utenti.
I sondaggi suggeriscono che il “burnout” sulle piattaforme di matchmaking è particolarmente prevalente tra le giovani donne, un gruppo che l'amministratore delegato di Match Bernard Kim l'anno scorso ha descritto come “letteralmente il demografico più critico per tutte le app di appuntamenti”.
“Nel contesto degli appuntamenti online, in cui i giovani crescono ed entrano nel mercato degli appuntamenti [ . . .] C'è una vera necessità e opportunità per aiutare le persone a comprendere le norme e i comportamenti che vanno d'accordo con appuntamenti rispettosi e consensuali “, ha affermato Roth.
Roth si è unito alla partita nel marzo dello scorso anno, 16 mesi dopo aver subito una rottura molto pubblica dalla sua precedente compagnia Twitter, ora conosciuta come X, dove ha lavorato per più di sette anni a capo della squadra che ha vietato l'account del presidente americano Donald Trump nel gennaio 2021 seguendo l'attacco al Campidoglio.
Si è dimesso solo due settimane dopo l'acquisizione di Twitter da parte di Elon Musk nell'ottobre 2022, scrivendo al New York Times che non poteva rimanere in un'azienda in cui le politiche erano “definite dall'editto”. Poco dopo, Roth divenne il bersaglio di un diluvio di molestie, che seguì le critiche dallo stesso Musk.
Come capo della sicurezza di Match, Roth dovrà ancora una volta fare i conti con Trump e il suo stretto muschio confidente.
L'impatto della nuova amministrazione americana ha già iniziato a influire sulle politiche di sicurezza online nei principali social network. Meta, che possiede Facebook e Instagram, il mese scorso si è trasferito per porre fine al suo programma di controllo dei fatti e indebolire le politiche del linguaggio dell'odio come parte di una revisione di “libertà di parola”.
Roth ha insistito sul fatto che le elezioni di Trump non avrebbero “significativamente cambiato” l'approccio di Match alla fiducia e alla sicurezza, in parte a causa del ruolo distinto dell'azienda nel formare connessioni individuali.
“Non stiamo pianificando alcuna modifica delle nostre politiche o dei nostri prodotti e, in definitiva, raddopmo la sicurezza”, ha detto Roth. “Non lo stiamo solo facendo perché pensiamo che sia la cosa giusta da fare moralmente. Lo stiamo facendo perché sappiamo che è la cosa giusta dal punto di vista aziendale. ”
Oltre a modellare la condotta di Daters, Roth ha affermato che il suo lavoro era anche sempre più concentrato sulla lotta con sofisticate truffe organizzate.
La Federal Trade Commission degli Stati Uniti stima che i consumatori l'anno scorso abbiano perso $ 823 milioni per truffe romantiche e avverte che questi schemi – sebbene meno prevalenti rispetto ad altri tipi di truffe imposter – sono spesso particolarmente costosi per gli individui.
Mentre i rapidi progressi nell'intelligenza artificiale hanno sollevato campane di allarme sul potenziale per i profondi e i robot automatizzati per accelerare le frodi online, Roth ha affermato che le maggiori minacce che gli utenti di app di appuntamenti devono affrontare provengono ancora dagli umani.
L'attività di spam dei robot era ancora relativamente facile da bloccare, ha detto, ma gli squilli criminali organizzati dietro truffe “massicciamente redditizia” avevano sviluppato tecniche sempre più sofisticate per eludere il rilevamento.
Questi crimini generalmente coinvolgono “call center pieni di persone” – spesso persone “che sono state rapite o trafficate” – in paesi come Myanmar, Laos e Cambogia.
“Non stiamo parlando di robot e account falsi, ma in realtà persone reali, usando telefoni reali, impegnandosi in conversazioni reali tipizzate manualmente”, ha detto Roth.