Il sito di social media Pinterest ha detto allo staff di peccare dalla parte della “moderazione dei contenuti più leggera” di post potenzialmente dannosi nel momento in cui una ragazza britannica di 14 anni si è tolta la vita dopo aver visto contenuti riguardanti suicidio e autolesionismo, secondo un’inchiesta .

Jud Hoffman, capo delle operazioni della community di Pinterest, ha dichiarato giovedì al Coroner’s Court di North London che la guida dell’azienda era “in caso di dubbio, inclinarsi verso . . . moderazione dei contenuti più leggeri” nel novembre 2017, quando Molly Russell di Harrow, Londra, ha posto fine alla sua vita.

Russell è morto dopo aver visualizzato un grande volume di contenuti grafici online relativi all’autolesionismo e al suicidio su siti di social media tra cui Pinterest e Instagram di proprietà di Meta.

Suo padre, Ian Russell, ha detto giovedì il terzo giorno dell’inchiesta che credeva che gli algoritmi dei social media avessero spinto sua figlia verso post grafici e inquietanti e incolpato i siti tecnologici di aver contribuito alla sua morte.

“Credo che i social media abbiano aiutato a uccidere mia figlia e credo che troppi di quei contenuti siano ancora lì”, ha detto.

L’udienza di due settimane punta i riflettori sul ruolo svolto dagli algoritmi dei social media nello spingere contenuti angoscianti verso gli utenti che li cercano e ha acceso il dibattito sulla necessità di una migliore regolamentazione delle aziende tecnologiche.

Dando prove giovedì, Hoffman ha affermato che la politica di Pinterest nel 2017 era quella di nascondere le immagini che “possono essere considerate inquietanti” ma non di rimuoverle. L’azienda ha rimosso solo immagini o post che promuovevano comportamenti dannosi o autolesionismo.

“Non è ciò che è a posto ora, ma è ciò che era a posto in quel momento”, ha detto Hoffman.

L’inchiesta ha sentito che il contenuto che Pinterest aveva raccomandato a Molly Russell includeva l’immagine di un rasoio insanguinato. Secondo l’avvocato della famiglia, Oliver Sanders KC, le sono state inviate via email “dieci spille per la depressione che potrebbero piacerti” dalla piattaforma. Dopo la sua morte ha continuato a ricevere e-mail da Pinterest, inclusa una intitolata “nuove idee per te nella depressione”.

Hoffman ha detto: “Sono profondamente dispiaciuto che sia stata in grado di accedere ad alcuni dei contenuti” che ha visualizzato, aggiungendo, quando è stato pressato da Sanders, che non ne avrebbe mostrati alcuni ai suoi stessi figli.

“Lo trovo preoccupante, lo dirò”, ha detto.

Hoffman ha affermato che le linee guida della community di Pinterest e gli strumenti di applicazione sono stati rafforzati nel 2019 per rimuovere in modo proattivo i contenuti dannosi dal sito, aggiungendo che “la tecnologia che abbiamo in atto ora semplicemente non era disponibile per noi allora”.

L’inchiesta ha appreso che al momento della morte di Russell, la “tecnologia di visione artificiale” di Pinterest veniva addestrata a riconoscere le immagini di mobili, ma non riusciva a individuare i modelli in altre immagini.

Ian Russell ha affermato che Pinterest ha chiaramente apportato miglioramenti alla moderazione dei contenuti, ma ha affermato che le piattaforme tecnologiche devono andare molto oltre per mantenere gli utenti al sicuro. “Se un quattordicenne riesce a trovare un modo per localizzare quel contenuto . . . Trovo davvero difficile credere che alcuni dei marchi globali più potenti del mondo. . . non riesco a trovare un modo per . . . aiutare a impedire che il contenuto raggiunga le persone vulnerabili”, ha affermato.

Hoffman ed Elizabeth Lagone, responsabile della salute e del benessere di Meta, sono stati chiamati a comparire di persona dopo che il medico legale ha dichiarato che non erano autorizzati a testimoniare tramite collegamento remoto.

L’udienza di alto profilo arriva quando il passaggio in parlamento del disegno di legge sulla sicurezza online, che mira a costringere le società Internet a mantenere le loro piattaforme sicure, è stato sospeso. Si dice che Liz Truss, il nuovo primo ministro, stia valutando la possibilità di allentare una clausola controversa che renderebbe le piattaforme responsabili della rimozione di contenuti “legali ma dannosi”, come il bullismo.