Google sta sviluppando uno strumento di moderazione gratuito che i siti Web più piccoli possono utilizzare per identificare e rimuovere materiale terroristico, poiché la nuova legislazione nel Regno Unito e nell’UE obbliga le società Internet a fare di più per contrastare i contenuti illegali.

Il software è stato sviluppato in collaborazione con l’unità di ricerca e sviluppo del gigante della ricerca Jigsaw e Tech Against Terrorism, un’iniziativa sostenuta dalle Nazioni Unite che aiuta le aziende tecnologiche a controllare il terrorismo online.

“Ci sono molti siti web che semplicemente non hanno persone che si occupino dell’applicazione. È una cosa davvero laboriosa persino costruire gli algoritmi [and] allora hai bisogno di tutti quei revisori umani “, ha affermato Yasmin Green, amministratore delegato di Jigsaw.

“[Smaller websites] non voglio i contenuti di Isis lì, ma ce n’è una tonnellata dappertutto [them],” lei ha aggiunto.

La mossa arriva quando le società di Internet saranno costrette a rimuovere i contenuti estremisti dalle loro piattaforme o ad affrontare multe e altre sanzioni ai sensi di leggi come il Digital Services Act nell’UE, entrato in vigore a novembre, e il disegno di legge sulla sicurezza online del Regno Unito, che è dovrebbe diventare legge quest’anno.

La legislazione è stata promossa da politici e autorità di regolamentazione in tutta Europa, i quali sostengono che i gruppi Big Tech non si sono spinti abbastanza lontano per controllare i contenuti online.

Ma il nuovo regime normativo ha suscitato la preoccupazione che le start-up più piccole non siano attrezzate per conformarsi e che la mancanza di risorse limiterà la loro capacità di competere con le aziende tecnologiche più grandi.

“Ho notato un grande cambiamento nel [leading] le piattaforme diventano molto più efficaci nella moderazione e ciò spinge i contenuti terroristici e le affermazioni di bufale di Covid a farlo [other sites]”, ha aggiunto Green.

Un rapporto del Global Internet Forum to Counter Terrorism nel 2021 ha stimato che per ogni 10.000 post su Facebook, sei conterrebbero contenuti terroristici o estremisti. Su piattaforme più piccole, questa cifra potrebbe raggiungere i 5.000, o il 50% dei contenuti.

GIFCT, un’organizzazione non governativa fondata da Facebook, Microsoft, Twitter e YouTube nel 2017 per promuovere partnership tra molte piattaforme tecnologiche, sostiene il progetto di Jigsaw. L’organizzazione non governativa dispone di un database di contenuti terroristici condiviso tra i membri delle società tecnologiche, che i sistemi di moderazione possono utilizzare per rilevare i materiali esistenti.

Il 13 dicembre, il proprietario di Facebook e Instagram Meta ha lanciato un software open source che altre piattaforme possono implementare per abbinare i contenuti terroristici alle immagini o ai video esistenti nel database ed evidenziarli per un’urgente revisione umana.

Lo strumento di Jigsaw mira ad affrontare la fase successiva del processo e ad aiutare i moderatori umani a prendere decisioni sui contenuti contrassegnati come pericolosi e illegali. Inizierà i test con due siti senza nome all’inizio di quest’anno.

“Nella nostra esperienza, scopriamo che i terroristi cercano di sfruttare piattaforme più piccole in cui la moderazione dei contenuti è difficile a causa delle risorse limitate”, ha affermato Adam Hadley, direttore di Tech Against Terrorism.

Jigsaw ha circa 70 dipendenti, principalmente con sede negli uffici di Google a New York. Green, che è diventato amministratore delegato a luglio, ha affermato che la divisione in perdita non dovrebbe diventare redditizia.

“C’è la consapevolezza che c’è un ritorno commerciale a lungo termine. . . Google ha bisogno di un Internet più sano”, ha aggiunto Green. “Stiamo aiutando Google e Internet in un modo che offre valore anche se non è monetario”.