Mar. Mar 5th, 2024

Un alto funzionario del governo di Narendra Modi ha avvertito che le società di social media saranno ritenute responsabili dei “deepfake” generati dall’intelligenza artificiale e pubblicati sulle loro piattaforme in conformità con “regole molto chiare ed esplicite” mentre l’India si prepara alle elezioni generali di quest’anno.

Rajeev Chandrasekhar, ministro di Stato per l’elettronica e l’informatica, ha affermato che l’India si è “svegliata prima” rispetto ad altri paesi al pericolo rappresentato dai deepfake a causa delle dimensioni della sua popolazione online. Ben 870 milioni di persone sono connesse a Internet mentre 600 milioni utilizzano i social media su una popolazione totale di 1,4 miliardi.

“Siamo la più grande democrazia del mondo [and] siamo ovviamente profondamente preoccupati per l’impatto degli attori transfrontalieri che utilizzano la disinformazione, utilizzano i deepfake per causare problemi alla nostra democrazia”, ha detto Chandrasekhar al MagicTech. “Siamo stati attenti a questo prima della maggior parte dei paesi perché ha un impatto negativo su di noi molto più che sui paesi più piccoli”.

L’avvertimento sui falsi arriva dopo che Modi, che sta cercando di essere rieletto per un terzo mandato in un sondaggio parlamentare previsto per aprile e maggio, ha affrontato l’argomento in recenti osservazioni, e mentre l’India esercita il suo peso normativo sulle aziende che servono uno dei più grandi del pianeta popolazioni di utenti di Internet.

I ricercatori hanno avvertito che i deepfake – immagini, video e audio creati da strumenti di intelligenza artificiale a basso costo in grado di ricreare in modo convincente gli esseri umani – rappresentano una minaccia crescente per le democrazie. Clip false sono già state utilizzate per influenzare la politica e le elezioni nel Regno Unito, Bangladesh, Nigeria, Sudan e Slovacchia.

Le piattaforme di social media nel frattempo hanno elaborato regole per combattere i deepfake. Meta, X e TikTok ora richiedono che i media manipolati ingannevolmente vengano rimossi o etichettati. Meta e Google hanno recentemente annunciato politiche che richiedono alle campagne di rivelare se le loro pubblicità politiche sono state alterate digitalmente.

Alcuni paesi, ad esempio, stanno esplorando la possibilità di reprimere i deepfake nel contesto della pornografia e della politica. Negli Stati Uniti, ad esempio, non esistono leggi federali che regolano esplicitamente questa tecnologia. Tuttavia, lo sono più legislatori statali perseguire legislazione per contrastare i deepfake politici.

Nuova Delhi, in un avviso pubblicato il 26 dicembre e inviato ai social media e alle piattaforme di messaggistica attive in India, tra cui YouTube, X, WhatsApp, Telegram, Snap e il social network locale Koo, ha chiesto che le aziende tecnologiche rispettino la legge indiana sui contenuti illegali e renderlo chiaro nei loro termini di servizio e negli accordi con gli utenti.

Le norme informatiche dell’India, redatte nel 2021, vietano anche i contenuti ritenuti dannosi per i bambini, che minacciano la sicurezza nazionale o diffondono disinformazione, oltre ad altre restrizioni alla libertà di parola.

La direttiva avverte le piattaforme di “identificare e rimuovere la disinformazione palesemente falsa, non vera o di natura fuorviante e che impersona un’altra persona, comprese quelle create utilizzando deepfake”.

“Il nostro approccio ai deepfake, dopo che il primo ministro ha attirato l’attenzione su questo, è quello di dire agli intermediari, attirare la loro attenzione sul fatto che la legge del paese vieta a qualsiasi utente sulla loro piattaforma di ospitare disinformazione, compresi i deepfake, e imporre un obbligo nei confronti di piattaforme che, se un utente lo facesse, quell’utente violerebbe la legge”, ha detto Chandrasekhar.

Ha aggiunto: “Consentendo all’utente di continuare a pubblicare quel contenuto, la piattaforma violerebbe la legge”.

Ha detto che le persone hanno commesso l’errore di confondere gli Stati Uniti, dove i diritti del primo emendamento erano “assoluti e incondizionati”, con il resto del mondo, compresa l’India.

“Stiamo effettivamente creando una forma di regolamentazione tecnologica che si colloca tra gli Stati Uniti e l’Europa”, ha detto il funzionario. “Gli Stati Uniti lasciano tutto ai mercati; L’Europa lo fa in modo completamente orientato al cittadino; e in sostanza stiamo dicendo: “Amiamo l’innovazione, la incoraggeremo, ma vogliamo proteggere le nostre piccole imprese e i nostri utenti”.

Nelle elezioni più recenti in India, tenutesi nel 2014 e nel 2019, i social media hanno svolto un ruolo importante nella campagna condotta e vinta dal partito al potere Bharatiya Janata. Si prevede che il BJP di Modi vincerà le elezioni di quest’anno nonostante un’opposizione debole e divisa.

L’India è un mercato sensibile per le aziende della Silicon Valley poiché l’Indian National Congress ha accusato piattaforme come YouTube di “shadowbanning” alcuni dei loro contenuti, come i discorsi del deputato Rahul Gandhi, mentre gruppi della società civile hanno affermato che le aziende tecnologiche si piegano troppo facilmente a Modi ordini di rimozione del governo. Negli ultimi anni, alle piattaforme social è stato ordinato di rimuovere i post critici, ad esempio, sulla gestione della pandemia di coronavirus da parte del governo indiano e hanno bloccato i critici di Modi.

L’India è uno dei più grandi mercati globali per le piattaforme di Meta come WhatsApp e Facebook, così come per Google e il suo canale video YouTube. Gruppi della società civile accusano il governo Modi di eccessivo zelo nel controllo di Internet, che secondo loro fa parte della più ampia repressione della libertà di espressione da parte dell’India.

In una lettera inviata questo mese a Chandrasekhar e ad altri funzionari responsabili della definizione della politica informatica del governo, la Internet Freedom Foundation, un gruppo non governativo, ha affermato che potrebbero “influenzare in modo sproporzionato discorsi politicamente scomodi o controversi e potenzialmente portare a una censura arbitraria”.

Chandrasekhar ha respinto le accuse di un’eccessiva portata del governo, affermando che “nessuno può sostenere che materiale pedopornografico o falsificazioni profonde o contenuti pedofili o che violino brevetti costituiscano una violazione dei diritti di qualcuno”.

“L’India è alla guida di questa carica, in cui alle piattaforme viene chiesto di assumersi sempre più responsabilità e di essere più responsabili per qualsiasi cosa illegale accada sulla loro piattaforma”, ha affermato.