"Negli Usa gli estremisti interni utilizzano i social media e le piattaforme di gioco per inserire le loro idee estremiste nel mainstream, cercare di raggiungere un pubblico più vasto, e per radicalizzare, reclutare e mobilitare."
È l'allarme lanciato dal Government accountability office (Gao), l'ente di responsabilità governativo degli Usa, che in un recente rapporto individua alcuni usi pericolosi di piattaforme social e gaming e indica a Federal Bureau of Investigation (Fbi) e il Department of Homeland Security (Dhs) alcune raccomandazioni.
Il rapporto è stato commissionato dal governo Usa dopo che, negli ultimi anni, stando a quanto evidenziato da esperti e funzionari governativi, i contenuti sui social media e sulle piattaforme di gioco che promuovono l’estremismo violento domestico hanno influenzato diversi attacchi di alto profilo.
Al Gao è stato chiesto quindi di esaminare l'uso dei social media e delle piattaforme di gioco da parte degli estremisti violenti nazionali individuando gli scopi per i quali gli estremisti violenti nazionali utilizzano queste piattaforme, descrivendo il modo in cui le aziende selezionate riferiscono di mitigare i contenuti che promuovono l'estremismo violento domestico e valutando le contromisure sviluppare negli anni da Fbi e Dha.
Il Gao indica dunque quali sono i possibili rischi, sottolineando che gli esperti hanno notato che gli estremisti violenti generalmente utilizzano una varietà di piattaforme per scopi diversi, a seconda delle funzionalità disponibili, del pubblico e delle pratiche di moderazione dei contenuti.
Per stilare la sua relazione il Gao ha esaminato sia documentazione fornita da Fbi e da Dha che interviste a funzionari. Gao ha ottenuto opinioni da 16 esperti in materia identificati dalle Accademie nazionali delle scienze e da lavori precedenti, e ha sentito anche alcuni rappresentanti di cinque società di social media e giochi.
Secondo le società di social media e di gioco incontrate vengono già utilizzati vari strumenti di moderazione dei contenuti per identificare e rimuovere interventi che violano le politiche delle piattaforme in ambito di estremismo violento. Vengono utilizzati strumenti di machine learning per scansionare contenuti violenti, ma anche report da parte dei dipendenti. Tuttavia le aziende hanno riferito che queste operazioni sono influenzate da diversi fattori, in primis considerazioni finanziarie aziendali, ma anche diversità negli standard relativi al contenuto accettabile. Ad esempio, i contenuti vietati su una piattaforma potrebbero essere consentiti su un'altra.
Fbi e Dhs dispongono di diversi strumenti per condividere e ricevere informazioni dai social media e dalle società di gioco sulle minacce legate al terrorismo interno, ma nessuna delle due agenzie, rileva il Gao nella sua relazione, ha sviluppato strategie e obiettivi relativi a tali sforzi di condivisione delle informazioni. Senza una strategia o degli obiettivi, le agenzie potrebbero non essere pienamente consapevoli dell'efficacia delle loro comunicazioni con le aziende, o dell'efficacia dei loro meccanismi di condivisione delle informazioni al servizio delle missioni generali delle agenzie.
Tra le raccomandazioni evidenziate dal Gao, rivolte in particolare a Fbi e Dhs, c'è quindi lo sviluppo di strategie e obiettivi per condividere informazioni relative all'estremismo violento domestico con i social media e le società di gioco, in modo da contrastare più efficacemente, fin sul nascere, le varie minacce.