Il progetto Gems, guidato dal Trinity College, ha sviluppato Watchtower, strumento di IA contro il reclutamento online.
Alcuni dei videogiochi più popolari al mondo vengono sfruttati per radicalizzare i più giovani, e le piattaforme legate al gaming si sono trasformate, in alcuni casi, in un terreno di reclutamento per gruppi terroristici ed estremisti violenti. È da questa constatazione che prende le mosse Gems (Gaming Ecosystem as a Multilayered Security Threat), progetto finanziato dall’Unione europea che ha studiato come le persone più vulnerabili vengano individuate e agganciate negli spazi di gioco online.
Il risultato più concreto del lavoro, guidato dal Trinity College, è Watchtower, una piattaforma di moderazione supportata dall’intelligenza artificiale pensata per gli analisti delle forze dell’ordine. Il sistema monitora chat pubbliche come quelle di YouTube Live, Twitch, Reddit e Discord, oltre ad altri ambienti di gioco o contigui al gaming, con l’obiettivo di riconoscere la presenza estremista e interrompere i tentativi di reclutamento in tempo reale, sempre sotto supervisione umana. Lo strumento è attualmente in fase di test in condizioni operative e viene perfezionato insieme alla polizia irlandese e ad altri partner europei, che possono valutarlo direttamente su dati pubblici reali.
Secondo quanto riportato dalla Direzione generale Migrazione e Affari interni della Commissione europea, che ha presentato il progetto, questi spazi funzionerebbero spesso come una prima fase di adescamento e di selezione: gli utenti individuati verrebbero poi indirizzati verso piattaforme e app meno moderate o cifrate. Il percorso è di norma graduale, dalla partecipazione occasionale a un coinvolgimento ideologico sempre più profondo.
La ricerca condotta nell’ambito di Gems descrive una radicalizzazione raramente esplicita. Più spesso passa attraverso l’umorismo, l’ironia, simboli condivisi, le dinamiche competitive e il bisogno di appartenenza. A questo si aggiunge la cosiddetta gamification del crimine, cioè l’appropriazione dell’estetica dei videogiochi a fini illeciti, terrorismo compreso, che rende certi contenuti più attraenti e comprensibili per il pubblico di riferimento. Il discorso estremista, rilevano i ricercatori, si presenta soprattutto sotto forma di linguaggio discriminatorio quotidiano, con contenuti anti Lgbtq+, razzisti e misogini particolarmente diffusi, più che come propaganda dichiarata. Il punto critico è la normalizzazione: quando l’odio viene liquidato come semplice scherzo o tossicità di sottofondo, il confine dell’accettabile si sposta. Gli attori estremisti, inoltre, tendono a inserirsi in comunità già esistenti, facendo leva su interessi comuni, rancori e legami identitari, anziché creare spazi propri.
Il progetto non mette però sotto accusa il gaming in quanto tale, che resta per la grande maggioranza dei giocatori un ambiente sociale positivo. Per favorire la cooperazione tra settori diversi, Gems ha promosso la nascita di Engage (European Network Against Gaming Related Extremism), una rete che riunisce polizie europee, professionisti dell’industria videoludica, rappresentanti delle community e società civile. Accanto alla piattaforma Watchtower, il progetto ha prodotto studi sulla sociologia del gioco e della radicalizzazione e materiali formativi destinati alle forze dell’ordine.ue
Credit foto: europa.eu
