Perspective è il robot anti-troll di Google

Milano – L’intelligenza artificiale schierata contro le cattive abitudini di chi sta dietro la tastiera: i commenti in calce agli articoli dei giornali e il cosiddetto cyber-bullismo sono all’ordine del giorno , e in questo caso la divisione Jigsaw di Alphabet (Google) ha sviluppato uno strumento specifico per arrivare in soccorso dei sempre più oberati moderatori dei forum pubblici. L’hanno chiamato Perspective ed entra a far parte dell’ecosistema TensorFlow sviluppato dalla stessa Google.

Stando a quanto raccontato nell’annuncio ufficiale , la questione dei commenti ostili o ingiuriosi si è fatta sentita per oltre il 70 per cento dei navigatori statunitensi: per sfuggire al clima pesante dei forum gli utenti smettono di commentare e di leggere i commenti altrui, mentre le testate si vedono costrette a tagliare lo spazio destinato alle opinioni dei lettori per non doversi sobbarcare il pesante onere di gestire la moderazione e la community .

Meno commenti significa però meno traffico sul sito , meno tempo di permanenza sulla pagina delle notizie: questo si traduce in minori introiti ed è qualcosa che mina la produzione di contenuti di qualità. Avvelenare i pozzi, come fanno i troll , si riflette sull’intera filiera: snatura la vocazione della Rete, in cui tutti possono esporre il proprio punto di vista, e abbassa il livello dell’informazione giornalistica che non può giovarsi dei suggerimenti dei lettori.

Quello che fa Perspective è offrire un supporto AI all’editoria: attraverso un sistema che impara dall’esperienza, sfruttando il machine learning, cataloga i commenti identificando quelli potenzialmente problematici. Perspective analizza il linguaggio dei commenti, identifica schemi, li sottopone alla controparte umana e collabora con quest’ultima per migliorare le proprie capacità di segnalare il materiale realmente problematico: anche il contributo dei lettori può essere integrato nell’algoritmo, approfittando delle loro segnalazioni per individuare il linguaggio problematico. Ovviamente restano in piedi le questioni della libertà di espressione, della libera espressione: è un equilibrio sottile, e il supporto tecnologico potrebbe quantomeno offrire più serenità per affrontare la faccenda.

I limiti principali di Perspective, attualmente, sono la lingua e l’ambito di utilizzo. I tecnici di Jigsaw si sono concentrati sull’inglese e sul linguaggio ostile: il passo successivo sarà allargarsi ad altre lingue (facile immaginare che tra le prime ci saranno spagnolo e cinese) e successivamente ampliare le capacità del software per selezionare anche i casi in cui gli utenti vanno off-topic. La qualità della conversazione e il suo miglioramento è lo scopo finale di Perspective, e Google ha aperto le API di questa tecnologia dopo averla testata con i primi partner tra cui figurano l’Economist, il New York Times, il Guardian e Wikipedia.

Luca Annunziata