Facebook XCheck: Meta deve modificare il programma

Oltre un anno fa, il Wall Street Journal aveva scoperto che Meta (all’epoca Facebook) applicava una trattamento speciale agli account VIP. Il Comitato per il controllo (Oversight Board) aveva chiesto all’azienda di Menlo Park maggiori informazioni sul programma XCheck (cross check) e ora ha pubblicato un report dettagliato con 32 modifiche da apportare per migliorare le procedure e garantire più trasparenza.

Programma XCheck: modifiche entro 90 giorni

Quando gli utenti pubblicano su Facebook post vietati dalle regole, un sistema di moderazione basato sull’intelligenza artificiale rimuove automaticamente i contenuti o li penalizza, rendendoli meno visibili nel feed. Lo stesso trattamento non viene applicato agli account di persone famose presenti in una “whitelist”. I post vengono esaminati da un gruppo di moderatori umani, seguendo le linee guida del programma XCheck (cross check).

Dopo le critiche ricevute, Meta ha chiesto al Comitato per il controllo di esaminare il programma e fornire suggerimenti su come migliorarlo. I membri dell’Oversight Board hanno innanzitutto evidenziato il trattamento iniquo per gli utenti, al quale si aggiunge l’assenza di criteri trasparenti. Inoltre i contenuti che violano le regole rimangono troppo tempo sul social network (fino a cinque giorni) prima che venga presa una decisione.

Altre criticità sono l’assenza di metriche per valutare l’efficacia del programma XCheck e di comunicazioni agli utenti che vengono aggiunti alla whitelist. Il Comitato ha pertanto emesso 32 raccomandazioni che Meta dovrà attuare entro 90 giorni. L’azienda di Menlo Park dovrà ad esempio aumentare la trasparenza, comunicando i criteri adottati per l’inserimento nella whitelist, indicando pubblicamente gli account sottoposti al programma e usando metriche per la valutazione della sua efficacia.

Il programma XCheck dovrà essere applicato anche agli utenti che pubblicano contenuti sui diritti umani, non solo a VIP, aziende partner o politici. Infine, se la violazione è di elevata gravità, i contenuti dovrebbero essere rimossi o nascosti in attesa del controllo, anche se pubblicati da un personaggio famoso.