Skynet, AI poco intelligente e tanto colpevole

Skynet, AI poco intelligente e tanto colpevole

Migliaia di innocenti sarebbero finiti per essere identificati come terroristi dal programma utilizzato dalla NSA per l'antiterrorismo in Pakistan
Migliaia di innocenti sarebbero finiti per essere identificati come terroristi dal programma utilizzato dalla NSA per l'antiterrorismo in Pakistan

Skynet, il programma di intelligenza artificiale sviluppato dalla US National Security Agency (NSA) ed utilizzato per l’individuare potenziali terroristi, avrebbe rilevato migliaia di falsi positivi.

Come affermano alcuni dei documenti rivelati nell’ambito del Datagate da Edward Snowden, Skynet è il nome scelto da NSA citando la serie Terminator per contrassegnare un programma segreto utilizzato per l’identificazione di potenziali comportamenti terroristici. Per farlo sfrutta i metadati delle comunicazioni telefoniche mobile, ma non sembra per esempio tenere in considerazione fattori contingenti come potrebbe essere il caso del giornalista di Al Jazeera Ahmad Muaffaq Zaidan, indicato da Skynet come membro di Al Qaeda, ma che ha sempre negato la sua presunta partecipazione all’organizzazione terroristica e che per il suo lavoro di giornalista deve tenere contatti diretti con le fonti all’interno della stessa.

Skynet, per le sue individuazioni induttive di terroristi, infatti, utilizza una triangolazione analitica basata su una serie di fattori tra cui le chiamate del cellulare personale del soggetto, la sua localizzazione, l’attività sui social media e gli spostamenti: basta pensare al caso del giornalista pakistano di Al Jazeera per intuire le falle nel sistema.

Ora, secondo quanto riferisce un rapporto di Ars Technica che ha analizzato i numeri compresi nei documenti NSA relativi a Skynet, tale ragionamento va fatto su tutti i casi affrontati dall’AI soprattutto considerando che la stessa Agenzia riferisce che il programma ha una percentuale di falsi positivi pari allo 0,008 per cento .

Per quanto tale percentuale appaia marginale, se si considera che il Pakistan ha una popolazione di 182 milioni di persone e che la NSA ha informazioni su telefonate di circa 55 milioni di persone nel Paese, non si può non considerarla una cifra considerevole. Inoltre, come Ars segnala, in altri test comunicati da NSA si parla di un tasso di errore dello 0,18 per cento, che porterebbe a circa 99mila persone su 55 milioni male identificate . E se anche solo il 50 per cento fosse stato individuato ed arrestato o addirittura eliminato, significherebbe che migliaia di innocenti sono vittime dell’intelligence a stelle e strisce. E anche con la più ottimistica percentuale dello 0,008 si tratterebbe di numerosi innocenti.

Ancora più preoccupante la modalità di calcolo di tale percentuale: NSA si è basata sulle presunzioni fatte sulla base di 100mila profili casuali e 7 appartenenti terroristi noti: la percentuale non è stata invece verificata sulla base di nuove informazioni che avrebbero potuto dimostrare se il sistema fosse sufficientemente efficiente per elaborare risultati in situazioni nuove.

Claudio Tamburrino

Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 18 feb 2016
Link copiato negli appunti