Claudio Tamburrino

Skynet, AI poco intelligente e tanto colpevole

Migliaia di innocenti sarebbero finiti per essere identificati come terroristi dal programma utilizzato dalla NSA per l'antiterrorismo in Pakistan

Roma - Skynet, il programma di intelligenza artificiale sviluppato dalla US National Security Agency (NSA) ed utilizzato per l'individuare potenziali terroristi, avrebbe rilevato migliaia di falsi positivi.

Come affermano alcuni dei documenti rivelati nell'ambito del Datagate da Edward Snowden, Skynet è il nome scelto da NSA citando la serie Terminator per contrassegnare un programma segreto utilizzato per l'identificazione di potenziali comportamenti terroristici. Per farlo sfrutta i metadati delle comunicazioni telefoniche mobile, ma non sembra per esempio tenere in considerazione fattori contingenti come potrebbe essere il caso del giornalista di Al Jazeera Ahmad Muaffaq Zaidan, indicato da Skynet come membro di Al Qaeda, ma che ha sempre negato la sua presunta partecipazione all'organizzazione terroristica e che per il suo lavoro di giornalista deve tenere contatti diretti con le fonti all'interno della stessa.

Skynet, per le sue individuazioni induttive di terroristi, infatti, utilizza una triangolazione analitica basata su una serie di fattori tra cui le chiamate del cellulare personale del soggetto, la sua localizzazione, l'attività sui social media e gli spostamenti: basta pensare al caso del giornalista pakistano di Al Jazeera per intuire le falle nel sistema.
Ora, secondo quanto riferisce un rapporto di Ars Technica che ha analizzato i numeri compresi nei documenti NSA relativi a Skynet, tale ragionamento va fatto su tutti i casi affrontati dall'AI soprattutto considerando che la stessa Agenzia riferisce che il programma ha una percentuale di falsi positivi pari allo 0,008 per cento.

Per quanto tale percentuale appaia marginale, se si considera che il Pakistan ha una popolazione di 182 milioni di persone e che la NSA ha informazioni su telefonate di circa 55 milioni di persone nel Paese, non si può non considerarla una cifra considerevole. Inoltre, come Ars segnala, in altri test comunicati da NSA si parla di un tasso di errore dello 0,18 per cento, che porterebbe a circa 99mila persone su 55 milioni male identificate. E se anche solo il 50 per cento fosse stato individuato ed arrestato o addirittura eliminato, significherebbe che migliaia di innocenti sono vittime dell'intelligence a stelle e strisce. E anche con la più ottimistica percentuale dello 0,008 si tratterebbe di numerosi innocenti.

Ancora più preoccupante la modalità di calcolo di tale percentuale: NSA si è basata sulle presunzioni fatte sulla base di 100mila profili casuali e 7 appartenenti terroristi noti: la percentuale non è stata invece verificata sulla base di nuove informazioni che avrebbero potuto dimostrare se il sistema fosse sufficientemente efficiente per elaborare risultati in situazioni nuove.

Claudio Tamburrino
Notizie collegate
  • AttualitàSkynet esiste ed è marchiata NSANuove rivelazioni in ambito Datagate identificano l'ennesimo programma pensato per scopi antiterroristici: una rete di controllo sui metadati telefonici che sa di fantascienza solo nel nome
  • AttualitàGli USA, Obama e il visti social clubDopo la strage di San Bernardino si è aperto negli USA il dibattito sulla possibilità che le autorità controllino i richiedenti visto d'ingresso anche sui social network. In modo da individuare eventuali simpatie estremiste
  • TecnologiaIl tracciamento scava nel socialIl contractor statunitense Raytheon è al lavoro su un "motore di ricerca per spie", una piattaforma software in grado di estrarre informazioni significative dalla miniera di dati personali affidati ai social network dagli utenti
50 Commenti alla Notizia Skynet, AI poco intelligente e tanto colpevole
Ordina
  • Già James Cameron nel 1984 aveva scritto un copione cinematografico che non sapeva allora sarebbe diventato realtà oggi. Preveggenza o non di fatto molti americani hanno paura della AI perché molti scienziati temono la Singolarità, non siamo molto lontani dai postulati. Prima o poi col progredire delle reti neuroniche la Singolarità sarà solo un passaggio obbligato in futuro e non si potrà far nulla per impedirlo perché è la naturale evoluzione di un sistema pensante. Temo il giorno in cui una macchina potrà decidere per noi...
    non+autenticato
  • - Scritto da: Alessandro
    CUT
    > pensante. Temo il giorno in cui una macchina
    > potrà decidere per noi...

    Beh, a conti fatti meglio che per noi decida una macchina
    piuttosto che i politici.
    non+autenticato
  • Cari giovani, riderete poco quando questi sistemi saranno usati per individuare potenziali evasori di tasse, potenziali delinquenti, potenziali asociali, potenziali "disallineati" politici, potenziali pedofili, ecc.
    E succederà.
    non+autenticato
  • - Scritto da: Ominetto
    > Cari giovani, riderete poco quando questi sistemi
    > saranno usati per individuare potenziali evasori
    > di tasse, potenziali delinquenti, potenziali
    > asociali, potenziali "disallineati" politici,
    > potenziali pedofili,
    > ecc.
    > E succederà.


    E proprio per questo sopravviveranno solo coloro che fin da piccoli verranno educati alla privacy e all'anonimato.

    Tutti gli altri avranno un bel numero tatuato sul braccio virtuale.
  • Che illusioni ... tu/voi che a parole ed ovunque detestate le mode, in realtà seguite la moda di detestare Apple, Google, Microsoft, ecc.
    Non avete il libero arbitrio, siete solo programmati diversamente, ma programmati siete pure voi.
    Beata ign ... inconsapevolezza.
    La leggerezza d'animo e di spirito è tutt'altra cosa ... e passa per la capacità di gestire intelligentemente qualsiasi cosa, non dall'essere ossessionati dall'evitare questo e quello e dal bisogno di riaffermare le proprie idiosincrasie ad ogni pie' sospinto.
    non+autenticato
  • Che illusioni ... tu/voi che a parole ed ovunque detestate le mode, in realtà seguite la moda di detestare Apple, Google, Microsoft, ecc.
    Non avete il libero arbitrio, siete solo programmati diversamente, ma programmati siete pure voi.
    Beata ign ... inconsapevolezza.
    La leggerezza d'animo e di spirito è tutt'altra cosa ... e passa per la capacità di gestire intelligentemente qualsiasi cosa, non dall'essere ossessionati dall'evitare questo e quello e dal bisogno di riaffermare le proprie idiosincrasie ad ogni pie' sospinto.
    non+autenticato
  • - Scritto da: Ominetto

    > Cari giovani, riderete poco quando questi sistemi
    > saranno usati per individuare potenziali evasori
    > di tasse, potenziali delinquenti, potenziali
    > asociali, potenziali "disallineati" politici,
    > potenziali pedofili, ecc.

    Ok per tutto, ma che c'entrano gli asociali?
    non+autenticato
  • ricerca: soggetto religione musulmana = terrorista
             soggetto razza nordafricano = terrorista
             soggetto cittadino mediorientale = terrorista
             soggetto non compra armi americane = terrorista
    non+autenticato
  • Le solite americanate da 4 soldi.

    Come puoi far fare un lavoro del genere ad una macchina ?

    Un terrorista che poi usa un social ? Deve essere furbissimo.

    Consiglio loro di non usare più cellulari e internet.

    Fossi con il Pakistan gli direi come si permettono a monitorare 55 milioni di cittadini, su uno stato che non è il loro.

    Ma agli USA chi gli ha mai riconosciuto lo status di sovrano mondiale ?

    Incomincio a pensare veramente che sono il male di questo pianeta, direttamente o meno sono sempre coinvolti in qualcosa, se ne sbattono della sovranità altrui e ogni 3X4 la buttano sempre sulla super cavolata de "lo facciamo per combattere il terrorismo".

    Non ho difficoltà a capire perché i loro nemici aumentino di numero con il tempo.
    non+autenticato
  • - Scritto da: Etype
    > Le solite americanate da 4 soldi.
    >
    > Come puoi far fare un lavoro del genere ad una
    > macchina ?

    Le macchine, se programmate bene, lavorano meglio degli umani.

    > Un terrorista che poi usa un social ? Deve essere
    > furbissimo.

    Aveva un iPhone.
    Non c'e' alcun bisogno di specificare quanto era furbissimo.

    > Consiglio loro di non usare più cellulari e
    > internet.

    Dipende dai cellulari. Dipende da come accedono ad internet.
    Un giorno ci dicono che bisogna assolutamente eliminare TOR che favorisce il pedoterrosatanismo.
    Il giorno dopo si viene a sapere che i terroristi chattavano in chiaro su fessbuk con un iphone.

    Una via di mezzo no?

    > Fossi con il Pakistan gli direi come si
    > permettono a monitorare 55 milioni di cittadini,
    > su uno stato che non è il
    > loro.

    E dopo che ti hanno risposto con un rutto da birra, che cosa faresti?

    > Ma agli USA chi gli ha mai riconosciuto lo status
    > di sovrano mondiale ?

    Il fatto di aver vinto la WWII

    > Incomincio a pensare veramente che sono il male
    > di questo pianeta, direttamente o meno sono
    > sempre coinvolti in qualcosa, se ne sbattono
    > della sovranità altrui e ogni 3X4 la buttano
    > sempre sulla super cavolata de "lo facciamo per
    > combattere il
    > terrorismo".

    Incominci un po' tardi.

    > Non ho difficoltà a capire perché i loro nemici
    > aumentino di numero con il
    > tempo.

    La popolazione mondiale e' aumentata parecchio negli ultimi anni.
  • - Scritto da: panda rossa

    > Le macchine, se programmate bene, lavorano meglio
    > degli
    > umani.

    Non in questo ambito

    > E dopo che ti hanno risposto con un rutto da
    > birra, che cosa
    > faresti?

    Il Pakistan ha armi nucleariSorride

    > La popolazione mondiale e' aumentata parecchio
    > negli ultimi
    > anni.

    Non direi...
    non+autenticato
  • - Scritto da: Etype

    > > La popolazione mondiale e' aumentata
    > parecchio
    > > negli ultimi
    > > anni.
    >
    > Non direi...

    Ma quanto sei ignorante?
    non+autenticato
  • Molto meno di teA bocca aperta

    Negli ultimi 5 anni la popolazione mondiale non è arrivata neanche a 500 milioni di abitanti in più ,mica 2-3 miliardi in piùOcchiolino
    non+autenticato
  • Ma sei fuori di testa?
    500 milioni su un totale stimato nel 2015 di 7,2 miliardi di esseri umani è ~ il 7%. Ti sembra una bazzecola? È circa lo 05% di tutti gli esseri umani mai vissuti sul pianeta in tutta la storia dell'umanità! E lo definisci poco?

    Comunque 500 milioni è sbagliato, sono di meno: circa 363 milioni secondo Wikipedia
    https://it.wikipedia.org/wiki/Popolazione_mondiale...

    Da quando sono nato io, a cavallo fra i '40 ed i '50, la popolazione è sì davvero cresciuta di 3,5 miliardi di esseri umani, ma in 65 anni. ... ed è stato l'incremento più massiccio della storia.
    -----------------------------------------------------------
    Modificato dall' autore il 20 febbraio 2016 07.02
    -----------------------------------------------------------
  • - Scritto da: Etype
    > Le solite americanate da 4 soldi.
    >
    > Come puoi far fare un lavoro del genere ad una
    > macchina
    > ?
    ma e' la gente che lo vuole. maxsix ne e' sinceramente convinto. la gente e' incapace di governare il proprio telefono e ci deve pensare Samaritan(il sw) Apple, PER IL LORO BENE.

    (c'erano dei post da spisciarsi (o di cui preoccuparsi sul serio) di maxsix in merito... )
    non+autenticato
  • - Scritto da: bubba
    > - Scritto da: Etype
    > > Le solite americanate da 4 soldi.
    > >
    > > Come puoi far fare un lavoro del genere ad una
    > > macchina
    > > ?
    > ma e' la gente che lo vuole. maxsix ne e'
    > sinceramente convinto. la gente e' incapace di
    > governare il proprio telefono e ci deve pensare
    > Samaritan (il sw) Apple, PER IL LORO
    > BENE.
    >
    > (c'erano dei post da spisciarsi (o di cui
    > preoccuparsi sul serio) di maxsix in merito...
    > )

    Cioe' scusa, se lo dico io che apple produce giocattoli per ignoranti che sono disposti a pagare pur di restare ignoranti, non va bene; mentre se lo dice lui va benissimo?
  • - Scritto da: panda rossa
    > - Scritto da: bubba
    > > - Scritto da: Etype
    > > > Le solite americanate da 4 soldi.
    > > >
    > > > Come puoi far fare un lavoro del genere
    > ad
    > una
    > > > macchina
    > > > ?
    > > ma e' la gente che lo vuole. maxsix ne e'
    > > sinceramente convinto. la gente e' incapace
    > di
    > > governare il proprio telefono e ci deve
    > pensare
    > > Samaritan (il sw)
    > Apple, PER IL
    > LORO
    > > BENE.
    > >
    > > (c'erano dei post da spisciarsi (o di cui
    > > preoccuparsi sul serio) di maxsix in
    > merito...
    > > )
    >
    > Cioe' scusa, se lo dico io che apple produce
    > giocattoli per ignoranti che sono disposti a
    > pagare pur di restare ignoranti, non va bene;
    > mentre se lo dice lui va
    > benissimo?
    si, perche' lo dice con convinzioneCon la lingua fuori e' il messaggio "politico" che preoccupa (perche' piu' viene sposato, piu' si diffonde)... la Megacorp DEVE pensare per te, deve proteggerti (chi proteggi e da chi? e dalla megacorp e dai suoi accoliti chi mi protegge?)... Adesso che la narrazione vuole che nemmeno apple (col suo secure enclave) possa piu' mettere mano al telefono senza sfasciarlo, il cerchio e' completo... il sw agisce autonomamente a dispetto non solo dell'utente ma anche del Creatore... (oh uguale a SamaritanCon la lingua fuori)
    non+autenticato
  • Veramente apple può sbloccare quel terminale oggetto di indagine, l'FBI aveva anche acconsentito a far fare ad apple tutto il lavoro al suo interno, gli interessava solo una copia del contenuto in chiaro.

    Cosa che può fare benissimo per esempio con un firmware ad hoc per l'occasione, qualcosa mi dice che lo stato prima o poi farà valere le sue ragioni contro quelle di apple che a quel punto potrebbe essere considerata anche complice.
    non+autenticato
  • - Scritto da: Etype
    > Veramente apple può sbloccare quel terminale
    > oggetto di indagine, l'FBI aveva anche
    > acconsentito a far fare ad apple tutto il lavoro
    > al suo interno, gli interessava solo una copia
    > del contenuto in
    > chiaro.
    e chi l'ha nominato il "caso FBI"? dici (sostanzialmente) bene.
    avro' detto 10 volte nel thread cose tipo "invece di seguire le trollate di maxsix leggete sto cazzo di ordinanza (che dice altro)." e magari anche di qualche senior hacker tipo zdziarski [anche se non sono d'accordo con la sua visione 'politica'.. parlo dell'aspetto tech]. Da quello che dici tu allora l'hai letta l'ordianza? bravoA bocca aperta
    non+autenticato
  • A parte l'infelice scelta del nome del sistema...
    ... se il sistema identifica una persona "X" come terrorista, gli americani prendono la cosa per buona senza fare ulteriori controlli?

    Il sistema dovrebbe suggeriche che la persona "X" POTREBBE essere un terrorista, ed allora delle PERSONE dovrebbero RICONTROLLARE i dati analizzati, per vedere che non ci siano errori, e poi svolgere ulteriori INDAGINI, per poter stabilire se si tratti di un terrorista o no. Procedere ad arrestare/uccidere chi viene segnalato e poi solo dopo fare domande è assurdo...
    non+autenticato
  • - Scritto da: Ciccio... un altro
    > A parte l'infelice scelta del nome del sistema...
    > ... se il sistema identifica una persona "X" come
    > terrorista, gli americani prendono la cosa per
    > buona senza fare ulteriori
    > controlli?


    ma che glie frega? Lo chiamano terrorista comunque, ammazzano nell'esplosione una decina di innocenti che sono per caso vicini a lui, e le pecore che votano sono convinte che il mondo sia più sicuro di prima.
    non+autenticato
  • - Scritto da: Ciccio... un altro
    > A parte l'infelice scelta del nome del sistema...
    > ... se il sistema identifica una persona "X" come
    > terrorista, gli americani prendono la cosa per
    > buona senza fare ulteriori
    > controlli?

    A che pro? Ci ha gia' pensato il sistema a fare i controlli.

    > Il sistema dovrebbe suggeriche che la persona "X"
    > POTREBBE essere un terrorista, ed allora delle
    > PERSONE dovrebbero RICONTROLLARE i dati
    > analizzati, per vedere che non ci siano errori, e
    > poi svolgere ulteriori INDAGINI, per poter
    > stabilire se si tratti di un terrorista o no.
    > Procedere ad arrestare/uccidere chi viene
    > segnalato e poi solo dopo fare domande è
    > assurdo...

    In che senso assurdo?

    Hai mai visto quei filmati dove i poliziotti prima sparano e poi chiedono i documenti? E lo fanno con cittadini americani su territorio americano.

    Perche' dovrebbero usare un sistema diverso per cittadini stranieri su territorio straniero?
  • - Scritto da: panda rossa

    > Hai mai visto quei filmati dove i poliziotti
    > prima sparano e poi chiedono i documenti? E lo
    > fanno con cittadini americani su territorio
    > americano.
    >
    > Perche' dovrebbero usare un sistema diverso per
    > cittadini stranieri su territorio
    > straniero?


    sono dei cowboy, che ci vuoi fare? Rotola dal ridereRotola dal ridereRotola dal ridere
    non+autenticato
  • - Scritto da: panda rossa
    > Hai mai visto quei filmati dove i poliziotti
    > prima sparano e poi chiedono i documenti? E lo
    > fanno con cittadini americani su territorio
    > americano.

    Una cosa è l'eccesso di legittima difesa dato (oltre dal fatto di essere spesso cowboy pazzoidi gli stessi poliziotti) dalla paura e dall'impeto del momento, un'altra è emanare un mandato di arresto sulla sola base di un algoritmo...
    non+autenticato
  • - Scritto da: Ciccio... un altro

    > Una cosa è l'eccesso di legittima difesa dato
    > (oltre dal fatto di essere spesso cowboy pazzoidi
    > gli stessi poliziotti) dalla paura e dall'impeto
    > del momento, un'altra è emanare un mandato di
    > arresto sulla sola base di un
    > algoritmo...


    Arresto? ma hai letto cosa fanno?
    Gli lanciano un missile, sti burloni, altro che arresto!
    E tutto sulla base di un algoritmo che fa per lo più analisi dei viaggi.
    non vorrei essere un postino, laggiù...
    non+autenticato
  • - Scritto da: panda rossa
    > - Scritto da: Ciccio... un altro
    > > A parte l'infelice scelta del nome del
    > sistema...
    > > ... se il sistema identifica una persona "X"
    > come
    > > terrorista, gli americani prendono la cosa
    > per
    > > buona senza fare ulteriori
    > > controlli?
    >
    > A che pro? Ci ha gia' pensato il sistema a fare i
    > controlli.
    >
    > > Il sistema dovrebbe suggeriche che la
    > persona
    > "X"
    > > POTREBBE essere un terrorista, ed allora
    > delle
    > > PERSONE dovrebbero RICONTROLLARE i dati
    > > analizzati, per vedere che non ci siano
    > errori,
    > e
    > > poi svolgere ulteriori INDAGINI, per poter
    > > stabilire se si tratti di un terrorista o no.
    > > Procedere ad arrestare/uccidere chi viene
    > > segnalato e poi solo dopo fare domande è
    > > assurdo...
    >
    > In che senso assurdo?
    >
    > Hai mai visto quei filmati dove i poliziotti
    > prima sparano e poi chiedono i documenti? E lo
    > fanno con cittadini americani su territorio
    > americano.
    >
    > Perche' dovrebbero usare un sistema diverso per
    > cittadini stranieri su territorio
    > straniero?

    Beh, non esagerare, lo fanno di sicuro con chi ha connotati Ispanici ed Afroamericani, ma chi ha la pelle chiara è un minimo più salvaguardato. I terroristi solitamente sono piuttosto scuri di pelle, così come i Pakistani; e Skynet sicuramente ne tiene conto ..., ragion per cui il tristemente famoso boia dell'ISIS di origine inglese sarebbe un falso negativo e sfuggirebbe al controllo di questa favolosa A.I.
    .
    -----------------------------------------------------------
    Modificato dall' autore il 19 febbraio 2016 01.45
    -----------------------------------------------------------
CONTINUA A LEGGERE I COMMENTI
Successiva
(pagina 1/2 - 6 discussioni)