Marco Calamari

Cassandra Crossing/ ED-209 ci aspetta dietro l'angolo

di Marco Calamari - L'adozione di macchine per attività di sicurezza che dovrebbero svolgere gli umani non è solo pericoloso per questi ultimi, consente anche di trasferire alla macchina la responsabilità. Sta già accadendo

Roma - Leggendo i giornali ed ascoltando i media capita di leggere articoli sulle future evoluzioni dei sistemi di sicurezza. Mirabolanti algoritmi di riconoscimento facciale permettono già oggi di inseguire automaticamente un criminale in fuga tra le centinaia di telecamere della stazione Termini. Database di informazioni sui passeggeri aerei permettono di scoprire potenziali terroristi prima che possano salire a bordo. Algoritmi intelligenti permetteranno di distinguere espressioni e reazioni facciali di persone che mentono. L'analisi dei movimenti di ogni persona di una folla permetteranno di capire le intenzioni di un individuo particolare prima che compia azioni pericolose.

Tutto automatico, infallibile, economico, pulito.

La domanda che non riceve mai risposta, anzi che in questi articoli non viene nemmeno formulata, è se automatizzare operazioni così delicate possa essere, sia da un punto di vista di intelligence che legale e di tutela dei diritti civili, una cosa desiderabile?
Ci sono tre questioni importanti da considerare:

il robocoppoAffidabilità degli automatismi; non è il punto principale, ma avete presente quei piccoli problemi che affliggono gli automatismi che conoscete? La porta della banca che non vi fa entrare per via della fibbia della cintura? Serve per tenere fuori i mitra ed i loro proprietari, ma tiene fuori anche voi se non vi spogliate. Il bancomat che vi mangia una tessera perfettamente valida perché l'ha letta male? E cosa dire delle risposte di certi impiegati allo sportello che ad una richiesta assolutamente normale rispondono che la procedura non glielo fa fare o che il computer si blocca? Affidereste la vostra vita ad uno di questi automatismi? Vi fareste giudicare da un giudice elettronico? Visitare da un medico elettronico? Confessare da un confessore elettronico?
Ci sono questioni che non ammettono automatismi. Pattugliare una strada affollata e male illuminata, distinguere i buoni dai cattivi, farlo in maniera affidabile è già quasi impossibile per un essere umano. In "Robocop" di Paul Verhoeven il robot ED-209 (Enforcement Droid 209 - Robot di costrizione) è una caricatura di questi automatismi per controllare le persone. Grosso e rumoroso, ruggisce come un leone ma funziona male, ammazza chi si arrende, si rivela forte ma totalmente inefficiente. Pero' è fabbricato da una multinazionale, è voluto da un politico locale, nasce per diventare una tecnologia militare...

Leggi, vincoli e regole: Lawrence Lessig dice, da avvocato ma in maniera molto efficace e corretta, che solo il software è legge nel cyberspazio. Dice questo come parte della sua critica all'approccio del sistema legale americano che vuole normare la Rete considerandola un'ombra, un'analogia del mondo materiale. È assolutamente vero, poiché è di software che è fatto il cyberspazio, che senza di esso non esisterebbe neppure.

Nel nostro caso i termini del problema si rovesciano completamente. Puo' il software essere legge nel mondo materiale?

Si dirà che un software non impone una legge, ma aiuta semplicemente gli umani a far rispettare le regole, creando vincoli che impediscono di delinquere o che rivelano potenziali delinquenti.
Qui si crea un circolo vizioso che rischia di portarci in posti pericolosissimi.
Le leggi nascono dal consenso per stabilire regole condivise; l'individuo decide liberamente se rispettarle oppure violarle e sopportarne le conseguenze. In ambedue i casi ci sono delle persone che devono valutare, eventualmente perseguire, giudicare, condannare. È il circolo virtuoso ma spesso dimenticato della democrazia e degli uomini liberi e dotati di libero arbitrio.

Ma cosa succede se le regole si trasformano in vincoli? Se un meccanismo non umano come un software ti impedisce di violare una regola, se diventa un vincolo, una costrizione totale, un controllore supremo che decide automaticamente la colpevolezza?
L'esistenza di leggi e regole riconosce e fa salvo il libero arbitrio, l'esistenza di vincoli rende schiavi i giusti e gli ingiusti. Non è un dettaglio, è un completo stravolgimento, una antitesi. Se avere leggi è cosa giusta, allora non si possono avere vincoli. I vincoli non hanno bisogno di leggi condivise, ed una volta istituiti possono diventare rapidamente e permanentemente strumenti di potere.
Purtroppo chi è disposto a rinunciare alla propria libertà in cambio di un briciolo di temporanea sicurezza non ha problemi a sottomettersi a vincoli piuttosto che dover rispettare, da uomo libero, leggi e regole condivise.

Uomini sulla catena di comando: tornando per un attimo ad ED-209 ho ancora in mente la situazione tragicomica in cui i tecnici che lo avevano avviato cercano disperatamente di fermarlo mentre sforacchia executive incravattati.
Non si tratta del solito archetipo della creatura che sfugge al suo creatore, e nemmeno del problema, pure questo attuale ma meno discusso, se robot autonomi abbiano o no il "diritto" di uccidere esseri umani. I droni volanti e le mitragliatrici autonome già lo possono fare e quindi la domanda e superflua.
Il problema è invece assai più a monte.

È ragionevole, nell'ambito di attività difficili, costose e complesse come quelle di intelligence, ritenere possibile l'automatizzazione del "riconoscimento dei sospetti"? È lecito propagandare abbozzi di algoritmi tratteggiati in un paper universitario come la soluzione finale contro il terrorismo?
Non è questa la sede per ridicolizzare da un punto di vista tecnico o statistico questi algoritmi; chiediamoci semplicemente quanti veri terroristi sono stati identificati grazie ai dati personali dei passeggeri scambiati e memorizzati dal CAPPS-2? Quanti attentati sono stati sventati con l'uso della "no-fly list"?
Eppure un solo attentato sventato sarebbe uno scoop; invece le notizie che si leggono sulla stampa sono che Bill Clinton non è riuscito a salire sull'aereo o che in lista No-fly c'era un bambino di 4 anni.

Il problema è più insidioso. Immaginate che mentre state scegliendo lo yogurt che preferite al supermercato o vi provate un costume da bagno si accenda una luce rossa, ed un signore pieno di distintivi vi chieda di seguirlo. È scattato il sistema automatico di rilevazione proattiva delle attività di taccheggio. Cosa fate? Vi arrabbiate? Vi lasciate perquisire tranquillamente tanto non avete niente da nascondere? Ed una volta identificati e riconosciuti innocenti chiederete che i dati di questo falso positivo vengano cancellati? Non potranno mai esserlo, non fosse altro per motivi di tutela legale di chi ha effettuato la perquisizione.

E se invece la luce rossa si accendesse mentre passate il check-in in aeroporto? Vi sentireste tranquilli perché c'è un umano nella catena di comando delle attività?
Certo se trovaste un potente e benevolo saggio che riconoscesse subito la vostra specchiata onestà tutto bene. Ma le probabilità sono che invece vi capiti una persona annoiata e sottopagata, che vuole tornare a casa a fine turno e che sa perfettamente che nessuno è mai stato licenziato per aver dato retta alla luce rossa. In quel caso addio viaggio.
E vi va già bene perché la luce rossa l'hanno potuta vedere tutti, voi compreso, e che significava solo che non potevate volare.

E se invece la luce rossa fosse nascosta e volesse dire che siete un sospetto terrorista? La targhetta sopra la luce rossa potrebbe indicare "gonfiore sospetto sotto il cappotto" mentre vi trovate nella metropolitana di Londra. Non mettetevi a correre per prendere il treno che sta partendo perché qualcuno, o magari qualcosa, potrebbe piantarvi le classiche sei pallottole in testa. E tante scuse alla famiglia: "Purtroppo la luce rossa si era accesa e lui ha cominciato a correre...".

Ovviamente sarà sempre previsto un essere umano nella catena di comando, ma la computerizzazione di attività di intelligence porterà inevitabilmente a trasferire autorità e fiducia dall'uomo alla macchina, dando quindi attendibilità a qualsiasi segnalazione, specie in condizioni di emergenza. Tanto a frittata fatta si potrà trasferire anche la responsabilità, la colpa, ad una patch mancante, ad un malvagio hacker, ad un filo staccato, ad un componente difettoso, ad un bug nel software.
Ricordate le traversie dell'ingegnere sospettato di essere Unabomber (vedi Cassandra Crossing/ Tu, Unabomber e la Data Retention)?

Gli investigatori avevano "calcolato", tramite l'uso di semplici database e di una metodica aberrante, che l'ingegnere apparteneva ad un gruppo di una dozzina di "colpevoli tecnicamente perfetti"?
Quanto è distante l'introduzione di automatismi nell'intelligence e nel controllo della popolazione dalla equazione "Si è accesa la luce rossa e quindi sei colpevole"?

Il motivo e la causa dell'accensione saranno probabilmente altrettanto inaccessibili dei motivi dell'indagine ne "Il processo" di Franz Kafka. Ovviamente per motivi di sicurezza!
Per gli errori, che non saranno chiamati "morti ammazzati" ma "falsi positivi", varrà poi il principio che è stato uno sfortunato incidente causato da un computer difettoso. O meglio, per ridurre ulteriormente i costi forse qualcuno riesumerà un loop legislativo "creativo" come quello che permetteva alle SS di giustiziare legalmente senza processo un nemico della patria, e che definiva nemico della patria chi veniva fucilato dalle SS. Semplificazione e cost reduction da manuale, anche se a spese della libertà e della democrazia.

ED-209 vi fa ancora sorridere? O il pensiero dei suoi nipoti invisibili vi mette addosso una certa inquietudine? La vera inquietudine dovrebbe venir fuori già leggendo gli articoli di cui sopra, e dovrebbe spingervi a parlare ed esprimere la vostra opinione.
Altrimenti dietro l'angolo, insieme ai nipoti di Ed-209, ci aspetterà lo storico e sempre in agguato slogan di "Chi non ha niente da nascondere non ha niente da temere".

Marco Calamari

Tutte le release di Cassandra Crossing sono disponibili a questo indirizzo
20 Commenti alla Notizia Cassandra Crossing/ ED-209 ci aspetta dietro l'angolo
Ordina
  • "Affidereste la vostra vita ad uno di questi automatismi? Vi fareste giudicare da un giudice elettronico? Visitare da un medico elettronico? Confessare da un confessore elettronico?"

    Detto sinceramente? SI! Perché gli automatismi possono funzionare male ma se l'alternativa umana funziona molto peggio... ben vengano gli automatismi.A bocca storta

    Ho smesso di contare le volte che un medico, a fronte della medesima sintomatologia, effettua una diagnosi OPPOSTA (non "differente", non "dissimile", proprio opposta!) a quella effettuata del medico precedente.Arrabbiato

    Ho smesso di contare le volte che un medico, a fronte della medesima diagnosi, consiglia un processo di cure OPPOSTO (non "differente", non "dissimile", proprio opposto!) a quello consigliato dal medico precedente.Arrabbiato

    Ho smesso di contare le volte in cui un medico ha dato indicazioni terapeutiche ritenute sbagliate/inadeguate/obsolete da oltre 20 anni.Arrabbiato

    Quindi, SI al medico elettronico pur con tutti i suoi difetti.
    non+autenticato
  • I Suoi articoli sono sempre curati e ricchi di spunti più che interessanti, ma quest’analisi dell’etica dell’automatizzazione mi è piaciuta così tanto da lasciarmi senza parole… è già stato detto tutto nel suo articolo: non posso dire altro!
    non+autenticato
  • Già...
    Merita una standing ovation!
    Sorride
    non+autenticato
  • E di grazia, nel contenitore "NIENTE" cosa dovremmo metterci come riferimento?
    Cose personali?Tradimenti?Stravaganze?
    Oppure falsi in bilancio (depenalizzati),contabilita' creativa (depenalizzata) corruzione SEMPLICE (anche quella, strano eh?) e via dicendo?
    CHIUNQUE ha qualche cosa da nascondere e se e' personale , nella propria sfera privata (RIBADISCO PRIVATA)e non fa male a nessuno PERCHE' deve temere ad ogni passo che qualcuno decida di SONDARLO e di far proprie le cose piu' intime?
    Chiunque potrebbe essere perseguito o PERSEGUITATO da chi ha il POTERE di scovare qualsiasi tuo segreto, il potere poi di ritorcerlo CONTRO e quindi di renderti RICATTABILE.
    Occorre trovare altre vie per colpire SOLO chi realmente delingue e non chiunque a tappeto.
    La devono finire discegliere la via piu' semplice meno dignitosa e piu' invasiva.
    Fermo restando che PRIMA di discutere di come acciuffare i cattivoni sarebbe bene parlare di DOVE METTERLI e di come fare per impedire che QUALCUNO crei leggi AD PERSONAM e che questo comporti l'impossibilita' di perseguire ANCHE centinaia di altre persone GRAZIE al farabutto che per primo ,essendo al potere, si e' parato il culo.
    Pene SERIE, COMMISURATE E CERTEZZA DELLA PENA...luoghi ove deportare i malfattori.
    POI ne discutiamo.
    Al momento non esiste alcun sistema di controllo che sia infallibile e che sia INTRINSECAMENTE SICURO a livello di gestione e database.
    non+autenticato
  • 1) stampare l'articolo in formato A3, carattere corpo 16 min.

    2) incorniciarlo

    3) esporlo in modo che sia sempre ben visibile a quante più persone possibile

    grazie marco
    non+autenticato
  • Come sempre nella vita, tutto dipende dall'uso che se ne fa...Quindi qui credo non si attacca né la tecnologia, né l'uomo (il suo cervello(?)), ma lo stupido 'entanglement' (ehm, diciamo intreccio) che si crea tramite (ab)uso ditorto di entrambi.

    Salados,
           r.
    non+autenticato
CONTINUA A LEGGERE I COMMENTI
1 | 2 | 3 | Successiva
(pagina 1/3 - 11 discussioni)