Marco Calamari

Cassandra Crossing/ Dall'Occhio della Mente al buco in fronte

di M. Calamari - Il tecnocontrollo non è solo un modo per sollevare l'uomo dalla responsabilità di vigilare sulla sicurezza. E' anche un modo per sollevare l'uomo dalla responsabilità di commettere degli errori

Cassandra Crossing/ Dall'Occhio della Mente al buco in fronteRoma - Come profetessa in tempi di guerra Cassandra è sempre stata ipersensibile alle applicazioni militari dell'informatica, ed in particolare alle situazioni in cui il giudizio umano viene sostituito, anche solo in parte, da quello di una macchina.

È stato il caso dei primi vagiti dei droni killer automatizzati, e prima ancora degli automatismi applicati a situazioni che decidono dei buoni e dei cattivi, della vita e della morte.

Per questo ritiene importante la notizia, molto commentata dalla stampa internazionale e punto da quella italiana, di una promettente ricerca svolta alla Carnegie Mellon con i finanziamenti della DARPA cioè dell'esercito americano, volta a prevedere i comportamenti delle persone partendo da riprese di videosorveglianza.
Mind's Eye: "l'Occhio della Mente", o per meglio dire "Using Ontologies in a Cognitive-Grounded System: Automatic Action Recognition in Video Surveillance", vale a dire "L'uso di ontologie in un sistema basato sulla conoscenza: Riconoscimento automatico di azioni nelle riprese di videosorveglianza".

Ora coloro che non si sono precipitati su Wikipedia per sapere cosa vuol dire "Ontologia" (termine informatico, e non filosofico), sia perché ne conoscono già il significato sia perché lo ignorano e desiderano solo cogliere il senso generale di quello che leggono, dovranno da Cassandra essere contemporaneamente soddisfatti. Compito difficile...

In buona sintesi si tratta di una ricerca volta a costruire sistemi computerizzati che prendano in input la ripresa video di una scena complessa, e producano come output una descrizione testuale delle azioni che stanno avvenendo ed entro certi limiti del loro "significato".

Un sistema del genere permetterebbe, anzi, certamente permetterà di riprendere una battaglia, una folla ad un concerto o ad una manifestazione ed isolarne azioni di gruppo o individuali, ma non come immagini ("Ecco un uomo con la mano in tasca in mezzo alla folla") ma come azione e significato in un certo contesto ("Ecco un assassino che sta per estrarre la pistola e sparare al Presidente").

Ora la speranza di Cassandra è quella di aver suscitato prima una sana ilarità, seguita subito dopo da un'ancora più sana perplessità.
"Ma sarà vero?"

La domanda giusta invece è: "Ma lo vogliono fare davvero?".
La risposta è facile: "Sì".

Poiché si può fare (almeno entro certi limiti), sicuramente lo si farà: già adesso esistono diverse situazioni, alcune militari ma molte di più di controllo sociale, in cui una tecnica del genere verrà impiegata appena vagamente funzionante.

E cosa vuol dire "vagamente funzionante"? Ci sarà un uomo a filtrare gli allarmi? Li filtrerà con efficacia?
Per i tanti motivi già esposti nel già citato precedente articolo la possibilità che queste cautele vengano impiegate in maniera efficace è praticamente zero.

E quali tipi di reazione verranno attivati dalle mosse dichiarate sospette di un signore con l'impermeabile rigonfio e le mani in tasca? Verrà solo inviata un'immagine su un monitor con una didascalia che dice cosa sta facendo?
E se un importante politico fosse in quel momento in visita? Allora forse un allarme sullo smartphone delle teste di cuoio sembrerà una buona idea.
Ed il suddetto agente cosa farà? Sarà più o meno cauto avendo ricevuto l'allarme da un computer invece che da un operatore?
Le probabilità che l'uomo con l'impermeabile di cui sopra si ritrovi con un buco in testa saranno maggiori o minori?
E quelle che a posteriori si riveli un padre di famiglia freddoloso ed in sovrappeso?

Tutte le situazioni in cui il giudizio umano viene sostituito, anche solo parzialmente, da quello di un computer hanno il vantaggio indubbio di costare poco ed essere più veloci. Ma questo è anche il loro principale pericolo.

Ci saranno più terroristi a cui verrà fatto un buco in testa prima che premano il bottone? Forse.
Ma la domanda che dovrebbe interessare di più i cittadini in realtà è: "Ci saranno più o meno buchi in teste innocenti?".

Difficile dirlo. Con i primi sistemi di riconoscimento probabilmente sì, con altri più evoluti chissà.

Il problema di cui preoccuparsi sarà lo scarico di responsabilità, non i pur importanti "falsi positivi" (leggi "buchi in testa fatti ad innocenti") dei sistemi.
Sarà dare il "via libera" a certi tipi di errori.

Nessuno verrà licenziato o processato per non aver bloccato o per aver dato via libera alla "luce rossa sul monitor".
Ed un altro passo avanti sarà stato compiuto nella direzione di rendere il software legge e costrizione non nel cyberspazio, dove già lo è, ma nel mondo materiale.
Un passo verso la disumanizzazione dell'essere umano, asservendolo a sistemi di tecnocontrollo, sport sempre più popolare tra coloro che gestiscono poteri di vario tipo con la scusa di offrire "sicurezza".

Marco Calamari
Lo Slog (Static Blog) di Marco Calamari

Tutte le release di Cassandra Crossing sono disponibili a questo indirizzo
Notizie collegate
14 Commenti alla Notizia Cassandra Crossing/ Dall'Occhio della Mente al buco in fronte
Ordina
  • Capisco che dopo l'invenzione dei "droni senza pilota" il problema è inquietante, comunque quanto fatto ha una sua logica (o il suo alibi per i più schierati).

    Chi lavora nel campo della sicurezza di solito non ha il compito di sparare a caso nella folla se vede un tizio che sta tirando fuori qualcosa di tasca ma semplicemente segnalarlo e tenerlo d'occhio, per valutare se è un pericolo oggettivo o no, solo che è molto difficile.

    Qualche mese fa, un noto attivista politico della rete, recatorsi a Piazza Duomo a Milano, in occasione della visita del papa, si è messo a riprendere i cecchini sui tetti.

    Dopo pochi secondi è stato avvicinato da due agenti in borghese che gli hanno chiesto i documenti e lui si è lamentato.

    Un tizio che sembrava il responsabile (benchè in Italia questa parola abbia un valore relativo) si è avvicinato e ha detto : "Guardi io non ce l'ho con lei, anzi adesso che so che è lei e la conosco non mi interessa più, semplicemente mi hanno segnalato che un tizio, stava puntando un tubo contro la sorveglianza, e noi abbiamo controllato".

    Nonostante le mie simpatie per il suddetto attivista, non mi sento di dare completamente torto al comportamento della Digos in quel particolare caso, e non penso che se il computer avesse segnalato un tizio con un tubo verso i cecchini, comunque non gli avrebbero sparato a prescindere, ma si sarebbero limitati ad isolarlo temporaneamente e riconoscerlo, come è sempre successo.

    Poi si sa che la stupidità umana non conosce confini, oltre oceano poi ne hanno fatto addirittura un dogma.
    non+autenticato
  • - Scritto da: Quelo

    > Poi si sa che la stupidità umana non conosce
    > confini,

    anche l'ingenuità...
    non+autenticato
  • Se ti riferisci a me, penso che il tuo filtro ontologico abbia sbagliato obiettivo.

    Io più che del riconoscimento ontologico, sono molto preoccupato del silenzio riguardo la schedatura di massa (come diceva l'architetto qui sopra), visto che in ogni istante da ogni telecamera, grazie alle tecniche di riconoscimento dei volti (non a caso sviluppati da aziende israeliane) e dell'analisi bayesiana continua dei flussi dei social network, è possibile non solo sapere chi presenzia ad un comizio, ma le sue abitudini di navigazione, il suo livello culturale , le sue simpatie politiche e la sua visione critica della realtà, molto meglio del controllo dell'immagine.

    Dunque non ho affermato che la verifica ontologica dei comportamenti anomali sia una cosa buona e sacrosanta nè che non veda un pericolo in questo, ho semplicemente messo i piedi per terra e detto che attualmente ( e sottolineo attualmente), tale analisi è comunque compiuta da operatori umani (soggetti ad errori e visioni soggettive) e che la loro segnalazione non porta al buco in fronte ma all'intervento umano di verifica e ho buona fiducia che le cose continuino ad essere così.

    Lo dico non per ingenuità ma perché realisticamente non sarebbe nell'interesse di nessuno compiere inspiegabili stragi di massa che porterebbero a sommosse e reazioni poco piacevoli da parte del pubblico

    >
    > anche l'ingenuità...
    non+autenticato
  • "... vuol dire "Ontologia" (termine informatico, e non filosofico), ..."

    Non sono d'accordo con questa sua affermazione, perché penso che l'ontologia sia la base stessa del concetto di controllo tanto osteggiato da Cassandra.

    Questa visione superficiale e limitata, è proprio quella che rende difficile spiegare i problemi relativi per esempio all'utilizzo dei social network come Facebook, il cui vantaggio economico non deriva certamente dal bannerino pubblicitario che ti mettono nella pagine, e che sono invece una base fondamentale su cui si basa il controllo sociale e l'inviduazione di anomalie.

    L'Ontologia, ossia la "ricerca del significato" , che si basa appunto sull'analisi statistica di dati empirici, è un concetto squisitamente "filosofico" che si fonde con la scienza dell'automazione e dell'intelligenza artificiale, in quella che è chiamata "Cibernetica".

    Cibernetica che non è assolutamente un termine informatico (come spesso troviamo erroneamente indicato) ed è legato invece alle radici della "Teoria del controllo", nella fatispecie applicata al comportamento umano, sia nel piccolo che in senso statistico appunto (ed è qui che subentrano i pericoli del riconoscimento facciale, del comportamento e dei social network).

    Preciso tutto questo non per disquisizione dialettica ma per sottolineare come con la Cibernetica applicata al mondo dell'informazione, vada compresa in senso molto più ampio in quanto in grado di controllare per esempio i meccanismi dell'economia (flussi di mercato) della democrazia (suffragi e sondaggi) e che ogni piccolo elemento che noi mandiamo in input al sistema è un elemento in più per favorire la reazione di controllo.

    Con l'ontologia applicata all'enorme mole di dati, si possono individuare le anomalie statistiche e prevenire i comportamenti considerati antisociali, o devianti dalla normalità, chi poi determini cosa sia la normalità e a quali scopi sia asservita o da parte di quali individui, è un problema che sarebbe interessante sviluppare, magari in sedi più opportune.
    non+autenticato
  • il reale problema non sono i "falsi positivi", ma utilizzare come forza militare qualcosa che obbedisce ciecamente agli ordini, senza una morale ed una volontà proprie; con una forza militare di questo tipo un governo oppressivo può tranquillamente sedare una rivolta sparando sulla folla senza che una scomoda coscienza si rifiuti di premere il grilletto
    non+autenticato
  • - Scritto da: vbxcvbcvb
    > il reale problema non sono i "falsi positivi", ma
    > utilizzare come forza militare qualcosa che
    > obbedisce ciecamente agli ordini, senza una
    > morale ed una volontà proprie; con una forza
    > militare di questo tipo un governo oppressivo può
    > tranquillamente sedare una rivolta sparando sulla
    > folla senza che una scomoda coscienza si rifiuti
    > di premere il grilletto

    trovami un sono marine americano che si sia mai rifiutato di premere il grilletto. Qui addirittura il pilota insiste per avere l'autorizzazione al fuoco http://it.wikipedia.org/wiki/File:Apache-killing-I...
    non+autenticato
  • il mondo non è solo usa, ci sono anche militari con una coscienza; ad esempio quei piloti libici che avevano ricevuto l'ordine di aprire il fuoco sui civili insorti, e si sono rifiutati, disertando ed atterrando a malta.
    È vero che di solito i militari non si fanno problemi a far fuoco anche sui civili purchè appartenenti alla nazione nemica; ma quando gli si ordina di fare fuoco su connazionali insorti, qualcuno mostra un barlume di coscienza.

    - Scritto da: 123
    > - Scritto da: vbxcvbcvb
    > > il reale problema non sono i "falsi positivi",
    > ma
    > > utilizzare come forza militare qualcosa che
    > > obbedisce ciecamente agli ordini, senza una
    > > morale ed una volontà proprie; con una forza
    > > militare di questo tipo un governo oppressivo
    > può
    > > tranquillamente sedare una rivolta sparando
    > sulla
    > > folla senza che una scomoda coscienza si rifiuti
    > > di premere il grilletto
    >
    > trovami un sono marine americano che si sia mai
    > rifiutato di premere il grilletto. Qui
    > addirittura il pilota insiste per avere
    > l'autorizzazione al fuoco
    > http://it.wikipedia.org/wiki/File:Apache-killing-I
    non+autenticato
  • - Scritto da: vbxcvbcvb
    > il mondo non è solo usa, ci sono anche militari
    > con una coscienza; ad esempio quei piloti libici
    > che avevano ricevuto l'ordine di aprire il fuoco
    > sui civili insorti, e si sono rifiutati,
    > disertando ed atterrando a
    > malta.

    Dio mio!
    Conosco due cose infinite: la propaganda e l'idiozia. Dove non arriva l'una, arriva l'altra.
  • ...Per la dose periodica di brividi e paranoia. Rimane solo una (immotivata?) speranza.
CONTINUA A LEGGERE I COMMENTI
Successiva
(pagina 1/2 - 6 discussioni)