Marco Calamari

Lampi di Cassandra/ Uccido, dunque sono

di M. Calamari - Non solo droni volanti progettati per la guerra, non solo Terminator armati di tutto punto. Esistono anche Skynet e Invernomuto, intelligenze artificiali che potrebbero covare minacce per l'uomo

Lampi di Cassandra/ Uccido, dunque sonoRoma - Cassandra si è occupata, da tempo ed anche di recente, del problema della armi autonome, cioè di quei sistemi che, non solo con il volto di Schwarzenegger, hanno recitato la parte dei protagonisti in "Terminator" di James Cameron.

Informazioni pubblicate con una certa superficialità negli ultimi tre anni rendono evidente, a chiunque abbia voglia di guardare oltre il proprio naso, la velocità con cui queste armi autonome si stanno evolvendo grazie all'interesse altissimo dei militari nei paesi più tecnologicamente evoluti.
Non occorre infatti essere profeti per vedere quanto lo spazio tra i droni volanti che incrociano nei nostri cieli e quelli argentati che la fanno da padroni nei vari episodi della saga interpretata dal governatore della California si stia riducendo: questo stando alle notizie pubbliche, ma esistendo il segreto militare non è dato sapere se questo spazio si sia addirittura annullato, e quindi se solo una porta ci separi ormai dal nostro terminator quotidiano.

Sono terminator con la "t" minuscola, oggetti destinati ad un uso comune, ovviamente solo contro i "cattivi" per "missioni di pace" e per "risparmiare vite umane" dei militari.
Pare invece escluso, almeno nei comunicati ufficiali, che servano per ridurre i costi della guerra, e per rendere ancora più ampio quel già grande ventaglio di situazioni che è ben difficile chiamare "pace" ma che non sono nemmeno guerra dichiarata, e che tanto comodo fanno alla politica internazionale.
Ma pare anche che altri comincino a condividere le preoccupazioni di Cassandra: è notizia recente che l'Università di Cambridge (mica bruscolini) abbia deciso di aprire un centro studi dedicato a valutare le minacce che robot, droni ed intelligenze artificiali possono rappresentare per l'umanità.

In questo contesto rappresenta la dimostrazione non solo che la paranoia è una virtù, ma anche e sopratutto che la paranoia non è mai abbastanza. A Cassandra, infatti, non era mai passato per la mente di includere le intelligenze artificiali nel novero delle minacce e, perché no, delle armi intelligenti, probabilmente in quanto prive di occhi rossi lampeggianti, canne rotanti e lanciamissili.
O forse è perchè i vecchi informatici sentono parlare di I.A. fin da prima della laurea, ed in trent'anni non hanno mai visto succedere niente.

Però il profeta Cameron nel suo sacro testo ha inserito il secondario ma importante personaggio di Skynet, il sistema difensivo che diventa senziente, e per prima cosa, nella migliore tradizione della fantascienza anni '60, tenta di distruggere l'umanità. Skynet è un'intelligenza artificiale, proprio come Invernomuto in "Neuromante" di Gibson.

Ma è certo che l'utilizzo di software che, se non addirittura autocosciente, comunque possa essere superumano e controllare le persone, ci aspetta in un futuro molto prossimo: tutto sommato Deep Blue di IBM ha battuto il campione mondiale di scacchi, ed anche se la sua architettura usa molta forza bruta e conoscenza pregressa per lavorare, i suoi fratelli potrebbero tranquillamente essere ad esempio i sistemi di controllo del progetto Occhio della Mente di cui abbiamo parlato recentissimamente, e rientrare a tutto diritto tra i sistemi che si sostituiscono all'uomo, lo controllano e possono agire, anche se solo indirettamente, contro di lui.

Questo è un tassello che mancava persino al mosaico delle paranoie di Cassandra.
Un sentito grazie, anche a nome vostro, ai "colleghi" di Cambridge per
averlo capito e reso pubblico. Ma soprattutto grazie per aver dimostrato che c'è anche qualcuno che, invece di inventare nuove tecnologie per gli armamenti, si preoccupa per gli effetti di quelle presenti e future.

Quale sarà il test di validazione di una I.A. militare? Uccidere il suo primo nemico?
Il suo primo pensiero sarà "uccido, dunque sono"?

Marco Calamari
Lo Slog (Static Blog) di Marco Calamari

Tutte le release di Cassandra Crossing sono disponibili a questo indirizzo
Notizie collegate
15 Commenti alla Notizia Lampi di Cassandra/ Uccido, dunque sono
Ordina
  • No!
    Stavolta non ci siamo!
    Evocare skynet e gli scenari alla Philp Dick (per inciso... grande scrittore dal mio punto di vista) non è la "cosa giusta" da fare!
    Andiamo al dunque!
    Il dunque è che dietro la "mano" del drone c'è (e non indirettamente ma direttamente) la "mano dell'assassino!
    E questo a prescindere da quanto sia "sofisticato" tecnologicamente il drone!
    Lo scenario era già praticamente lo stesso con le avioniche ultramoderne delle ultime generazioni di caccia, di elicotteri d'attacco e di caccia da attacco al suolo (caccia bombardieri)!
    Il fatto che il joistik di un Vulcan GAU-8/A o Avenger faccia sembrare un videogame lo strazio che provocano i proiettili da 30-MM (è un cannone a canne multiple rotanti) a 4200 giri al minuto non lo rende un videogame sul serio!

    Il fatto che si piloti un Drone continua a non essere un video-game!
    Non c'è SCUSANTE!
    Dietro la macchina c'è una responsabilità precisa che non si può celare dietro l'apparente spersonalizzazione!
    TROPPO COMODO!
    Diciamo le cose come stanno c'è chi da gli ordini e c'è chi li esegue e in ambedue i casi si tratta di UMANI a cui restano tutte intere le responsabilità le ferocie e quanto di altro nefando stia nella azione!
    La "colpa" non si può COMODAMENTE scaricare su un robot o un replicante!
    Gli schizzi di sangue il puzzo di carne umana bruciata, l'orrore di tutto questo i sensori sono incapaci di trasmetterla (non sono fatti per quello) ma chi usa l'arma lo sa chi è che tira il grilletto e l'orrore è interamente a SUO CARICO!
    non+autenticato
  • C'è sempre un uomo che "preme il grilletto" e decide se il bersaglio è tale per adesso. Le regole sono queste.
    Se conosco i militari qualcuno però scoprirà che sarà più veloce e quindi più efficiente scavalcare i protocolli di sicurezza. Non necessariamente l'IA.. Anzi..
  • - Scritto da: TuttoaSaldo
    > C'è sempre un uomo che "preme il grilletto" e
    > decide se il bersaglio è tale per adesso. Le
    > regole sono queste.
    > Se conosco i militari qualcuno però scoprirà che
    > sarà più veloce e quindi più efficiente
    > scavalcare i protocolli di sicurezza. Non
    > necessariamente l'IA..
    > Anzi..

    Domanda: negli anni della guerra fredda, in caso di attacco qualcuno avrebbe dovuto premere il grilletto ...

    Ecco trovato: http://it.wikipedia.org/wiki/Guerra_nucleare

    Subito prima di Bibliografia "...e dal governo centrale di Washington DC che con l'ausilio di una rete di elaboratori digitali collegati ad un circuito telematico satellitare ad alta priorità avrebbe permesso un'azione strategica automatica di risposta ad un'eventuale attacco atomico da parte dell'Unione Sovietica in Europa."
    krane
    22544
  • > Ecco trovato:
    > http://it.wikipedia.org/wiki/Guerra_nucleare
    >
    > Subito prima di Bibliografia "...e dal governo
    > centrale di Washington DC che con l'ausilio di
    > una rete di elaboratori digitali collegati ad un
    > circuito telematico satellitare ad alta priorità
    > avrebbe permesso un'azione strategica automatica
    > di risposta ad un'eventuale attacco atomico da
    > parte dell'Unione Sovietica in
    > Europa."



    - Scritto da: krane
    > - Scritto da: TuttoaSaldo
    > > C'è sempre un uomo che "preme il grilletto" e
    > > decide se il bersaglio è tale per adesso. Le
    > > regole sono queste.
    > > Se conosco i militari qualcuno però scoprirà
    > che
    > > sarà più veloce e quindi più efficiente
    > > scavalcare i protocolli di sicurezza. Non
    > > necessariamente l'IA..
    > > Anzi..
    >
    > Domanda: negli anni della guerra fredda, in caso
    > di attacco qualcuno avrebbe dovuto premere il
    > grilletto
    > ...
    >
    > Ecco trovato:
    > http://it.wikipedia.org/wiki/Guerra_nucleare
    >
    > Subito prima di Bibliografia "...e dal governo
    > centrale di Washington DC che con l'ausilio di
    > una rete di elaboratori digitali collegati ad un
    > circuito telematico satellitare ad alta priorità
    > avrebbe permesso un'azione strategica automatica
    > di risposta ad un'eventuale attacco atomico da
    > parte dell'Unione Sovietica in
    > Europa."

    Dottor FalkenVuole, era tampo tempo che non la sentivo, vuole giocare a guerra termonucleare globale?

    No mai successo, persino l'IA del dott. Falken deve trovarsi i codici prima di lanciare Occhiolino

    http://en.wikipedia.org/wiki/Gold_Codes
  • - Scritto da: TuttoaSaldo

    > - Scritto da: krane
    > > - Scritto da: TuttoaSaldo
    > > > C'è sempre un uomo che "preme il
    > grilletto"
    > e
    > > > decide se il bersaglio è tale per adesso.
    > Le
    > > > regole sono queste.
    > > > Se conosco i militari qualcuno però
    > scoprirà
    > > che
    > > > sarà più veloce e quindi più efficiente
    > > > scavalcare i protocolli di sicurezza. Non
    > > > necessariamente l'IA..
    > > > Anzi..
    > >
    > > Domanda: negli anni della guerra fredda, in caso
    > > di attacco qualcuno avrebbe dovuto premere il
    > > grilletto
    > > ...
    > >
    > > Ecco trovato:
    > > http://it.wikipedia.org/wiki/Guerra_nucleare
    > >
    > > Subito prima di Bibliografia "...e dal governo
    > > centrale di Washington DC che con l'ausilio di
    > > una rete di elaboratori digitali collegati ad un
    > > circuito telematico satellitare ad alta priorità
    > > avrebbe permesso un'azione strategica automatica
    > > di risposta ad un'eventuale attacco atomico da
    > > parte dell'Unione Sovietica in
    > > Europa."
    >
    > Dottor FalkenVuole, era tampo tempo che non la
    > sentivo, vuole giocare a guerra termonucleare
    > globale?
    >
    > No mai successo, persino l'IA del dott. Falken
    > deve trovarsi i codici prima di lanciare
    > Occhiolino
    >
    > http://en.wikipedia.org/wiki/Gold_Codes

    Le famose due chiavi ai due lati della porta lontane da usare insiemeA bocca aperta
    Che film era gia ?? BohA bocca aperta
    Comunque va a sapere cosa si combinava ai tempi della guerra freddaA bocca aperta c'e' sempre la bomba fine di mondo pronta Rotola dal ridere
    krane
    22544
  • - Scritto da: krane
    > - Scritto da: TuttoaSaldo
    > > C'è sempre un uomo che "preme il grilletto" e
    > > decide se il bersaglio è tale per adesso. Le
    > > regole sono queste.
    > > Se conosco i militari qualcuno però scoprirà
    > che
    > > sarà più veloce e quindi più efficiente
    > > scavalcare i protocolli di sicurezza. Non
    > > necessariamente l'IA..
    > > Anzi..
    >
    > Domanda: negli anni della guerra fredda, in caso
    > di attacco qualcuno avrebbe dovuto premere il
    > grilletto
    > ...
    >
    > Ecco trovato:
    > http://it.wikipedia.org/wiki/Guerra_nucleare
    >
    > Subito prima di Bibliografia "...e dal governo
    > centrale di Washington DC che con l'ausilio di
    > una rete di elaboratori digitali collegati ad un
    > circuito telematico satellitare ad alta priorità
    > avrebbe permesso un'azione strategica automatica
    > di risposta ad un'eventuale attacco atomico da
    > parte dell'Unione Sovietica in
    > Europa."
    Della serie "il dottor stranamore"?A bocca aperta
  • Philip K. Dick, Second Variety (Modello 2).

    Se Terminator si avvicina al presente allora "Modello due" ci prospetta quale è il prossimo futuro...
    non+autenticato
  • - Scritto da: poiuy
    > Philip K. Dick, Second Variety (Modello 2).
    > Se Terminator si avvicina al presente allora
    > "Modello due" ci prospetta quale è il prossimo futuro...

    Ottima citazione; c'e' anche una trasposizione cinematografica "Screamers".

    Comunque speriamo di non essere noi! (cfr. "Impostore")
    non+autenticato
  • - Scritto da: poiuy
    > Philip K. Dick, Second Variety (Modello 2).
    >
    > Se Terminator si avvicina al presente allora
    > "Modello due" ci prospetta quale è il prossimo
    > futuro...

    Ma prendi invece Asimov, nel ciclo dei robot alla fine le macchine prendono il controllo dell'umanità per obbedire alla prima legge e tutelare l'umanità stessa.

    Chi può dire verso quale scenario stiamo andando?
    2678
  • - Scritto da: gerry
    > Ma prendi invece Asimov, nel ciclo dei robot alla
    > fine le macchine prendono il controllo
    > dell'umanità per obbedire alla prima legge e
    > tutelare l'umanità stessa.
    >
    >
    > Chi può dire verso quale scenario stiamo andando?

    E tu prendi Williamson e il suo ciclo degli Umanoidi, anche loro desiderosi di "tutelare l'umanità" (preferirei essere ammazzato da Terminator piuttosto che essere tutelato così). Io dico che tra tutti gli scenari possibili l'unico accettabile è quello in cui il controllo lo teniamo noi.
    jaro
    321
  • - Scritto da: jaro
    > - Scritto da: gerry
    > > Ma prendi invece Asimov, nel ciclo dei robot
    > alla
    > > fine le macchine prendono il controllo
    > > dell'umanità per obbedire alla prima legge e
    > > tutelare l'umanità stessa.
    > >
    > >
    > > Chi può dire verso quale scenario stiamo
    > andando?
    >
    > E tu prendi Williamson e il suo ciclo degli
    > Umanoidi, anche loro desiderosi di "tutelare
    > l'umanità" (preferirei essere ammazzato da
    > Terminator piuttosto che essere tutelato così).
    > Io dico che tra tutti gli scenari possibili
    > l'unico accettabile è quello in cui il controllo
    > lo teniamo
    > noi.
    "Noi" chi, però?Con la lingua fuori
  • - Scritto da: jackoverfull
    > - Scritto da: jaro

    > > E tu prendi Williamson e il suo ciclo degli
    > > Umanoidi, anche loro desiderosi di "tutelare
    > > l'umanità" (preferirei essere ammazzato da
    > > Terminator piuttosto che essere tutelato
    > così).
    > > Io dico che tra tutti gli scenari possibili
    > > l'unico accettabile è quello in cui il
    > controllo
    > > lo teniamo
    > > noi.
    > "Noi" chi, però?Con la lingua fuori

    "We the People", per citare una famosa costituzione.
    jaro
    321
  • - Scritto da: jaro

    > > "Noi" chi, però?Con la lingua fuori
    >
    > "We the People", per citare una famosa
    > costituzione.





    Occhiolino
  • proprio oggi leggevo che chi li pilota molto spesso si annoia (ricerca del MIT):

    http://web.mit.edu/newsoffice/2012/boredom-and-unm...

    forse non ci sono abbastanza "pixel cattivi" da far fuori?
    non+autenticato
  • Deep Fool non ha mai battuto nessuno a scacchi! Arrabbiato

    IBM tira fuori i tuoi sporchi LOG!!!! Arrabbiato Arrabbiato
    non+autenticato