Luca Annunziata

L'ONU mette al bando i robot-killer

Moratoria internazionale per proibire dal 2017 le macchine mortali. Non resta che convincere tutti, super-potenze comprese, a sottoscrivere i buoni propositi

Milano - La quinta edizione della conferenza quinquennale della Convention on Conventional Weapon, tenutasi a Ginevra, passerà alla storia per un accordo sulle armi robotiche: i 123 rappresentanti di altrettante nazioni che aderiscono a questa organizzazione, che nasce sotto l'egida dell'ONU, hanno firmato un protocollo di intesa che le impegna ad affrontare la spinosa questione delle armi che uccidono senza il controllo dell'uomo. Un tema attuale, visto che strumenti di questo tipo sono ormai prossimi a essere introdotti sui campi di battaglia.

Non siamo ancora alla scrittura delle leggi di Asimov sulla robotica, non ci saranno linee di codice che impediscono ai robot di danneggiare, ferire o uccidere gli esseri umani: nel caso dell'accordo stipulato c'è in ballo una moratoria completa di questi strumenti, ovvero delle armi che identificano in modo del tutto autonomo l'obiettivo su cui sparare e che attaccano senza che nessun soldato o essere umano intervenga in un momento qualsiasi per autorizzarle a far fuoco.

Sistemi di questo tipo sono potenzialmente più pericolosi di una semplice arma: il rischio che si "rivoltino" contro i loro creatori non è da liquidare con una semplice scrollata di spalle, senza contare che difficilmente una macchina sarebbe in grado di distinguere in modo efficace tra civili e militari in uno scenario urbano come quelli dove si stanno svolgendo moltissimi conflitti in questi anni. Inoltre, quando c'è un essere umano dietro il mirino e il grilletto di un fucile o di una pistola, c'è anche un individuo responsabile delle proprie azioni: a chi potrebbe essere chiesto conto dell'uccisione di un bambino nel caso in cui fosse un sistema automatico ad aver fatto partire la pallottola letale? Naturalmente, un sistema automatico di questo tipo sarebbe passibile anche di violazioni al software con conseguenze inusitate in termini di sicurezza.
Alla proposta per la discussione sulla moratoria si è unito un peso massimo dello scacchiere internazionale: c'è la Cina tra i 19 firmatari che hanno chiesto di valutare il bando per le armi-robot nel corso del prossimo anno, una buona notizia anche se è indispensabile che anche Stati Uniti e Russia salgano a bordo perché si riesca a raggiungere un risultato pieno. Con l'avallo delle super-potenze la strada di una moratoria di questo tipo sarebbe spianata: il principio sarebbe simile a quello che ha messo fine alla Guerra Fredda con la moratoria sulle testate nucleari, anche se in questo caso si punta a disinnescare il rischio ancor prima che le armi di questo tipo arrivino sul mercato.

Se pure questa moratoria sarà approvata, non è possibile escludere comunque che qualcuno non decida di sviluppare lo stesso la tecnologia dei robot-killer: tuttavia un bando internazionale renderà più difficile il loro impiego, oltre a rendere impossibile la commercializzazione. Se ciò non bastasse, IEEE ha iniziato anche a sviluppare un framework per la realizzazione di intelligenzi artificiali dotate di principi etici: in questo caso sì, ci si avvicina davvero moltissimo al concetto asimoviano di leggi della robotica, e l'importanza che IEEE ha in seno alla comunità scientifica potrebbe costituire il volano giusto affinché questi principi si affermino come pratica consolidata.

Luca Annunziata
28 Commenti alla Notizia L'ONU mette al bando i robot-killer
Ordina
  • non e' stata grazie alla moratoria sulle armi nucleari ma semplicemente perche, nel gioco "al rialzo" sugli investimenti militari, il sistema capitalistico-americano ha sopravanzato quello russo-sovietico causando il collasso di qeust'ultimo. Se i russi sofietici si fossero accontentati di essere dei buoni secondi senza continuare a mettere soldi nel posto spaglaito (ARMI) e non i quello gisuto (SVLILUPPO ECONOMICO SOCIALE) ora l'URSS ci sarebbe ancora. I cinesi hanno capito la lezione e lo micchieranno in culo al mondo senza nemmeno sparare un colpo. Le guerre di furbizia non richiedono armi e questo, i cowboy texani, non possono capirlo.
    non+autenticato
  • - Scritto da: ...
    > I cinesi hanno capito la lezione e lo
    > micchieranno in culo al mondo senza nemmeno
    > sparare un colpo.

    I cinesi sono i nuovi "eterni secondi":
    USA PIL 2016 (ottobre) = 18,56 billions of $
    Cina PIL 2016 (ottobre) = 11,39 billions of $
    non+autenticato
  • - Scritto da: ......
    > I cinesi sono i nuovi "eterni secondi":
    > USA PIL 2016 (ottobre) = 18,56 billions of $
    > Cina PIL 2016 (ottobre) = 11,39 billions of $

    Dove hai preso questi dati?
    Il sorpasso della Cina c'è già stato nell'estate del 2014.

    http://www.wallstreetitalia.com/ufficiale-cina-sor.../
    iRoby
    9514
  • - Scritto da: iRoby

    > Dove hai preso questi dati?

    http://statisticstimes.com/economy/countries-by-pr...
    non+autenticato
  • - Scritto da: ......
    > - Scritto da: ...
    > > I cinesi hanno capito la lezione e lo
    > > micchieranno in culo al mondo senza nemmeno
    > > sparare un colpo.
    >
    > I cinesi sono i nuovi "eterni secondi":
    > USA PIL 2016 (ottobre) = 18,56 billions of $
    > Cina PIL 2016 (ottobre) = 11,39 billions of $

    gli stati uniti avevano calcolato che sarebbero state necessarie 58 (non una di piu, non una di meno) testate nucleari a segno per annientare (la forza militare) dell'unione sovietica. Non serve uccidere tutti, serve uccidere solo neo posti giusti (grandi citta, basi militari, snodi ferroviari, fabbriceh, porti, ecc). A fronte di 58 necessarie, gli usa avevano, migliaia di testate pronte. i sovietici altrrettanto, quando gli sarebbe bastato fare meno i gradassi e accontnentarsi della capacita' distruttiva necessaria rinunciando a qeulla superflua. credo che i cinesi si accontentiso di restar secondi senza dissanguarsi inutilmente. e ti ricordo che parecchio del debito pubblico usa e' in mano alla cina. perche sparare se posso fare molto peggio semplicemente vendendo i tuoi titoli di stato facendo crollare la tuua economia? vincedrebbero senza sparare un colpo. oggigiorno "averlo piu grosso" dal punto di vista militare e' solo un elemento del gioco, mentre prima era il principale elemento del gioco.
    non+autenticato
  • La Cina ha in mano cosa?
    Il debito? Cosa è una battuta?

    Si si lo sappiamo che hanno tanti dollari, ma sono solo carta straccia o numeri su un conto corrente.

    In qualsiasi momento si può decidere un default o di non garantire nulla per quel debito.
    iRoby
    9514
  • - Scritto da: iRoby
    > La Cina ha in mano cosa?
    > Il debito? Cosa è una battuta?
    >
    > Si si lo sappiamo che hanno tanti dollari, ma
    > sono solo carta straccia o numeri su un conto
    > corrente.
    >
    > In qualsiasi momento si può decidere un default o
    > di non garantire nulla per quel
    > debito.

    cosa che oltre ad azzerare il debito verso la cina azzererebbe altresi la credibilita' degli usa nei confronti del mondo, causando una implosione economico/politico/sociale di scala planetaria.
    non+autenticato
  • Si, scatenando però una guerra.
    O credi che la cina stia a guardare?
    Bisogna separare, con il buonsnso, la teoria dalla pratica.
    non+autenticato
  • - Scritto da: iRoby
    > La Cina ha in mano cosa?
    > Il debito? Cosa è una battuta?
    >
    > Si si lo sappiamo che hanno tanti dollari, ma
    > sono solo carta straccia o numeri su un conto
    > corrente.
    >
    > In qualsiasi momento si può decidere un default o
    > di non garantire nulla per quel
    > debito.

    cosa che oltre ad azzerare il debito verso la cina azzererebbe altresi la credibilita' degli usa nei confronti del mondo, causando una implosione economico/politico/sociale di scala planetaria.
    non+autenticato
  • - Scritto da: ...
    > cosa che oltre ad azzerare il debito verso la
    > cina azzererebbe altresi la credibilita' degli
    > usa nei confronti del mondo, causando una
    > implosione economico/politico/sociale di scala
    > planetaria.

    Il denaro stampato dal nulla degli USA vale perché garantito da qualche migliaio di testate nucleari...

    Ed ogni volta che qualcuno lo ha messo in dubbio è partita la rappresaglia.

    Borsa del petrolio iraniana con valuta diversa dal dollaro, due volte alla vigilia dell'inaugurazione due navi cargo agganciano i cavi sottomarini in fibra ottica ed isolano le comunicazioni con l'Europa e oriente.
    http://punto-informatico.it/2182427/PI/News/strana...

    Saddam Hussein, Gheddafi, Chavez e quel petrolio venduto in altre valute:
    http://www.bellunopress.it/2015/09/08/egemonia-del.../

    Le 143 tonnellate d'oro rubate alla famiglia Gheddafi e quello rubato alle zecche della Libia, serviva per coniare il dinaro d'oro ed avere una valuta dal valore reale in tutto il mediterraneo. Cioè morte di Euro e dollaro.

    http://www.libreidee.org/2011/05/addio-dollaro-meg.../
    iRoby
    9514
  • - Scritto da: iRoby
    > La Cina ha in mano cosa?
    > Il debito? Cosa è una battuta?
    >
    > Si si lo sappiamo che hanno tanti dollari, ma
    > sono solo carta straccia o numeri su un conto
    > corrente.
    >
    > In qualsiasi momento si può decidere un default o
    > di non garantire nulla per quel
    > debito.

    Quindi per evitare di poter essere affossato economicamente dalla Cina , secondo te , gli USA si sparerebbero in testa dichiarando il default ???
    Ma oltre alla psicologia e l'economia , in quale altra materia non capisci un cazzo ?
  • Se dovessimo mettere al bando ogni forma di IA usata per uccidere, dovremmo bandire il 90% delle armi attuali.

    La guerra sta diventando sempre più appannaggio di chi ha le tecnologie ed il denaro per costruirle.

    In sostanza la guerra la sta vincendo chi crea denaro dal nulla, lo rigira all'industria bellica, la gente ben pagata viene messa al lavoro ad inventare sempre più micidiali armi.

    Ma gli altri paesi del mondo vengono tenuti in scacco con teorie economiche molto bislacche, con strane storie di debito pubblico da ridurre, pareggi di bilancio da perseguire ed un mare di altre cazzate di monetarismo ed economia...
    iRoby
    9514
  • - Scritto da: iRoby
    > Se dovessimo mettere al bando ogni forma di IA
    > usata per uccidere, dovremmo bandire il 90% delle
    > armi
    > attuali.
    >
    > La guerra sta diventando sempre più appannaggio
    > di chi ha le tecnologie ed il denaro per
    > costruirle.
    >
    > In sostanza la guerra la sta vincendo chi crea
    > denaro dal nulla, lo rigira all'industria
    > bellica, la gente ben pagata viene messa al
    > lavoro ad inventare sempre più micidiali
    > armi.
    >
    > Ma gli altri paesi del mondo vengono tenuti in
    > scacco con teorie economiche molto bislacche, con
    > strane storie di debito pubblico da ridurre,
    > pareggi di bilancio da perseguire ed un mare di
    > altre cazzate di monetarismo ed
    > economia...

    Se la gente(popolazioni) non erano rimbecillite tutte, invece di rubare le offerte in chiesa per comprare un pezzo di rame con scritta PANDORA, con l'elemosina rubata comprerebbe corde è coltelli e spazzerebbe via i lacché che propongono loro quel modo di vivere farlocco!

    Il problema invece è che alla gente che non vale più niente rimane solo comprare-possedere qualcosa da mostrare a pezzi di merda come loro.
    non+autenticato
  • - Scritto da: Il fuddaro
    > - Scritto da: iRoby
    > > Se dovessimo mettere al bando ogni forma di IA
    > > usata per uccidere, dovremmo bandire il 90%
    > delle
    > > armi
    > > attuali.
    > >
    > > La guerra sta diventando sempre più appannaggio
    > > di chi ha le tecnologie ed il denaro per
    > > costruirle.
    > >
    > > In sostanza la guerra la sta vincendo chi crea
    > > denaro dal nulla, lo rigira all'industria
    > > bellica, la gente ben pagata viene messa al
    > > lavoro ad inventare sempre più micidiali
    > > armi.
    > >
    > > Ma gli altri paesi del mondo vengono tenuti in
    > > scacco con teorie economiche molto bislacche,
    > con
    > > strane storie di debito pubblico da ridurre,
    > > pareggi di bilancio da perseguire ed un mare di
    > > altre cazzate di monetarismo ed
    > > economia...
    >
    > Se la gente(popolazioni) non erano rimbecillite
    > tutte, invece di rubare le offerte in chiesa per
    > comprare un pezzo di rame con scritta PANDORA,
    > con l'elemosina rubata comprerebbe corde è
    > coltelli e spazzerebbe via i lacché che
    > propongono loro quel modo di vivere
    > farlocco!
    >
    > Il problema invece è che alla gente che non vale
    > più niente rimane solo comprare-possedere
    > qualcosa da mostrare a pezzi di merda come
    > loro.

    Avete reso benissimo l'idea entrambi di come gira il mondo ed è così... una tristezza unica.

    Per quanto riguarda l'articolo l'ONU non conta nulla, basta vedere tutte le guerre in corso e non fa nulla e poi quisi sta parlando di super armi, gli Americani in prims faranno di tutto per averle sempre più "intelligenti" e di seguito gli altri, se poi in futuro si ci rivolteranno contro.....
    non+autenticato
  • - Scritto da: Mao99
    > Per quanto riguarda l'articolo l'ONU non conta
    > nulla, basta vedere tutte le guerre in corso e
    > non fa nulla
    Perché, come dicevo nel post sotto, le guerre sono un business, perché fermarle? L'importante è che siano lontane dai confini occidentali. Se poi ad Aleppo un missile "intelligente" uccide 300 civili, peccato, correggeremo il bug nel firmware, ma se a Berlino ne muoiono 12 è una tragedia. E' brutto da dire ma è così.

    > e poi quisi sta parlando di super
    > armi, gli Americani in prims faranno di tutto per
    > averle sempre più "intelligenti" e di seguito gli
    > altri, se poi in futuro si ci rivolteranno
    > contro.....
    Al momento il business più redditizio è quello del "soldato semplice", forse nelle armi super-evolute non hanno gli stessi margini di guadagno. Se riuscissero ad aumentare gli utili su queste armi sarebbe una vera tragedia...
    non+autenticato
  • - Scritto da: Il fuddaro
    > - Scritto da: iRoby
    > > Se dovessimo mettere al bando ogni forma di IA
    > > usata per uccidere, dovremmo bandire il 90%
    > delle
    > > armi
    > > attuali.
    > >
    > > La guerra sta diventando sempre più appannaggio
    > > di chi ha le tecnologie ed il denaro per
    > > costruirle.
    > >
    > > In sostanza la guerra la sta vincendo chi crea
    > > denaro dal nulla, lo rigira all'industria
    > > bellica, la gente ben pagata viene messa al
    > > lavoro ad inventare sempre più micidiali
    > > armi.
    > >
    > > Ma gli altri paesi del mondo vengono tenuti in
    > > scacco con teorie economiche molto bislacche,
    > con
    > > strane storie di debito pubblico da ridurre,
    > > pareggi di bilancio da perseguire ed un mare di
    > > altre cazzate di monetarismo ed
    > > economia...
    >
    > Se la gente(popolazioni) non erano rimbecillite
    > tutte, invece di rubare le offerte in chiesa per
    > comprare un pezzo di rame con scritta PANDORA,
    > con l'elemosina rubata comprerebbe corde è
    > coltelli e spazzerebbe via i lacché che
    > propongono loro quel modo di vivere
    > farlocco!
    >
    > Il problema invece è che alla gente che non vale
    > più niente rimane solo comprare-possedere
    > qualcosa da mostrare a pezzi di merda come
    > loro.


    ehehe io ho l'iphone 7: cazzo mi frega se per le Terre Rare necessarie fanno guerre in Africa? tanto sono negri, non hanno neppure l'anima! crepa di invidia, pezzente!
    non+autenticato
  • - Scritto da: Il fuddaro

    >
    > Se la gente(popolazioni) non erano rimbecillite
    > tutte, invece di rubare le offerte in chiesa per
    > comprare un pezzo di rame con scritta PANDORA,
    > con l'elemosina rubata comprerebbe corde è
    > coltelli e spazzerebbe via i lacché che
    > propongono loro quel modo di vivere
    > farlocco!
    >

    Se sai di un crowfounding a riguardo segnalalo !
    non+autenticato
  • La cosa ridicola, specie negli USA che hanno armi molto avanzate, è che non rinunciano al "business del soldato semplice". Reclutamento, addestramento, invio in missione, morte/invalidità permanente, ecc fanno girare grossi moli di denaro.

    Quindi ci sarà sempre il marine di fanteria, mandato spesso allo sbaraglio. Un singolo soldato al fronte è stato, è e sarà fonte di guadagno per un gran numero di aziende e istituzioni. Tanto la maggior parte di questi soldati vengono reclutati in contesti poveri, sarebbero diventati alcolizzati, drogati o delinquenti. Reclutandoli gli USA acchiappano due piccioni con una fava.

    Non dimentichiamo che la guerra è principalmente business.
    non+autenticato
  • No, si, ni.

    Diciamo che ormai il soldato usa è un mercenario ben pagato che altrimenti al fronte non ci andrebbe.

    Qualche anno fa nessuno si sarebbe sognato di fare manifestazioni come queste, dire queste cose e gettare le medaglie ricevute.

    iRoby
    9514
  • - Scritto da: iRoby
    > No, si, ni.
    >
    > Diciamo che ormai il soldato usa è un mercenario
    > ben pagato che altrimenti al fronte non ci
    > andrebbe.
    >
    > Qualche anno fa nessuno si sarebbe sognato di
    > fare manifestazioni come queste, dire queste cose
    > e gettare le medaglie
    > ricevute.
    >
    >


    E brutto dirlo ma la povertà è un'opportunità per i signori(merde)della guerra.

    Per 100 che rinsaviscono ci sono 100milioni pronti a fare il soldato pur di svoltare le loro vite e quelle dei loro famigliari.Triste
    non+autenticato
  • - Scritto da: Il fuddaro
    > E brutto dirlo ma la povertà è un'opportunità per
    > i signori(merde)della
    > guerra.
    >
    > Per 100 che rinsaviscono ci sono 100milioni
    > pronti a fare il soldato pur di svoltare le loro
    > vite e quelle dei loro famigliari .
    >Triste

    Anche la scarsa , o assente, istruzione scolastica é un'opportunitá.
  • Più la tecnologia offre distacco tra l'uomo e il suo nemico od ogni altra possibile vittima, più diventa facile uccidere.
    Non l'ho detto io, è un discorso iniziato da Konrad Lorenz che ha notato come le armi moderne aumentando la distanza riducono l'impatto emotivo su chi le usa.

    Quanta differenza c'è tra un programma e un operatore che guidando un drone dalla sua stanza a migliaia di chilometri di distanza preme il bottone?
    Quale differenza ci può essere tra un bug nel software ed un operatore che interpreta male immagini video?
    Quale differenza ci può essere tra un bug nel software ed un operatore che ha avuto una giornata storta o è incazzato da tempo e gestisce un drone in un'area dove può fare quello che vuole?
    non+autenticato
  • non e' ipocrisia, nessuno dichiara di voler bandire le armi, o le telearmi,
    ma solo lo sviluppo di robot dotati uso autonomo delle armi. in questo senso e' qualcosa di utile da farsi, perche lo sviluppo in questo senso del mercato sembra proprio maturo.
    non+autenticato
  • - Scritto da: rudy
    > non e' ipocrisia, nessuno dichiara di voler
    > bandire le armi, o le telearmi,
    >
    > ma solo lo sviluppo di robot dotati uso autonomo
    > delle armi.

    Ma hai letto il mio post? Sto dicendo che la differenza tra le due cose è molto minore di quello che credi.

    > in questo senso e' qualcosa di utile
    > da farsi, perche lo sviluppo in questo senso del
    > mercato sembra proprio
    > maturo.

    Da anni.
    non+autenticato