Luca Annunziata

1999, la rivolta delle macchine

Scenari da fantascienza, robot che prendono di mira l'uomo. È già realtà, è già successo: succederà ancora, se non si farà qualcosa per impedirlo

Roma - Macchine impazzite che travolgono esseri umani, preda del delirio della loro intelligenza artificiale. Non si tratta di un best seller del compianto Sir Arthur Clarke, o di una sceneggiatura di James Cameron: il primo caso di computer fuori controllo che causa la morte di un gruppo di persone risale al 1999, e più precisamente all'incidente del 10 giugno a Bellingham (Washington, USA), quando una conduttura che trasportava gasolio si ruppe riversando centinaia di migliaia di litri di carburante e causando un incendio in cui morirono tre persone.

Sono queste le conclusioni a cui è giunto Joe Weiss, esperto di sicurezza informatica, che in un seminario tenuto in questi giorni alla RSA Conference 2008 ha spiegato di aver "analizzato le registrazioni di oltre 90 incidenti avvenuti nelle industrie di tutto il mondo", e di aver stabilito che a causare quel terribile incendio nello stato del nord-ovest hanno certo contribuito i danni fisici alla conduttura e una valvola difettosa, ma che la causa principale del problema fu il sistema informatico che controllava l'impianto.

Un blocco dei computer, iniziato trenta minuti prima della tragedia, impedì ai tecnici di provvedere ad una procedura di emergenza per diminuire la pressione nella conduttura. Una eventualità che oggi, secondo Weiss, si sarebbe potuta evitare: secondo l'esperto, la sicurezza di questo tipo di impianti industriali dipende dall'approvazione di uno standard, il NIST 800-53, che dovrebbe essere in grado di garantire che tragedie del genere non si ripetano.
Se il NIST 800-53 venisse approvato quest'anno, come previsto, diventerebbe automaticamente obbligatorio per tutte le agenzie federali. L'auspicio di Weiss è che anche i privati, le grandi aziende, decidano di adottarlo: con la sua introduzione diventerebbero una realtà registri di sistema non modificabili, password individuali, e account utente con poteri limitati alle mansioni specifiche. Tutte precauzioni che non c'erano a Bellingham, e che oltre ad aver causato morti e feriti, hanno impedito di stabilire se ci fossero responsabilità del personale presente nel centro di controllo dell'impianto.

Weiss, che un tempo era un esperto progettista dei sistemi di controllo, è preoccupato dalla situazione: "Fino ad otto anni fa la mia vita consisteva nel realizzare sistemi di controllo usabili ed efficienti e, nel contempo, estremamente vulnerabili: ed è proprio quanto trovereste ancora oggi in moltissime realtà industriali. Il problema è che non siamo nel 1999, ormai siamo nel 2008".

Il rischio, come dimostra la conferenza tenuta da Ira Winkler durante la stessa manifestazione, è che fatti del genere possano ripetersi. L'allarme è stato lanciato da tempo dagli addetti ai lavori. Ai computer sono sempre più spesso affidate mansioni importanti, che potenzialmente possono mettere in gioco moltissime vite umane. E quando sbagliano, gli effetti possono essere devastanti.



Luca Annunziata
37 Commenti alla Notizia 1999, la rivolta delle macchine
Ordina
  • Ma dai basta con queste notizie! quali intelligenze artificiali! magari esistessero con quel casino che l'uomo sta facendo ci risolverebbero un sacco di problemi, altro che rivolta!
    non+autenticato
  • Ricarica la pagina, cideve essere un token che scade.
    non+autenticato
  • Mi domando...

    1)Non sono intelligenze artificiali ma solo meri programmi.

    2)I programmi fanno quello che l'uomo gli implementa, se l'uomo sbaglia i computer seguono a ruota.

    3)L'uomo ha una intelligenza NON arificiale e fa un sacco di casini...perche' una sua creazione dovrebbe fare diversamente?!

    4)Forse un diorno avremo una vera e propria intelligenza,in grado di evolvere autonomamente e di aggiustare tutti gli "errori di programmazione" causati da quella creatura carbonio chiamata uomo.
    PEr allora spero di non esistere piu'...tutto quello che mi piace della vita verrebbe meno, solo diventando MACCHINE potremo continuare ad esistere come specie DOMINANTE.
    Ma credo che per allora dovremo anche eliminare i nostri punti deboli,cose che fanno parte della nostra umanita'.
    COSA diverremo e' forse impossibile da prevedere adesso...
    non+autenticato
  • - Scritto da: Ricky
    > Mi domando...
    >
    > 1)Non sono intelligenze artificiali ma solo meri
    > programmi.
    >
    > 2)I programmi fanno quello che l'uomo gli
    > implementa, se l'uomo sbaglia i computer seguono
    > a
    > ruota.
    >
    > 3)L'uomo ha una intelligenza NON arificiale e fa
    > un sacco di casini...perche' una sua creazione
    > dovrebbe fare
    > diversamente?!
    >
    > 4)Forse un diorno avremo una vera e propria
    > intelligenza,in grado di evolvere autonomamente e
    > di aggiustare tutti gli "errori di
    > programmazione" causati da quella creatura
    > carbonio chiamata
    > uomo.
    > PEr allora spero di non esistere piu'...tutto
    > quello che mi piace della vita verrebbe meno,
    > solo diventando MACCHINE potremo continuare ad
    > esistere come specie
    > DOMINANTE.
    > Ma credo che per allora dovremo anche eliminare i
    > nostri punti deboli,cose che fanno parte della
    > nostra
    > umanita'.
    > COSA diverremo e' forse impossibile da prevedere
    > adesso...

    Ma sei affetto da asperger?
    E' evidente che il titolo è volutamente ad effetto (figura retorica chiamata iperbole), e l'articolo punta l'indice non tanto contro le macchine, quanto contro sistemi di controllo con policy di sicurezza non adeguati.
  • Il sensazionalismo secondo me è un po' fuori luogo. Stanno bene i titoli simpatici, ma io m'aspettavo di leggere tutt'altro.. Qualche giorno fa ad esempio, il lettore dvd del mio pc ha sputato fuori un dvd, questo è schizzato fuori e non ti dico in che condizioni l'ho ritrovato.. ovviamente è stato un tentato omicidio, voleva tagliarmi la gola il mio pc, solo per aver parlato di windows in sua presenza.. damn!

    Che c'azzecca questa storia con l'articolo?! Niente! Come il titolo A bocca apertaA bocca aperta
    non+autenticato
  • Ave.

    Questi Computers in realtà sono delle "macchine calcolatrici"...semplici giocattolini!

    I veri computers devono ancora arrivare.

    A presto
    Nilok
    Nilok
    1925
  • - Scritto da: Nilok
    > Ave.
    >
    > Questi Computers in realtà sono delle "macchine
    > calcolatrici"...semplici
    > giocattolini!
    >
    > I veri computers devono ancora arrivare.
    >
    > A presto
    > Nilok

    perchè scusa cosa vuoi dai computers oltre a fare i calcoli?
    non+autenticato
  • - Scritto da: Mazzuti
    > - Scritto da: Nilok
    > > Ave.
    > >
    > > Questi Computers in realtà sono delle "macchine
    > > calcolatrici"...semplici
    > > giocattolini!
    > >
    > > I veri computers devono ancora arrivare.
    > >
    > > A presto
    > > Nilok
    >
    > perchè scusa cosa vuoi dai computers oltre a fare
    > i
    > calcoli?

    governare il mondo.
    (e rendere finalmente inutili i politicanti)
    non+autenticato
  • Macchine impazzite che travolgono esseri umani = hanno scritto anche un romanzo famosissimo pubblicato da Urania: . Chissá se Luca Annunziata lo ha letto o ha scritto la frase solo per far scena.

    Beh, altri esempi di computer che si ribellano (nei film) sono Terminator (Skynet), quello dei prof assassini: Classe 1999 e i vecchisssssssimi Westworld e il seguito Futureworld
    non+autenticato
  • - Scritto da: Termite
    > Macchine impazzite che travolgono esseri umani =
    > hanno scritto anche un romanzo famosissimo
    > pubblicato da Urania: . Chissá se Luca Annunziata
    > lo ha letto o ha scritto la frase solo per far
    > scena.
    >
    > Beh, altri esempi di computer che si ribellano
    > (nei film) sono Terminator (Skynet), quello dei
    > prof assassini: Classe 1999 e i vecchisssssssimi
    > Westworld e il seguito
    > Futureworld

    Aggiungerei anche Generazione Proteus
    non+autenticato
  • me lo sono letto, molto carino.
    non+autenticato
  • E non ci dimentichiamo di odissea nello spazio proposto dal video dell'articolo. A essere sincero l'ho trovato pesante e lento come film e l'ho guardato solo per curiosità xkè ne sentivo spesso parlare
    non+autenticato
  • > Westworld e il seguito

    Conosciuto in italia con il titolo de "Il mondo dei robot".

    Molto bello, intelligente e pionieristico visto che si trattava del 1973!
    non+autenticato
  • - Scritto da: ugo ugo
    > > Westworld e il seguito
    >
    > Conosciuto in italia con il titolo de "Il mondo
    > dei
    > robot".
    >
    > Molto bello, intelligente e pionieristico visto
    > che si trattava del
    > 1973!

    Quello con Yul Brynner che alla fine rimane senza faccia ? Mitico !!!
    non+autenticato
  • C'è anche Brivido, libro di Stephen King, film diretto da Stephen King, musica degli AC/DC. Il libro non so, ma il film era abbastanza penoso...


    - Scritto da: Termite
    > Macchine impazzite che travolgono esseri umani =
    > hanno scritto anche un romanzo famosissimo
    > pubblicato da Urania: . Chissá se Luca Annunziata
    > lo ha letto o ha scritto la frase solo per far
    > scena.
    >
    > Beh, altri esempi di computer che si ribellano
    > (nei film) sono Terminator (Skynet), quello dei
    > prof assassini: Classe 1999 e i vecchisssssssimi
    > Westworld e il seguito
    > Futureworld
    non+autenticato
CONTINUA A LEGGERE I COMMENTI
Successiva
(pagina 1/2 - 7 discussioni)