Alfonso Maruccia

Difendere l'umanità dall'intelligenza artificiale

Una prestigiosa università britannica propone una task force per proteggere l'uomo dall'estinzione. Che sia a causa del nucleare, della natura o delle macchine

Roma - I ricercatori della Cambridge University propongono l'istituzione di un Centro Studi sul Rischio Esistenziale (CSER), con l'obiettivo specifico di analizzare accuratamente i potenziali rischi alla sopravvivenza della specie umana. Iniziativa voluta da un filosofo, uno scienziato e un ingegnere del software, il CSER dovrebbe avere il compito di valutare quale impatto potrebbero avere sull'esistenza dell'uomo fattori di rischio come il biotech e le nanotecnologie, cambiamenti climatici estremi, guerre termonucleari e la nascita dell'intelligenza artificiale.

Un problema di cui si comincia a parlare con sempre maggior attenzione, quello della possibile estinzione della razza umana, e che nel caso delle macchine intelligenti ha già prodotto allarmi "ufficiali" diramati dalle organizzazioni come Human Rights Watch.

I promotori di CSER mettono in guardia dalla creazione futura di una "intelligenza generale artificiale" (AGI), capace di programmare e costruire macchine tutta da sola e che potrebbe entrare in conflitto con le esigenze di sopravvivenza della specie che per prima quelle macchine ha costruito. Tra l'uomo e la AGI potrebbe instaurarsi una sorta di competizione per lo sfruttamento delle risorse, dice il filosofo (e co-fondatore di CSER) Huw Price, nella stessa maniera in cui i gorilla e gli umani si contendono il territorio in questo momento.
I gorilla sono in estinzione non perché l'uomo sia apertamente ostile, spiega Price, ma perché il suo modo di controllare l'ambiente esterno va a esclusivo vantaggio della sua specie e non si cura minimamente delle esigenze delle altre. In questo secolo o in quello successivo, dice Price, quando la AGI arriverà al punto da sfuggire ai limiti della biologia per avviare un proprio ciclo evolutivo autonomo, l'uomo si troverà davanti a un momento da "vaso di Pandora" la cui sottovalutazione potrebbe portare a effetti disastrosi per l'intera specie umana.

Alfonso Maruccia
Notizie collegate
  • Digital LifeLa disumanità dei robotHuman Rights Watch mette in guardia dai rischi dei droni capaci di agire autonomamente, e spinge affinché li si metta al bando. La guerra è una questione di uomini, non di macchine
44 Commenti alla Notizia Difendere l'umanità dall'intelligenza artificiale
Ordina
  • ...e che siano migliori di noi.
    Io, da parte mia, do il benvenuto ai miei nuovi dominatori ciberneticiCon la lingua fuori
    Non fatemi troppo male, neh!Con la lingua fuori
    Funz
    13021
  • ma.... esiste al giorno d'oggi un computer o una rete di computer che abbia preso coscienza di se?

    lo chiedo perché fino a che non avremo tale risultato, è perfettamente inutile parlare di intelligenza artificiale... altrimenti dovrei dire che anche il mi orologio a cucù del 1870 ha tale caratteristica?

    Cosa significa IA? che è in gradi di risolvere problemi più o meno complicati?... ma chi lo ha programmato per tale caratteristica?

    No.... un essere umano è molto di più... per esempio può perdonare e decidere di non eseguire una azione dovuta dalla sua programmazione.
    Quale macchina può fare una cosa del genere?
    Un poliziotto ha il dovere di arrestare in un modo o nell'altro i malviventi... ma contro gli ordini, le leggi e convinzioni può anche decidere di lasciarlo scappare, magari perché guardandolo negli occhi gli ha fatto pena, oppure perché aveva una vaga somiglianza con suo fratello.

    Fino a che non avremo macchine con coscienza di esistere, possiamo solo dire che abbiamo sviluppato qualche cosa leggermente più sofisticato di un orologio a pendolo....del resto la tecnologia moderna è solo un insieme di effetti speciali, ma non è nulla di più.

    Non occorre preoccuparsi per la nostra sopravvivenza... a meno di non vivere in città... li si che il pericolo è mortale.... sia per l'inquinamento spaventoso che per la deliquenza.
    non+autenticato
  • - Scritto da: max
    > ma.... esiste al giorno d'oggi un computer o una
    > rete di computer che abbia preso coscienza di
    > se?
    >
    > lo chiedo perché fino a che non avremo tale
    > risultato, è perfettamente inutile parlare di
    > intelligenza artificiale... altrimenti dovrei
    > dire che anche il mi orologio a cucù del 1870 ha
    > tale
    > caratteristica?
    >
    > Cosa significa IA? che è in gradi di risolvere
    > problemi più o meno complicati?... ma chi lo ha
    > programmato per tale
    > caratteristica?
    >
    > No.... un essere umano è molto di più... per
    > esempio può perdonare e decidere di non eseguire
    > una azione dovuta dalla sua
    > programmazione.
    > Quale macchina può fare una cosa del genere?
    > Un poliziotto ha il dovere di arrestare in un
    > modo o nell'altro i malviventi... ma contro gli
    > ordini, le leggi e convinzioni può anche decidere
    > di lasciarlo scappare, magari perché guardandolo
    > negli occhi gli ha fatto pena, oppure perché
    > aveva una vaga somiglianza con suo
    > fratello.
    >
    > Fino a che non avremo macchine con coscienza di
    > esistere, possiamo solo dire che abbiamo
    > sviluppato qualche cosa leggermente più
    > sofisticato di un orologio a pendolo....del resto
    > la tecnologia moderna è solo un insieme di
    > effetti speciali, ma non è nulla di
    > più.
    >
    > Non occorre preoccuparsi per la nostra
    > sopravvivenza... a meno di non vivere in città...
    > li si che il pericolo è mortale.... sia per
    > l'inquinamento spaventoso che per la
    > deliquenza.

    Per essere sterminati non e' necessaria intelligenza eh, basta un "sistema esperto".
    krane
    22544
  • Mi hai tolto le parole di bocca. Mi pare anzi che lo stesso filosofo dell'articolo sopravvaluti la quantità di intelligenza necessaria per sterminarci tutti e soparutto sottovaluti la miopia con cui si può programmare una macchina.

    Però mi pare che il pericolo paventato sia più subdolo e sinceramente penso sia già in atto:
    Il filosofo parla di una IA in conpetizione con l'uomo per le risorse. Quiesto non necessariamente vuol dire che vi sia una singola macchina intelligente (o più di una) ma potrebbe semplicemente capitare che le singole macchine, di per se stupide competano con l'uomo in compiti specifici.
    Si è a lungo temuto che le macchine avrebbero soppiantato l'uomo nelle fabbriche. Che le due specie competessero quindi per la risorsa lavoro. Questo è avvenuto solo in parte. Le macchine sono entrate in fabbrica e invece che sostituire gli uomini li hanno affiancati, ma si è instaurata anche un rapporto di dipendenza l'uni verso gli altri.
    Vi sono studi che dimostrano come i navigatori diminuiscano la capacità di orientarsi. chi usa sempre l'ascensore ha un fisico peggiore di chi non lo usa. I sensori di parcheggio danno ripercusioni sull'abilità di guida. L'utilizzo sconsiderato di internet crea problemi vari (perdonatemi questa generalizzazione).
    Insomma mi pare che la minaccia sia più che tangibile, ma che non sia questione dell'intelligenza delle macchine ma di quanta della nostra deleghiamo a loro. Di quanto preferiamo la comodita inconsapevole a un senso critico scomodo.
    Daltra parte la teconologia ormai "it's magic"...
    non+autenticato
  • - Scritto da: max
    > ma.... esiste al giorno d'oggi un computer o una
    > rete di computer che abbia preso coscienza di se?

    no...
    e non esiste neanche qualcuno in grado di definire cosa sia la coscienza...

    > lo chiedo perché fino a che non avremo tale
    > risultato, è perfettamente inutile parlare di
    > intelligenza artificiale...
    > [...]
    > Cosa significa IA? che è in gradi di risolvere
    > problemi più o meno complicati?... ma chi lo ha
    > programmato per tale caratteristica?

    in realtà è tutto molto più semplice di quello che sembra:
    parlare di IE è utile (a qualcuno) perché IA significa soprattutto cose come droni, sistemi automatici anti-riots e via dicendo...
    droni con guida automatica, ricerca e individuazione automatica di bersagli non predefiniti e loro distruzione ecc.
    esoscheletri robotizzati per le forze di sicurezza repressione e sbirri-robot automatizzati, con predizione del comportamento "violento" (sic!) di chi protesta, compreso il suo riconoscimento facciale e taserizzazione automatica ecc. ecc.

    IA significa, sostanzialmente, sistemi di controllo e oppressione automatica... robe che poi chi ti ha ucciso potrà pure dire che "il bambino era coperto dai terroristi e il drone che li ha sterminati agendo per per la sicurezza prevenendo attentati disastrosi non lo ha potuto identificare..." o che "il sospetto si comportava in modo tale da far presupporre dei reati per cui il robot lo ha ucciso per prevenenire un grave crimine... e noi non siamo responsabili, peggio per lui"

    e non è un caso che la cosidetta ricerca sulla IA sia prevalentemente finanziata dai militari...

    > No.... un essere umano è molto di più... per
    > esempio può perdonare e decidere di non eseguire
    > una azione dovuta dalla sua programmazione.

    un essere umano ha poi il grave "difetto" di essere soggetto a delle responsabilità, magari pure personali... mantre la IA ci "libera" da questa seccatura della responsabilità...

    > Quale macchina può fare una cosa del genere?
    > Un poliziotto ha il dovere di arrestare in un
    > modo o nell'altro i malviventi... ma contro gli
    > ordini, le leggi e convinzioni può anche decidere
    > di lasciarlo scappare, magari perché guardandolo
    > negli occhi gli ha fatto pena, oppure perché
    > aveva una vaga somiglianza con suo fratello.

    eh appunto... non si sa mai che possano accadere cose come queste... o, peggio, che magari i poliziotti decidano di smettere di opprimere i loro fratelli per fare gli sporchi interessi di pochi sfruttatori e oppressori... mentre con la IA anche questo problema si risolve "brillantemente"...

    > Non occorre preoccuparsi per la nostra
    > sopravvivenza... a meno di non vivere in città...
    > li si che il pericolo è mortale.... sia per
    > l'inquinamento spaventoso che per la deliquenza.

    no no... ce ne dovremmo preoccupare eccome, invece di afre di tutto per autoestinguerci... e oramai ci siamo quasi
    non+autenticato
  • - Scritto da: max
    > ma.... esiste al giorno d'oggi un computer o una
    > rete di computer che abbia preso coscienza di
    > se?

    Esiste un umano che ce l'abbia?

    Come fai a saperlo?

    >
    > lo chiedo perché fino a che non avremo tale
    > risultato, è perfettamente inutile parlare di
    > intelligenza artificiale...

    Finchè non sei in grado di dire cosa sia l'intelligenza, non potrai mai sapere se hai realizzato una intelligenza artificiale o no.


    > altrimenti dovrei
    > dire che anche il mi orologio a cucù del 1870 ha
    > tale
    > caratteristica?

    E come fai a sapere che non ce l'ha?
    Ripeto: se non sei in grado di dire cosa rende un essere (umano o no) "intelligente", non puoi dire con certezza che qualcosa non è intelligente.


    > Cosa significa IA? che è in gradi di risolvere
    > problemi più o meno complicati?... ma chi lo ha
    > programmato per tale
    > caratteristica?

    Una intelligenza artificiale è in grado di apprendere, e di risolvere problemi diversi da quelli per i quali era stata programmata in origine.

    >
    > No.... un essere umano è molto di più... per
    > esempio può perdonare e decidere di non eseguire
    > una azione dovuta dalla sua
    > programmazione.

    E come fai a sapere se il perdono non fa parte anch'esso della programmazione? In fondo, l'etica, la religione... non sono anch'esse parte della programmazione di un essere umano?

    > Quale macchina può fare una cosa del genere?
    > Un poliziotto ha il dovere di arrestare in un
    > modo o nell'altro i malviventi... ma contro gli
    > ordini, le leggi e convinzioni può anche decidere
    > di lasciarlo scappare

    Vero: perchè, semplicemente, valutando diverse informazioni ha deciso di non considerarlo un malvivente. Non del tutto, almeno.


    > Fino a che non avremo macchine con coscienza di
    > esistere

    E come fai a sapere se la macchina ha coscienza di esistere? Perchè te lo dice?

    Guarda, posso programmartela io in un attimo:

    #include <stdio.h>

    void main(){
    printf("Io penso, dunque esisto");
    }


    >, possiamo solo dire che abbiamo
    > sviluppato qualche cosa leggermente più
    > sofisticato di un orologio a pendolo....del resto
    > la tecnologia moderna è solo un insieme di
    > effetti speciali, ma non è nulla di
    > più.

    Anche la biologia, se è per questo; anche i nostri neuroni sono un insieme di "effetti speciali".
    non+autenticato
  • - Scritto da: uno qualsiasi
    > - Scritto da: max
    > > ma.... esiste al giorno d'oggi un computer o
    > una
    > > rete di computer che abbia preso coscienza di
    > > se?
    >
    > Esiste un umano che ce l'abbia?
    >
    > Come fai a saperlo?

    E' una di quelle cose che sai e basta, senza usare la logica e senza poterla spiegare. Se togli queste nozioni che non puoi giustificare, crollano immediatamente anche quelle che ti vanti di poter giustificare.
    Ma anche questo lo sai benissimo, volevi solo fare il filosofoSorride


    > Finchè non sei in grado di dire cosa sia
    > l'intelligenza, non potrai mai sapere se hai
    > realizzato una intelligenza artificiale o
    > no.

    Certo, ognuno di noi potrebbe creare l'intelligenza senza sapere cosa sia. Ma è molto più probabile che nella foresta amazzonica esistano i puffi.


    > E come fai a sapere che non ce l'ha?
    > Ripeto: se non sei in grado di dire cosa rende un
    > essere (umano o no) "intelligente", non puoi dire
    > con certezza che qualcosa non è
    > intelligente.

    Che strano: continui a dirgli che non sa cos'è l'intelligenza, ma ti comporti come se entrambi lo sapeste benissimo. Perché, in caso contrario, quando usa la parola "intelligenza" non sapresti di cosa sta parlando, e se anche lo sapessi, non sapresti se lui ha una definizione o no.

    Non confondiamo la filosofia con una retorica scontata e fine a ss stessa...
    non+autenticato
  • > E' una di quelle cose che sai e basta, senza
    > usare la logica e senza poterla spiegare.

    Lo sai per te stesso, forse. Ma lo sai per gli altri? C'è chi ne dubita (si chiama solipsismo).

    In genere, tu pensi solo che chi ti assomiglia biologicamente ti assomigli anche mentalmente, e che quindi sia un essere pensante come te. Un computer non ti assomiglia... ma questo non significa che sia (o non sia) senziente.

    > Se
    > togli queste nozioni che non puoi giustificare,
    > crollano immediatamente anche quelle che ti vanti
    > di poter
    > giustificare.

    Non ho tentato di giustificare proprio niente.

    > Ma anche questo lo sai benissimo, volevi solo
    > fare il filosofo
    >Sorride

    Non sono stato io a iniziare Con la lingua fuori



    > > E come fai a sapere che non ce l'ha?
    > > Ripeto: se non sei in grado di dire cosa rende
    > un
    > > essere (umano o no) "intelligente", non puoi
    > dire
    > > con certezza che qualcosa non è
    > > intelligente.
    >
    > Che strano: continui a dirgli che non sa cos'è
    > l'intelligenza, ma ti comporti come se entrambi
    > lo sapeste benissimo. Perché, in caso contrario,
    > quando usa la parola "intelligenza" non sapresti
    > di cosa sta parlando, e se anche lo sapessi, non
    > sapresti se lui ha una definizione o
    > no.

    Questa è la base da cui Turing ha ideato il suo test, del resto: non sappiamo cosìè l'intelligenza... ma riteniamo che saremmo capaci di riconoscerla (o per lo meno di distinguere un essere intelligente da un essere non intelligente).
    non+autenticato
  • - Scritto da: uno qualsiasi
    > > E' una di quelle cose che sai e basta, senza
    > > usare la logica e senza poterla spiegare.
    >
    > Lo sai per te stesso, forse. Ma lo sai per gli
    > altri? C'è chi ne dubita (si chiama
    > solipsismo).
    >

    Precisamente: per quello che ognuno di noi ne sa potrebbe essere l'unico essere reale in un'illusione talmente perfetta da essere impossibile da identificare come tale (cosa poi non così difficile da realizzare se il soggetto non conosce altro…o credete veramente che gli areoplani possano volare?A bocca aperta).

    O, anche peggio, potrebbe non esserci proprio nulla di reale: ognuno di noi potrebbe essere un'illusione PROGRAMMATA per pensare di essere reale!A bocca aperta


    Tornando al topic originale, non è necessario che una macchina sia autocosciente per sterminarci: basta che sia programmata male (ricordo il cannone che, qualche anno fa, durante un'esercitazione si è messa a sparare sui soldati veri…).

    E, circa la possibilità di creare intelligenze artificiali e autocoscienti, ricreando il funzionamento del cervello (cosa totalmente al di fuori della nostra portata al momento , beninteso) e se non credi in miti come l'anima dovresti riuscirci.
  • ...Hanno visto qualche episodio di "Doomwatch" su YouTube e si sono montati la testa. O magari pensano di essere la UNIT o il Torchwood Institute.
    non+autenticato
  • Non costruirai una macchina a somiglianza della mente di un uomo
    Bibbia Cattolico Orangista
  • - Scritto da: shevathas
    > Non costruirai una macchina a
    > somiglianza della mente di un uomo

    >
    > Bibbia Cattolico Orangista

    citazione MITICA!!!
    non+autenticato
  • - Scritto da: shevathas
    > Non costruirai una macchina a
    > somiglianza della mente di un uomo

    >
    > Bibbia Cattolico Orangista
    OT: mi sono sempre chiesto che senso abbia averla tradotta come "Orangista" anziché "Arancione".
    jaro
    321
  • gli orangisti erano, durante la rivoluzione inglese i sostenitori della fazione protestante.
  • - Scritto da: shevathas
    > gli orangisti erano, durante la rivoluzione
    > inglese i sostenitori della fazione
    > protestante.

    e, per completezza d'informazione, Serena Butler [1][2] è "ispirata" da Samuel Butler [3]

    [1] https://en.wikipedia.org/wiki/Serena_Butler
    [2] http://www.sfcrowsnest.com/articles/books/2009/Dun...
    [3] https://it.wikipedia.org/wiki/Samuel_Butler
    non+autenticato
  • - Scritto da: shevathas
    > gli orangisti erano, durante la rivoluzione
    > inglese i sostenitori della fazione
    > protestante.
    Ok, ma perché un traduttore, di fronte all'espressione "Orange Catholic Bible" dovrebbe pensare agli orangisti anziché semplicemente al colore arancione? Non mi sembra che nel testo si faccia menzione della rivoluzione inglese.
    jaro
    321
  • - Scritto da: shevathas
    > Non costruirai una macchina a
    > somiglianza della mente di un uomo

    >
    > Bibbia Cattolico Orangista
    Credi sia una battuta?

    Francamente mi stupisco dl fatto che la Chiesa non abbia ancora posto il veto alle ricerche sull'intelligenza artificiale.

    "Solo Lui può dare la vita"!A bocca aperta
  • Bah. allora perchè non fare una task force contro i lucertoloidi che torneranno a conquistarci U_U.che modo strano di buttare i soldi.

    >quello della possibile estinzione della razza umana, e che nel caso >delle macchine intelligenti ha già prodotto allarmi "ufficiali" diramati >dalle organizzazioni come Human Rights Watch

    Ma un'organizzazione con quel nome non dovrebbe occuparsi delle stragi che sta facendo l'economia moderna
    http://www.repubblica.it/2008/01/sezioni/esteri/un...
    http://www.lastampa.it/2012/10/09/blogs/mammamia/o...
    o magari delle guerre nel mondo che ci sono e sono reali.

    E già il problema sono i droni.come se i droni si fossero assemblati e programmati da soli.il tipo di intelligenza artificiale a cui si allude non c'entra niente con la realtà attuale sulle i.a.
    Anche messi in conto le reti neurali, la fuzzy logic e l'i.a. a matrice genetica siamo capaci di progettare solo sistemi che campionano dati ,scelti e codificati dall'uomo, per poi analizzarli attraverso tabelle di punteggi create su obbiettivi scelti e codificati dall'uomo.c'è tanta i.a. nelle i.a. quanta c'è ne nel mio frigorifero.Matrix e kyashan sono lavori di fantasia.

    Più che preoccuparmi di difendere l'umanita dall'i.a. mi preoccuperei di difenderla dalla sua deficienza naturale.il pericolo + mortale x l'uomo è l'uomo e in tutta onesta credo che 100 anni (ma probabilmente molto prima) staremo a preoccuparci di come zappare la terra coperta di asfalto senza poter più contare su agricolture a produzione iper intensiva.
    non+autenticato
  • - Scritto da: Diotima
    > Ma un'organizzazione con quel nome non dovrebbe
    > occuparsi delle stragi che sta facendo l'economia
    > moderna
    > http://www.repubblica.it/2008/01/sezioni/esteri/un
    > http://www.lastampa.it/2012/10/09/blogs/mammamia/o
    > o magari delle guerre nel mondo che ci sono e
    > sono
    > reali.

    Visto che c'è gente che crepa oggi, non bisogna preoccuparsi di una possibile minaccia domani?

    > E già il problema sono i droni.come se i droni si
    > fossero assemblati e programmati da soli.il tipo
    > di intelligenza artificiale a cui si allude non
    > c'entra niente con la realtà attuale sulle
    > i.a.
    > Anche messi in conto le reti neurali, la fuzzy
    > logic e l'i.a. a matrice genetica siamo capaci di
    > progettare solo sistemi che campionano dati
    > ,scelti e codificati dall'uomo, per poi
    > analizzarli attraverso tabelle di punteggi create
    > su obbiettivi scelti e codificati dall'uomo.c'è
    > tanta i.a. nelle i.a. quanta c'è ne nel mio
    > frigorifero.Matrix e kyashan sono lavori di
    > fantasia.

    ma certo, stai tranquillo che né tu né io la vedremo durante le nostre vite... a meno che non capiti la singolarità, cioé una I.A. capace di progettare la propria versione successiva più intelligente. A quel punto il progresso della IA sarebbe esponenziale e fuori controllo.

    > Più che preoccuparmi di difendere l'umanita
    > dall'i.a. mi preoccuperei di difenderla dalla sua
    > deficienza naturale.il pericolo + mortale x
    > l'uomo è l'uomo e in tutta onesta credo che 100
    > anni (ma probabilmente molto prima) staremo a
    > preoccuparci di come zappare la terra coperta di
    > asfalto senza poter più contare su agricolture a
    > produzione iper
    > intensiva.

    quoto.
    Dovremo difendere i campi dagli Artigli...

    http://www.gutenberg.org/dirs/3/2/0/3/32032/32032-...
    (me lo stavo rileggendo giusto adesso)
    Funz
    13021
CONTINUA A LEGGERE I COMMENTI
1 | 2 | 3 | Successiva
(pagina 1/3 - 12 discussioni)