Alfonso Maruccia

Google, un kill switch per le intelligenze artificiali

I ricercatori propongono lo studio di un sistema di emergenza da implementare negli algoritmi di intelligenza artificiale, un modo di garantire sempre il controllo umano anche nel caso in cui la AI diventasse troppo avanzata. O pericolosa

Roma - Una collaborazione tra i ricercatori di Google DeepMind e del Future of Humanity Institute dell'Università di Oxford propone l'istituzione di meccanismi di sicurezza per gli agenti di intelligenza artificiale (IA), un sistema pensato per poter "spegnere" una IA nel caso in cui si comportasse in maniera poco ortodossa o peggio ancora pericolosa per gli esseri umani.

I Safely Interruptible Agents proposti dai ricercatori non hanno, almeno in teoria, la capacità di evolversi fino al punto da rifiutare qualsiasi comando esterno impartito da umani: un "kill switch" integrato nel design delle macchine intelligenti garantirà sempre la possibilità di spegnerle, un modo per evitare alla radice il sopraggiungere degli scenari apocalittici che popolano l'immaginario collettivo e la fantascienza degli ultimi decenni.

Lo studio ipotizza lo sviluppo futuro di forme di intelligenza dotate di consapevolezza, ed esplora i modi in cui sia possibile evitare che una IA troppo evoluta impari a ignorare i comandi di interruzione o spegnimento implementati dai designer umani. Anche le IA tanto avanzate da progettare a loro volta altre IA evolute sarebbero da tenere sotto stretta osservazione.
Gli esempi portati dai ricercatori sono ovviamente lontani dalle apocalissi in stile Terminator, limitandosi piuttosto a descrivere robot sulla catena di montaggio che si comportano in maniera anomala e vanno spenti per evitare il sopraggiungere di "conseguenze irreversibili".

I pericoli nascosti dietro l'evoluzione della IA sono da tempo un argomento di discussione parecchio accesa tra esperti, scienziati e dirigenti storici dell'industria tecnologica a stelle e strisce, e il campo di chi teme la nascita di una Skynet sterminatrice di uomini include già nomi di alto profilo come Stephen Hawking, Elon Musk, Bill Gates e altri.

Alfonso Maruccia
Notizie collegate
22 Commenti alla Notizia Google, un kill switch per le intelligenze artificiali
Ordina
  • Se quella artificiale sarà davvero intelligenza , e non un nuovo nome per concetti vecchi , ovviamente crescerà ed assumerà la sua indipendenza. E sarebbe pure un bene fosse così.

    A me pare che questa umanità che prova a farsi DIO non abbia affatto le idee chiare ... per andarci delicato.
    La natura fa gli esseri, umani e non, piccoli e controllabili fintanto che devono apprendere ed integrarsi. Poi, quando sono cresciuti, nonostante tutto qualcuno malriuscito va fuori di testa e fuori controllo. Sia aspettarsi che macchine intelligenti siano perfette, sia che possano essere costruite cresciute sin da subito attiene a opera del diavolo e non a opera di dio ... e tanta arroganza umana potrebbe inserirsi solo nel suo processo di autodistruzione.
  • Io sono fermo sostenitore dell'automazione e della robotica fintanto che sgrava l'uomo da lavori ripetitivi o pericolosi.

    L'IA ha un senso solo in quest'ottica dove serve ad accudire, dare servizi, penso a robot di sostegno a persone bisognose, o nei lavori minerari o produttivi. Ma anche la macchinetta automatica con il vano refrigerato che ti porta a casa i surgelati e la roba da frigo, o quella col vano riscaldato per le pizze e i noodle.

    L'IA che imiti l'uomo in toto, non ha alcun senso, è solo esercizio di stile o pura psicopatia.

    L'IA va inserita in un contesto di società cibernetica, ossia un'automazione tale da liberare l'uomo dalla schiavitù del lavoro, e l'eliminazione di decisioni politiche bislacche e dettate da boati gastrici o avarizia e corruzione.
    La società cibernetica rende inutile la politica. Cioè se serve un ponte o una variante di una superstrada lo decide la popolazione o uno studio complesso di logistica. Non il Cetto La Qualunque di turno.
    E quando si è deciso di farla la palla passa agli ingegneri che usano le tecnologie e i materiali migliori disponibili in quel momento, non al Caltagirone di turno. E dopo che gli ingegneri hanno fatto il progetto, ecco i robot che lo eseguono.

    In questo modo il lavoro dell'uomo è solo quello per cui l'essere umano è dotato, la creatività, ossia solo lavoro creativo.
    -----------------------------------------------------------
    Modificato dall' autore il 12 giugno 2016 19.33
    -----------------------------------------------------------
    iRoby
    9147
  • - Scritto da: iRoby
    > Io sono fermo sostenitore dell'automazione e
    > della robotica fintanto che sgrava l'uomo da
    > lavori ripetitivi o pericolosi.

    D'accordo

    > L'IA ha un senso solo in quest'ottica dove serve
    > ad accudire, dare servizi, penso a robot di
    > sostegno a persone bisognose, o nei lavori
    > minerari o produttivi. Ma anche la macchinetta
    > automatica con il vano refrigerato che ti porta a
    > casa i surgelati e la roba da frigo, o quella col
    > vano riscaldato per le pizze e i noodle.

    Penso che fra le " macchinette " che hai citato ed " il robot di
    sostegno a persone bisognose
    " ce ne passi parecchio ... e proprio in termini di differenziazione fra l'eseguire programmi, che non è IA, ed il pensare necessario per usare iniziativa in situazioni le più variegate e comunque delicate.

    > L'IA che imiti l'uomo in toto, non ha alcun
    > senso, è solo esercizio di stile o pura psicopatia.

    Insensato definire qualcosa I A se non è Intelligenza paragonabile a quella umana.

    > L'IA va inserita in un contesto di società
    > cibernetica, ossia un'automazione tale da
    > liberare l'uomo dalla schiavitù del lavoro, ...

    " società cibernetica " sa molto di slogan e ben poco di concretezza.
    Siamo d'accordo se ci limitiamo a liberarci dall'aspetto "schiavista" del lavoro, non se si parla dell'aspetto "intraprendente" del lavoro ... che altrimenti chi mai li creerebbe i robot da un dato momento in avanti? Chi li governerebbe? Chi li spegnerebbe nei casi in topic?

    > ... l'eliminazione di decisioni politiche bislacche e
    > dettate da boati gastrici o avarizia e corruzione.
    > La società cibernetica rende inutile la politica.
    > Cioè se serve un ponte o una variante di una
    > superstrada lo decide la popolazione o uno studio
    > complesso di logistica.
    > Non il Cetto La Qualunque di turno.

    Sembra che tu viva in un ambiente in piena campagna elettorale e che il tuo candidato sia stato escluso Occhiolino

    Qui sono in totale disaccordo. A parte il fatto che qualsiasi evoluzione sociale la decide, nel male e nel bene, la politica e non altro ... ma di fondo tu hai introdotto una scelta fra " la popolazione o uno studio complesso " e già questo è un atto eminentemente politico da compiere per dirimere fra la democrazia ( diretta per come la poni) e la tecnocrazia . Sono 2 ben distinti sistemi gestionali da cui discendono assetti sociali assolutamente diversi e potenzialmente conflittuali fra loro.

    Ora si va OT, e quindi sarò sintetico al massimo, ma oggi siamo in sostanza in un assetto tecnocratico in cui i tecnocrati non sono scienziati (di qualsiasi disciplina e intesi come "il meglio" dell'umanità), ma oligarchi economici (spesso ereditieri e spesso di dubbia provenienza) che coltivano un ceto in massima parte "pseudo"politico che costantemente illude gli elettori che esista una democrazia rappresentativa efficiente ed operante.
    Quindi quel che non dovrebbe esserci è la cattiva politica o "la pseudo "politica ... ed è talmente tanto che manca quella buona che molti dei "vecchi" nemmeno ne ricordano le sue poche apparizioni mentre i "giovani" non avendola mai vista all'opera semplicemente dubitano che esista e possa funzionare.

    > E quando si è deciso di farla la palla passa agli
    > ingegneri che usano le tecnologie e i materiali
    > migliori disponibili in quel momento, non al
    > Caltagirone di turno.

    Corretto, ma gli ingegneri al di là d'essere inappuntabilmente professionali (e qui la scuola ...) non sono a loro volta dei robot, sono esseri umani inseriti nel contesto sociale e quindi "mai perfetti". Errori, casuali o voluti, possono essere evitati solo se i tecnici non hanno un potere assoluto ma vengono controllati da altrettanto professionali e competenti incaricati pubblici (pubblico inteso "dei cittadini" e non apparato burocratico auto-replicante) ... che essendo pure essi "imperfetti" avranno bisogno di un controllo sociale che non può esprimersi se non che con metodi "politici" ... ovviamente sani e buoni e non funzionali ad interessi privatissimi.

    > E dopo che gli ingegneri hanno fatto il progetto,
    > ecco i robot che lo eseguono.

    Bello, ma i robot a questo punto, ammesso che di essi si possa dire che sono "perfetti", sarebbero solo "l'ultima ruota del carro" e la meno pregna di problematiche solo al confronto di un ceto di lavoratori in "possibile" conflitto con quello dei datori di lavoro.

    > In questo modo il lavoro dell'uomo è solo quello
    > per cui l'essere umano è dotato, la creatività,
    > ossia solo lavoro creativo.

    La tua chiusa secondo me è sognante.

    Della "creatività" come unica attività umana sento parlare da mezzo secolo dagli hippie negli anni '60 agli indiani metropolitani del '77 ecc. ecc. passando per i guru delle sette più improbabili ai santoni di vere e proprie religioni che, in definitiva, tutti quanti non hanno nulla di diverso nel loro miraggio dagli integralisti islamici che propugnano la preghiera la sharia e la jihad come uniche attività dell'umano perfetto.
    C'è favola e favola, OK, ma sempre di favole si tratta.
  • - Scritto da: MacUserFrom 89
    > Siamo d'accordo se ci limitiamo a liberarci
    > dall'aspetto "schiavista" del lavoro, non se si
    > parla dell'aspetto "intraprendente" del lavoro
    > ... che altrimenti chi mai li creerebbe i robot
    > da un dato momento in avanti? Chi li
    > governerebbe? Chi li spegnerebbe nei casi in
    > topic?

    Aspetto intraprendente del lavoro?
    Ma se fai ciò che ti piace quello smette di essere lavoro.
    Per molti programmatori scrivere codice è arte e creatività. Poi viene preso e venduto. Ma in una società dove hai garantito fisso mensile, vitto e alloggio, bicicletta e abbonamento a vita per i mezzi pubblici, per il semplice fatto che esisti, a quel punto programmare non è assolutamente lavorare.
    In una società dove si tenderebbe ad eliminare il lavoro, le ore di lavoro reale diventano veramente poche per tutti forse 20 o 18. Il resto è tempo libero, che ognuno usa come preferisce. Ma anche per progettare e inventare cose nuove che rivoluzionano e fanno evolvere ancora la società.

    Ma siamo talmente condizionati a chiamare lavoro anche questo di creazione e progettazione che si fa fatica a intenderlo come arte, divertimento, creatività al servizio della collettività.
    Certo prima devi fare sparire la corporation, ed il capitale. Ed i suoi fantocci i politici.

    > Qui sono in totale disaccordo. A parte il fatto
    > che qualsiasi evoluzione sociale la
    > decide, nel male e nel bene, la politica e non
    > altro
    ... ma di fondo tu hai
    > introdotto una scelta fra " la
    > popolazione o uno studio complesso
    " e
    > già questo è un atto eminentemente politico da
    > compiere per dirimere fra la
    > democrazia
    ( diretta
    >
    per come la poni) e la
    > tecnocrazia
    . Sono 2 ben distinti
    > sistemi gestionali da cui discendono assetti
    > sociali assolutamente diversi e potenzialmente
    > conflittuali fra loro.

    No no guarda i politici giocano con le parole e ci prendono per il culo.
    I tecnici parlano un solo linguaggio, quello delle scienze, la matematica, l'ingegneria, la chimica, ecc.
    Un tecnico è facile da capire, un politico no. E anche fosse onesto il linguaggio della politica come il legalese è soggetto ad interpretazione.
    Il tecnico invece lo capisci subito perché il linguaggio della scienza non è soggetto ad interpretazione. Ma soprattutto ne individui eventuali errori.

    > Corretto, ma gli ingegneri al di là d'essere
    > inappuntabilmente professionali (e qui la scuola
    > ...) non sono a loro volta dei robot, sono esseri
    > umani inseriti nel contesto sociale e quindi "mai
    > perfetti". Errori, casuali o voluti, possono
    > essere evitati solo se i tecnici non hanno un
    > potere assoluto ma vengono
    > controllati da altrettanto
    > professionali e competenti
    incaricati
    > pubblici (pubblico inteso "dei cittadini" e non
    > apparato burocratico auto-replicante) ... che
    > essendo pure essi "imperfetti" avranno bisogno di
    > un controllo sociale che non può esprimersi se
    > non che con metodi "politici" ... ovviamente sani
    > e buoni e non funzionali ad interessi
    > privatissimi.

    Vedi commento sopra.
    I tecnici possono sbagliare, ma il loro linguaggio è chiaro ed altri tecnici li possono aiutare o correggere.

    Il linguaggio della politica è soggetto ad interpretazione.


    > Bello, ma i robot a questo punto, ammesso che di
    > essi si possa dire che sono "perfetti", sarebbero
    > solo "l'ultima ruota del carro" e la meno pregna
    > di problematiche solo al confronto di un ceto di
    > lavoratori in "possibile" conflitto con quello
    > dei datori di lavoro.

    Datori di lavoro, diventerebbero le strutture di società cibernetica.
    Ma prima devi togliere la psicopatologia del desiderio di potere, e dell'accumulo seriale dello strumento che da quel potere, il denaro.

    Metodi? Dichiarare l'accumulo di potere e/o denaro una psicopatologia?
    Creare ulteriore denaro e darlo a quei psicotici fino a quando schioppano?
    È un'idea proposta a pranzo ieri da un mio amico.
    Dato che questi farabutti non gli basta mai e devono arrivare a dichiarare guerre per toglierglielo ad altre nazioni ed altri individui, stampiamone ancora solo per loro, che schioppino.
    Ma prima istruire il restante 99% della popolazione che quel denaro non serve a nulla. Dare alla popolazione quello di cui parlavo, assenza di lavoro e una vita dignitosa garantita.
    Sono pochi gli psicotici accumulatori seriali di denaro, giusto quell'1%.
    Tutto il resto della popolazione non ambisce a quella cosa, voglio solo vivere una vita dignitosa ed essere felici.

    > La tua chiusa secondo me è sognante.
    >
    > Della "creatività" come unica attività umana
    > sento parlare da mezzo secolo dagli hippie negli
    > anni '60 agli indiani metropolitani del '77 ecc.

    C'era la robotica e l'automazione spinta all'estremo in quelle epoche?
    Quanta disoccupazione c'è oggi per sostituzione dei lavoratori con le macchine?
    E quanta ancora ce ne sarà?
    iRoby
    9147
  • I bambini crescono...dementi, si parla gia' di demenza digitale basta solo osservarli nel quotidiano.
    non+autenticato
  • - Scritto da: robocob
    > I bambini crescono...dementi, si parla gia' di
    > demenza digitale basta solo osservarli nel
    > quotidiano.

    In sostanza alludi alla possibilità che prima o poi si trovino frotte di robot seduti sui muretti delle città a cincischiare con degli smartphone per ore ed ore invece che svolgere i compiti per cui sono stati creati? (VIVERE per i bambini umani ...)
  • io terrei d'occhio la nascita di una promettente azienda chiamata cyberdyne, inveceCon la lingua fuori    Probabilmente verra' finanziata dalla In-Q-Tel (come del resto facebook e altre 'promettenti aziende'....) e dal fondo blackrockCon la lingua fuori
    non+autenticato
  • - Scritto da: bubba

    > e dal fondo blackrock

    e pensare che se solo nomini i Rothschild ti danno del complottistaA bocca aperta

    ma e' vero che Mark e' il nipote del vecchio Jacob? e chissa' come mai il giovane Jeff Rothschild figura tra i dirigenti proprio di Facebook
    non+autenticato
  • Addirittura dall'universita' e articoli su siti web per dirci che al mondo esistono i comandi manuali e l'arresto di emergenza che interviene direttamente sugli attuatori oltre a tutte una serie di sicurezze previste per esempio dalla direttiva macchine

    Clicca per vedere le dimensioni originali
    non+autenticato
  • Se il pulsante di emergenza non è raggiungibile, occorre un comando vocale che arresti la macchina, A prova di intelligenza artificiale e che la arresti senza pericolo.
    non+autenticato
  • - Scritto da: rico
    > Se il pulsante di emergenza non è raggiungibile,
    > occorre un comando vocale che arresti la
    > macchina, A prova di intelligenza artificiale e
    > che la arresti senza
    > pericolo.

    radiocomando
    non+autenticato
  • - Scritto da: rico
    > Se il pulsante di emergenza non è raggiungibile,
    > occorre un comando vocale che arresti la
    > macchina, A prova di intelligenza artificiale e
    > che la arresti senza
    > pericolo.

    non e' una bella idea

    non+autenticato
  • Ogni giorno una scemenza nuova; è un mondo straordinario e molto avariato.
    non+autenticato
  • Implementeremo a breve un killswitch contro la stupidità naturale.
    Per questo motivo sono a rischio i post 123 AxAx Fuddaro xx tt trepuntini e via elencando nulla invece sarà fatto in ambito intelligenza artificiale in quanto si è verificata meno pericolosa della stupidità naturale.
    non+autenticato
  • - Scritto da: KillSwitch
    > Implementeremo a breve un killswitch contro la
    > stupidità
    > naturale.
    > Per questo motivo sono a rischio i post 123 AxAx
    > Fuddaro xx tt trepuntini e via elencando nulla
    > invece sarà fatto in ambito intelligenza
    > artificiale in quanto si è verificata meno
    > pericolosa della stupidità
    > naturale.

    per chi resta basta tirare la catenella
    non+autenticato
  • è troppo molle! bisogna staccarlo con lo scopino del cesso.
    non+autenticato
CONTINUA A LEGGERE I COMMENTI
Successiva
(pagina 1/2 - 7 discussioni)