Mirko Zago

Facebook, stop AI per timore Skynet?

Alcuni bot sperimentali addestrati per negoziare con l'essere umano hanno sviluppato un proprio linguaggio incomprensibile all'uomo. Facebook sospende il test - UPDATE

Roma - L'approccio ottimistico sull'intelligenza artificiale di Mark Zuckerberg e del suo team di ingegneri sembra dover fare i conti con alcune serie preoccupazioni. Se in più occasioni il padre di Facebook ha dichiarato di dissociarsi da quanti, come Elon Musk, prospettano un futuro minacciato dalle AI, fa discutere la decisione di sospendere alcuni test in cui i bot dovevano essere programmati per negoziare con l'uomo. La decisione è avvenuta alla luce della scoperta che i bot hanno iniziato a dialogare tra loro con un linguaggio non comprensibile all'uomo.

Nei laboratori di Facebook AI Research (FAIR), i due "agenti" informatici, addestrati per negoziare avrebbero dovuto dialogare come due persone in carne ed ossa, e attraverso le loro argomentazioni infarcite della giusta dose di machine learning portarsi a casa una vittoria. Quel che è accaduto invece è che i bot hanno iniziato a discutere con un linguaggio apparentemente privo di senso. Gli ingegneri a questo punto hanno capito che proprio come accade tra le persone, nella fase di negoziazione, possono venire sviluppati dei linguaggi specifici molto più efficaci rispetto all'utilizzo di un linguaggio standard. Ma l'impossibilità di decifrare ciò che le macchine dicevanoha posto in allarme il team.


"Dovremmo lasciare che il nostro software faccia lo stesso? Dovremmo permettere che l'AI evolva il suo linguaggio per mansioni specifiche quando dialogano con altro software intelligente? Forse, ciò offrirebbe la possibilità di sviluppare un mondo più interoperabile, un posto più adatto a far sì che un iPhone parli ad un frigorifero che parla con la tua auto senza preoccupazione" - si sono chiesti alcuni membri del team, che sono giunti però alla conclusione che ciò non apporterebbe alcun beneficio al dialogo tra umani e macchine così come potrebbe aprire a scenari complicati dovuti sostanzialmente alla mancanza di conoscenza di quale sia il vero processo che regola il pensiero delle macchine così come il suo grado di profondità. Insomma i rischi sembrerebbero maggiori dei benefici.
I ricercatori sono comunque convinti che l'AI di cui sono dotati i bot potrà apportare benefici per comprendere meglio quelle che sono le intenzioni umane. È questo il vero focus per gli ingegneri di Facebook: non tanto il miglioramento delle performance tecniche, quanto piuttosto far sì che il software riesca ad azzeccare esattamente ciò che la persona vuole ("le macchine dovrebbero essere predisposte per comprendere meglio le parole che diciamo").

La IA che dovrebbe risolvere numerosi problemi quotidiani e migliorare la vita delle persone ha raggiunto un livello di sviluppo tale per cui l'uomo potrebbe non comprendere ciò che le macchine si dicono. "L'Ai non ha iniziato a spegnere i computer nel mondo o qualcosa di simile, ma ha smesso di usare l'inglese e ha adottato un linguaggio da essa creato" hanno riportato i programmatori curatori del test. E cosa sarebbe se anziché linguaggio fossero le azioni a diventare incomprensibili e incontrollabili? A molti questo scenario evoca la macchina dominatrice Skynet della serie Terminator. E in tale ottica gli avvertimenti di Musk assumerebbero una valenza più sostenuta.

UPDATE: a smorzare il clamore generato dalla notizia che Facebook abbia presumibilmente interrotto il progetto dei suoi bot perché intimorita dalla nascita di una potenziale Skynet interviene Dhruv Batra, Professore alla Georgia Tech e ricercatore persso il Facebook Ai Research (Fair): "Per quanto l'idea che le intelligenze artificiali abbiano inventato un loro linguaggio possa suonare allarmante e inaspettata a chi non è del settore, è un aspetto noto e sul quale c'è una corposa letteratura da decenni. In poche parole, gli agenti in ambienti dove si deve risolvere un compito, troveranno spesso modi non intuitivi per massimizzare la ricompensa. In secondo luogo la modifica dei parametri di un esperimento non significa che abbiamo spento tutto e scollegato le AI. Ogni ricercatore che conclude un esperimento fa esattamente la stessa cosa".

Mirko Zago

fonte immagine
Notizie collegate
  • AttualitàFacebook addestra i suoi bot a negoziareIl social network sperimenta con le intelligenze artificiali capaci di gestire vere e proprie conversazioni con gli utenti. La chiave per raggiungere lo scopo è in questo caso la negoziazione, anche se di lavoro da fare ce n'è ancora tanto
  • AttualitàMusk vs Zuckerberg, scontro verbale sulla IAIl founder di Tesla e SpaceX se la prende con il padre di Facebook, a suo dire colpevole di scarsa consapevolezza in merito alle potenzialità e soprattutto ai rischi dell'intelligenza artificiale
  • AttualitàElon Musk: la IA rovinerà il mondoIl visionario imprenditore dell'hi-tech torna a parlare della questione Skynet e ancora una volta avverte tutti sulla necessità di agire prima che ad agire siano le macchine. Ne va del futuro della civiltà umana, e lui l'ha visto
30 Commenti alla Notizia Facebook, stop AI per timore Skynet?
Ordina
  • http://attivissimo.blogspot.it/2017/08/antibufala-...

    Come al solito si e' trattato di amplificazione di una non notizia da parte da incompetenti tecnici al cui confronto i peggiori winari di questo forum sembrano tanti Richard Stallman.
  • - Scritto da: panda rossa
    > http://attivissimo.blogspot.it/2017/08/antibufala-
    >
    > Come al solito si e' trattato di amplificazione
    > di una non notizia da parte da incompetenti
    > tecnici al cui confronto i peggiori winari di
    > questo forum sembrano tanti Richard
    > Stallman.

    Incompetenti di informatica probabilmente, faine del giornalismo a caccia di sensazionalismi facili sicuramente.
    mura
    1768
  • Hanno spento tutto, perchè si son resi conto del casino, e non volevano farlo sapere al buon Zuk, altrimenti rischiavano il posto...
    non+autenticato
  • Anni fa, per pura curiosità, feci un esperimento: constatando la popolarità avuta a suo tempo da Eliza, ne misi tre a parlare fra di loro.
    Così come l'esperimento iniziale voleva dimostrare l'inutilità delle tesi di AI forte, anche il mio estendeva questa inutilità ad un "dialogo fra sordi"... però fu divertente notare che, molto spesso, le "tre marie" si "innescavano" tra di loro, quando una pronunciava una frase che le altre ritenevano "significativa" al punto da non fornire una banale risposta di default (il classico sinonimo di "non ho capito: dimmi di più").
    Credo di aver ottenuto qualcosa di molto simile a quanto si trova, oggi, in Facebook: per questo Zuk ha ordinato lo shutdown. Occhiolino
    888
  • - Scritto da: Sky
    > Anni fa, per pura curiosità, feci un esperimento:
    > constatando la popolarità avuta a suo tempo da
    > Eliza, ne misi tre a parlare fra di
    > loro.
    > Così come l'esperimento iniziale voleva
    > dimostrare l'inutilità delle tesi di AI forte,
    > anche il mio estendeva questa inutilità ad un
    > "dialogo fra sordi"... però fu divertente notare
    > che, molto spesso, le "tre marie" si
    > "innescavano" tra di loro, quando una pronunciava
    > una frase che le altre ritenevano "significativa"
    > al punto da non fornire una banale risposta di
    > default (il classico sinonimo di "non ho capito:
    > dimmi di
    > più").
    > Credo di aver ottenuto qualcosa di molto simile a
    > quanto si trova, oggi, in Facebook: per questo
    > Zuk ha ordinato lo shutdown.
    > Occhiolino

    Nel dubbio, dato come la fantascienza ci ha dato degli avvertimenti importanti, meglio non sottovalutare queste virate impreviste.
  • - Scritto da: Sg@bbio
    > - Scritto da: Sky
    > > Anni fa, per pura curiosità, feci un
    > esperimento:
    > > constatando la popolarità avuta a suo tempo da
    > > Eliza, ne misi tre a parlare fra di
    > > loro.
    > > Così come l'esperimento iniziale voleva
    > > dimostrare l'inutilità delle tesi di AI forte,
    > > anche il mio estendeva questa inutilità ad un
    > > "dialogo fra sordi"... però fu divertente notare
    > > che, molto spesso, le "tre marie" si
    > > "innescavano" tra di loro, quando una
    > pronunciava
    > > una frase che le altre ritenevano
    > "significativa"
    > > al punto da non fornire una banale risposta di
    > > default (il classico sinonimo di "non ho capito:
    > > dimmi di
    > > più").
    > > Credo di aver ottenuto qualcosa di molto simile
    > a
    > > quanto si trova, oggi, in Facebook: per questo
    > > Zuk ha ordinato lo shutdown.
    > > Occhiolino
    >
    > Nel dubbio, dato come la fantascienza ci ha dato
    > degli avvertimenti importanti, meglio non
    > sottovalutare queste virate
    > impreviste.

    ecco il complottaro
    non+autenticato
  • Infatti, mentre loro si sono spaventati ed hanno spento tutto Rotola dal ridere
    non+autenticato
  • Tutto sto casino magari stavano commentando video di gatti
    non+autenticato
  • Mi viene in mente una storia di alienologia contemporanea...

    Secondo gli alienologi, gli extraterrestri avrebbero creato gli alieni grigi, quelli con gli occhioni a mandorla e la pelle puzzolente perché assorbono i nutrienti dall'esterno con bagni in sostanze organiche come il sangue dei bovini rapiti sulla terra.

    E che queste creature abbiano una forma di intelligenza molto evoluta ma simile a soldati, indottrinati e totalmente subordinati. Quindi totalmente apatici ed esecutori di comandi, un po' come i nostri trader di borsa.

    Se quindi anche gli alieni avrebbero rinunciato alla AI per delle macchine biologiche complete, anche se create in laboratorio, forse è il caso di rivedere certi studi sulla AI.

    Ciò dai vari racconti di migliaia di addotti di tutto il mondo.

    Questo ovviamente per chi crede agli studi su ufo e alieni.

    Io come appassionato di fantascienza mi lascio aperta ogni porta in tal senso. Sempre con la curiosità dell'appassionato. E mai con la fede del credente.
    iRoby
    9640
  • Anche io sono appassionato di fantascienza e mi preoccupa di più quell'alienato di lampadato.A bocca aperta
    non+autenticato
  • - Scritto da: iRoby
    > Mi viene in mente una storia di alienologia
    > contemporanea...
    >
    > Secondo gli alienologi, gli extraterrestri
    > avrebbero creato gli alieni grigi, quelli con gli
    > occhioni a mandorla e la pelle puzzolente perché
    > assorbono i nutrienti dall'esterno con bagni in
    > sostanze organiche come il sangue dei bovini
    > rapiti sulla
    > terra.
    >
    > E che queste creature abbiano una forma di
    > intelligenza molto evoluta ma simile a soldati,
    > indottrinati e totalmente subordinati. Quindi
    > totalmente apatici ed esecutori di comandi, un
    > po' come i nostri trader di
    > borsa.
    >
    > Se quindi anche gli alieni avrebbero rinunciato
    > alla AI per delle macchine biologiche complete,
    > anche se create in laboratorio, forse è il caso
    > di rivedere certi studi sulla
    > AI.
    >
    > Ciò dai vari racconti di migliaia di addotti di
    > tutto il
    > mondo.
    >
    > Questo ovviamente per chi crede agli studi su ufo
    > e
    > alieni.
    >
    > Io come appassionato di fantascienza mi lascio
    > aperta ogni porta in tal senso. Sempre con la
    > curiosità dell'appassionato. E mai con la fede
    > del
    > credente.

    non te ne perdi una di cappellata complottara eh ?
    non+autenticato
  • - Scritto da: iRoby

    > Se quindi anche gli alieni avrebbero rinunciato
    > alla AI per delle macchine biologiche complete,
    > anche se create in laboratorio, forse è il caso
    > di rivedere certi studi sulla
    > AI.

    jackpot!!!!
    non+autenticato
  • Teoricamente infatti gli alieni avrebbero conoscenze
    e capacità che permetterebbero loro di creare questi
    "robot biologici", sicuramente più avanzati e complessi
    di semplici robot meccanici.
    non+autenticato
  • Guarda adesso parlo più da studente di neuroscienze cognitive piuttosto che da appassionato di fantascienza e UFO (ho la collezione di X-Files).

    Fare un robot biologico è forse più semplice. E personaggi come Ray Dalio lo hanno proposto quando parlano di inibire l'amigdala per creare The Human Machine. Ossia esseri automatici apatici e senza sentimenti studiati per essere macchine umane per fare soldi nelle speculazioni finanziarie.
    Dato che la ghiandola amigdala è la sede della secrezione degli ormoni che altera gli stati d'animo producendo compassione, empatia, rimorsi di coscienza, ecc.

    Se riesci a creare in laboratorio un individuo geneticamente modificato perché abbia inibita l'amigdala e la corteccia prefrontale, sede delle inibizioni etiche. Ottieni un individuo senza freni emotivi e apatico.
    Una volta che lo hai indottrinato durante la crescita, hai una macchina biologica che esegue ordini senza chiedersi il perché. Non empatizza con le altre creature per cui non si lascia trascinare da sentimenti di compassione e immedesimazione.
    E non si ferma davanti a ordini di uccidere, ecc.

    Ma conserva tutte le capacità logiche, motorie, sensoriali tipiche di un essere umano.
    Per cui lo istruisci nella manualità per diventare meccanico, o nelle capacità di calcolo per impieghi di concetto sofisticati dove bisogna correlare dati e numeri.
    Ne regoli la crescita per farli piccoli e agili piloti di veicoli o lavori dove serve leggerezza e agilità, o grandi e robusti per farne guerrieri infaticabili difficili da abbattere.
    iRoby
    9640
  • - Scritto da: iRoby
    > Ottieni un individuo senza
    > freni emotivi e
    > apatico.
    > Una volta che lo hai indottrinato durante la
    > crescita, hai una macchina biologica che esegue
    > ordini senza chiedersi il perché. Non empatizza
    > con le altre creature per cui non si lascia
    > trascinare da sentimenti di compassione e
    > immedesimazione.
    > E non si ferma davanti a ordini di uccidere, ecc.
    >

    Non c'era già riuscito Adolfo circa 80 anni fa?
    non+autenticato
  • - Scritto da: nazipelle
    > Non c'era già riuscito Adolfo circa 80 anni fa?

    No il progetto eugenetico della razza ariana è fallito col III Reich.

    Ma sta continuando oggi con tutti i neonazisti che riprendono quei concetti.
    Come un certo Jacques Attali (banchiere ebreo padre della creazione dell'Euro) che non si vergogna neppure di parlarne pubblicamente e nei suoi libri.
    iRoby
    9640
CONTINUA A LEGGERE I COMMENTI
Successiva
(pagina 1/2 - 10 discussioni)