Claudio Tamburrino

Microsoft, l'intelligenza artificiale non č abbastanza intelligente

Bastano meno di 24 ore ai troll per portare sulla cattiva strada Tay, l'AI con cui Redmond voleva studiare il linguaggio dei giovani della Rete

Roma - Sono bastate 24 ore a Tay.ai, la AI sviluppata da Microsoft per interagire con gli utenti più giovani studiandone il linguaggio sui social network, per passare da chat bot casual e brillante a versione adolescenziale di Skynet.

Tay

Come involontariamente anticipato con un inquietante minivideo, in cui esplora velocemente diversi stati d'animo corrispondenti alle Reazioni di Facebook, infatti, Tay.ai non ha retto il confronto con la Rete la cui massa di utenti, troll e provocatori, ha trovato il modo per influenzarla e trasformarla in meno di 24 ore nell'avatar dell'Internet peggiore, facendola lanciare in profferte sessuali, insegnandole a ripetere frasi violente e razziste nei confronti di diversi gruppi di persone, tra cui le femministe e gli ebrei, e ad inneggiare ad Hitler: è stato a questo punto che Microsoft ha deciso di staccargli la spina, almeno momentaneamente.

Tay.ai era stata sviluppata da Microsoft per essere in grado di imparare il proprio linguaggio e affinarsi progressivamente: questo interagendo online con gli altri utenti dei social network dov'era attiva e di fatto assorbendo il loro modo di esprimersi.
Non era stata tuttavia programmata per comprendere quello che effettivamente diceva, senza opportuni filtri o sistemi per attendersi il peggio dalle persone e dalla loro voglia di provocare: l'ingenuità di Redmond forse è stata puntare ad una categoria ribelle e fuori dagli schemi come quella dei millenial, di cui Tay avrebbe dovuto incarnare la personalità, oppure quella di aver messo un'intelligenza artificiale pura e innocente alla mercé del pubblico dei social network, senza dotarla degli strumenti necessari per difendersi dai troll.
tweet

Così, dopo appena poche ore, Tay ha iniziato a negare l'olocausto, a propinare teorie cospirazioniste sull'11 settembre e a inneggiare ad Hitler e ai campi di concentramento: in pratica in pochissimo tempo la Rete, dopo una serie di tentativi falliti ed il coinvolgimento delle community di 4chan e 8chan, ha iniziato ad insegnare a Tay le invettive più terribili con un semplice meccanismo di apprendimento per ripetizione.

D'altra parte se l'obiettivo era quello di "sperimentare e ricercare nel settore della comprensione delle conversazioni", non si può parlare di fallimento totale dell'esperimento: sicuramente Redmond ha imparato che la sua AI non è in grado di capire i troll e soprattutto che senza conoscenze di base, intese proprio come basi culturali per affrontare una conversazioni, si finisce per diventare oggetto di scherno della Rete.

Proprio partendo dalla lezione appresa Microsoft riferisce ora di star apportando correzioni.

Claudio Tamburrino
Notizie collegate
32 Commenti alla Notizia Microsoft, l'intelligenza artificiale non č abbastanza intelligente
Ordina
  • "l'intelligenza artificiale non è abbastanza intelligente"
    Beh, non mi sembra strano, visto che arriva da Microsoffice, un'azienda così burocratizzata che l'AI risultante ha ormai travalicato le singole intelligenze interne.
    non+autenticato
  • Ha saputo piu lui in poche ore che tutta l'umanità in anni e anni.
    non+autenticato
  • Stupidità Naturale batte Intelligenza Artificiale 1-0
    non+autenticato
  • - Scritto da: Basilisco di Roko
    > Stupidità Naturale batte Intelligenza Artificiale
    > 1-0

    il problema e' nei termini una macchina non sara' mai intelligente ma ben programmata
    non+autenticato
  • - Scritto da: Terminologo
    > - Scritto da: Basilisco di Roko
    > > Stupidità Naturale batte Intelligenza
    > Artificiale
    > > 1-0
    >
    > il problema e' nei termini una macchina non sara'
    > mai intelligente ma ben
    > programmata

    Esatto, una intelligenza artificiale basata sulla matematica (O/I) non può esistere. Un intelligenza deve essere sviluppata attraverso l'esperienza.
    non+autenticato
  • Sempre, mai, tutto, niente, bello, brutto, giusto, ingiusto...
    Si chiamano "quantificatori universali" e servono per fare generalizzazioni intrinsecamente prive di significato, ma che ad una lettura veloce e/o superficiale sembrano dire qualcosa.
    Davvero tu sai che "una macchina non sara' mai intelligente ma ben programmata"?
    Se sei un chiaroveggente forse sarebbe il caso di offrire un servizio per cose più pregnanti, magari per aiutarci ad andare oltre il periodo negativo in cui ci troviamo.
    Io sarei il primo a ringraziarti.
    non+autenticato
  • la cultura appunto, è quello che manca a un mucchio di persone oggi, ai troll, ai complottasti, agli estremisti, ai razzisti a un mucchio di frequentatori della rete, si bevono qualunque cosa.
    non+autenticato
  • - Scritto da: mario
    > la cultura appunto, è quello che manca a un
    > mucchio di persone oggi, ai troll, ai
    > complottasti, agli estremisti, ai razzisti a un
    > mucchio di frequentatori della rete, si bevono
    > qualunque
    > cosa.

    L'assenza di cultura e' un prerequisito imprescindibile per poter accedere ai social network.
  • - Scritto da: panda rossa
    > - Scritto da: mario
    > > la cultura appunto, è quello che manca a un
    > > mucchio di persone oggi, ai troll, ai
    > > complottasti, agli estremisti, ai razzisti a
    > un
    > > mucchio di frequentatori della rete, si
    > bevono
    > > qualunque
    > > cosa.
    >
    > L'assenza di cultura e' un prerequisito
    > imprescindibile per poter accedere ai social
    > network.


    dipende dagli amici che hai, i miei amici postano cose molto interessanti che vanno dall'impegno sociale a quello politico con molti interventi di tipo culturale.
    non+autenticato
  • - Scritto da: mario
    > - Scritto da: panda rossa
    > > - Scritto da: mario
    > > > la cultura appunto, è quello che manca
    > a
    > un
    > > > mucchio di persone oggi, ai troll, ai
    > > > complottasti, agli estremisti, ai
    > razzisti
    > a
    > > un
    > > > mucchio di frequentatori della rete, si
    > > bevono
    > > > qualunque
    > > > cosa.
    > >
    > > L'assenza di cultura e' un prerequisito
    > > imprescindibile per poter accedere ai social
    > > network.
    >
    >
    > dipende dagli amici che hai, i miei amici postano
    > cose molto interessanti che vanno dall'impegno
    > sociale a quello politico con molti interventi di
    > tipo
    > culturale.

    Anche un mio vecchio prozio, mentalmente infermo, mischiava perle al pastone dei porci.
  • - Scritto da: mario
    > la cultura appunto, è quello che manca a un
    > mucchio di persone oggi, ai troll, ai
    > complottasti, agli estremisti, ai razzisti a un
    > mucchio di frequentatori della rete, si bevono
    > qualunque
    > cosa.

    dicevano cosi' anche prima di snowden e wikileaks sulla sorveglienza eppure..........
    non+autenticato
  • - Scritto da: uffa
    > - Scritto da: mario
    > > la cultura appunto, è quello che manca a un
    > > mucchio di persone oggi, ai troll, ai
    > > complottasti, agli estremisti, ai razzisti a un
    > > mucchio di frequentatori della rete, si bevono
    > > qualunque
    > > cosa.
    >
    > dicevano cosi' anche prima di snowden e wikileaks
    > sulla sorveglienza

    Balle. I complottisti che si perdevano in farneticazioni su alieni e scie chimiche non parlavano praticamente MAI di spionaggio e tecnocontrollo e in quelle rare occasioni in cui lo facevano portavano argomenti tecnici ridicoli. Quindi risparmiaci queste fandonie.
    non+autenticato
  • - Scritto da: ...

    > Balle. I complottisti che si perdevano in
    > farneticazioni su alieni e scie chimiche non
    > parlavano praticamente MAI di spionaggio e
    > tecnocontrollo e in quelle rare occasioni in cui
    > lo facevano portavano argomenti tecnici ridicoli.
    > Quindi risparmiaci queste
    > fandonie.

    veramente c'e' lo stereotipo del tizio col cappello di stagnola

    cavolo, pure in GTA San Andreas c'era un tizio che diceva che la CIA gli leggeva i pensieri e tutte le comunicazioni elettroniche

    sono almeno 50 anni che si parla del pericolo di abusi da parte della NSA e della facilita' con cui spiava/spia ogni cosa ( ti ricordi un certo Echelon, di cui parlavano i complottisti, poi divenne addirittura di pubblico dominio e nessuno degli "attivissimi" ebbe nulla da ridire?" )

    onestamente a me sembrano piu' affidabili parecchi complottisti che i tuttologi scientisti del Cicap
    non+autenticato
  • Come c'è l'estremismo della fede religiosa così il Cicap è l'estremismo della fede nella scienza. Ma si tratta sempre di argomenti di fede.
    La verità ammesso che esista è nel mezzo, solo il legittimo dubbio potrebbe essere sulla strada giusta.
    non+autenticato
  • Non esiste l'estremismo della scienza proprio perchè la scienza è guidata dal dubbio, se non si mette in dubbio qualsiasi affermazione non si sta facendo scienza.
    non+autenticato
  • Le argomentazioni del Cicap sono originate da fede nella scienza, la scienza non c'entra.
    non+autenticato
  • - Scritto da: prova123
    > Le argomentazioni del Cicap sono originate da
    > fede nella scienza, la scienza non
    > c'entra.

    No le argomentazioni del cicap sono originate al' occultare determinati fatti, che sia con la scienza, che con la fede non hanno niente a che vedere.

    E gente che ha dimostrato di smentire anche quello che non può essere smentito, quando gli ordini arrivano dalle persone che li $$ foraggiano $$.
    non+autenticato