Geoffrey Hinton: agenti AI sono un rischio per l'umanità

Geoffrey Hinton, Premio Nobel 2024 per la fisica, ha nuovamente sottolineato i pericoli derivanti dallo sviluppo incontrollato dell’intelligenza artificiale. Durante un’intervista rilasciata a CBS News, lo scienziato britannico ha aggiornato la sua precedente previsione considerati i progressi ottenuti negli ultimi mesi.

AI superintelligente tra meno di 10 anni

Hinton ha evidenziato i rischi in diverse occasioni, inclusa la possibile estinzione della razza umana. Il “padrino” dell’intelligenza artificiale ha dichiarato di essere “un po’ contento” di avere 77 anni, perché potrebbe non vivere abbastanza a lungo per assistere alle conseguenze potenzialmente pericolose di questa tecnologia.

Durante l’intervista a CBS News ha affermato che i progressi nel settore sono più rapidi del previsto. Secondo la sua stima c’è una probabilità tra il 10% e il 20% che l’intelligenza artificiale prenda il controllo. Hinton è soprattutto preoccupato dei cosiddetti agenti AI che possono eseguire azioni in completa autonomia (oggi prenotano un tavolo al ristorante, in futuro potrebbero lanciare missili).

Un anno fa, Hinton aveva ipotizzato che la AI superintelligente sarebbe arrivata entro 20 anni. Ora questo traguardo potrebbe essere raggiunto in meno di 10 anni. Lo sviluppo verrà accelerato dalla competizione tra le aziende. Potrebbero progettare i sistemi AI mettendo in primo piano la sicurezza. Invece spingono i governi a ridurre la regolamentazione della tecnologia e permettono l’uso per applicazioni militari.

Lo scienziato ha paragonato i progressi nel campo dell’AI all’allevamento di una tigre:

A meno che tu non possa essere assolutamente certo che non vorrà ucciderti quando sarà cresciuto, dovresti preoccuparti.

Hinton ha recentemente firmato una lettera, insieme ad ex dipendenti di OpenAI, con la quale viene chiesto alle autorità di bloccare la trasformazione di OpenAI in azienda a scopo di lucro, in quanto non perseguirebbe più l’obiettivo di sviluppare una AGI (intelligenza artificiale generale) a beneficio dell’umanità, ma solo a beneficio degli investitori.