Tre passi nel delirio: dalle AI a Skynet

Anche i profeti sono pignoli, e poiché il tormentone di Skynet su queste pagine è ormai frequente, e persino qualcuno tra i 24 integralistici lettori ha cominciato a lamentarsi, mettiamo subito i puntini sulle “i”, riallacciandoci ovviamente all’articolo sulle AI che creano e allenano altre AI.

Cassandra è stata specificatamente accusata di essere ormai caduta nell’eccesso di citazioni di Skynet e Terminator; da più parti sono arrivati suggerimenti a farla finita. Per prenderli in doverosa considerazione, sia ben chiaro che sopportare le citazioni cinematografiche e le altre bizze linguistico-narrative di Cassandra è il prezzo da pagare per poterla leggere. Cassandra oggi non si limiterà a reiterare l’abusata ma sempre validissima citazione di Skynet, ma ne aggiungerà addirittura una nuova, quella di Tre passi nel delirio , antico ed ottimo film giallo ad episodi, ispirato a racconti di Edgar Allan Poe e diretto da Roger Vadim, Louis Malle e Federico Fellini.

Cassandra ne prenderà a prestito solo il titolo per descrivere per sommi capi il percorso che porterà a qualcosa di equipotente a Skynet, tratteggiando il percorso e gli eventi che ne segneranno le tappe fondamentali.

Orbene, per questo “Matto in tre mosse” delle AI verso l’umanità sono appunto necessarie tre mosse, anzi tre (deliranti) passi.

Il primo passo perché queste nuove forme di vita diventino parzialmente o totalmente autonome è già stato fatto; “replicazione ed evoluzione”. Cassandra ne ha già vaneggiato nel precedente episodio di questa miniserie. Consiste appunto nel fatto che i creatori di AI abbiano cominciato fattivamente a lavorare su AI che modificano sé stesse producendo altre AI migliori di loro. Scusate se è poco.

Oggi parliamo del secondo passo; “evoluzione e selezione”: il terzo per fortuna non pare essere imminente.

Il DARPA ha già dal 2015 istituito uno dei suoi importantissimi “Grand Challenge”. Si, “il” DARPA e non “la” DARPA, anche se è un’Agenzia, perché in italiano per le parole straniere non si considera il genere, non vengono messe al plurale, ed il maschile include il femminile nel discorso. Ed anche se persino l’Accademia della Crusca ha recentemente sdoganato anche le “Ministre”, Cassandra rimarrà fedele alla signorina Pia, sua maestra di V elementare, che altrimenti si rivolterebbe nella tomba.

Ma smettiamola di divagare come certi ultrasessantenni un po’ rincoglioniti e torniamo al punto.

Ricordiamo che il DARPA, l’agenzia per la ricerca del Dipartimento della Difesa degli Stati Uniti, è stato il finanziatore di Internet, e da allora i suoi soldini e quelli dei militari americani sono stati la radice della maggior parte delle nuove tecnologie informatiche e robotiche, in un lungo percorso che arriva fino a TOR ed alle autovetture a guida autonoma.

Le sue iniziative sono quindi sempre da seguire con la massima attenzione, ed infatti il secondo “passo nel delirio”, la seconda mossa verso lo scacco matto di Skynet all’Umanità vedrà il suo inizio questo agosto al DEFCON, dove avrà appunto luogo la sfida tra i sette finalisti del DARPA Cyber Grand Challenge (CGC) raccontato in questo, forse un po’ troppo annacquato ma comunque interessante, articolo di Wired .

In breve, sette squadre di sviluppatori sguinzaglieranno le loro rispettive AI, ciascuna su un server di un gruppo di 7, collegati tra di loro in una rete perfettamente isolata. Il software verrà caricato, senza avvicinarsi ai computer, tramite un CD-rom azionato da un braccio robotico, in modo che nessuno possa “barare”. La rete di computer non utilizzerà uno o più sistemi operativi noti, ma un apposito ambiente nato per la ricerca sulla cybersicurezza, il DECREE – DARPA Experimental Cybersecurity Research Evaluation Environment .

Il sistema è volutamente incompatibile con tutti i protocolli di rete ed i sistemi operativi esistenti, in modo tale che il file binari che formano le AI siano assolutamente incompatibili con i programmi e le reti del mondo reale. Queste AI d’altra parte saranno “buone”: dovranno individuare le falle appositamente lasciate nei server ed agire in modo non da sfruttarle ma di correggerle. Certo, cambiando un solo segno a questa “equazione”…

Sarà per la paura di fornire elementi per sviluppare nuove cyberarmi a buon mercato ai paesi canaglia? O piuttosto di creare organismi autonomi in grado di sfuggire e riprodursi nel Cyberspazio “reale”? O semplicemente l’applicazione di buone prassi scientifiche, comuni alla ricerca nucleare, alla genomica ed alle nanotecnologie, di tenere sempre ben confinati gli esperimenti per sicurezza?

Ma Cassandra non è vincolata da questi sensatissimi ragionamenti, perché deve continuare a svolgere il suo mestiere di profetessa di sventura, e perciò annuncia qui che il secondo passo verso Skynet sarà compiuto il 4 agosto di quest’anno, dalle 5:00pm alle 8:00pm fuso orario del Pacifico, con il rilascio di AI autonome, in grado di imparare ed in concorrenza tra loro, in un ambiente informatico.

Nella saga di Terminator, Skynet, tutta sola, andò online appunto il 4 agosto 1997 e cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell’Atlantico, del 29 agosto 1997… e sappiamo bene il resto della storia.

La realtà è spesso in ritardo rispetto alla fantascienza, e questo agosto a Defcon si vedranno un sacco di cose interessanti e non succederà niente di simile. Anche il resto dell’estate sarà, almeno da questo punto di vista, del tutto tranquilla. Ma tra un anno, tra dieci, quando i soldi e la ricerca sugli armamenti l’avranno fatta da padroni anche nel campo dell’AI?

No, persino Cassandra si rende conto che non nascerà una Skynet; ritiene pero’ che nasceranno cose più piccole, ma più numerose e più pericolose.

Quindi, beato il mondo che non avrà mai bisogno di un grande o tanti piccoli John Connor.

Marco Calamari
Lo Slog (Static Blog) di Marco Calamari
L’archivio di Cassandra/ Scuola formazione e pensiero