Il vostro auto(ma) assassino

Terminator , come i miei 24 instancabili lettori sanno bene, è di casa in queste pagine. Cassandra si è già occupata di lui in tempi insospettabili , ma in quanto dotata del dono della profezia non si tratta di un’operazione grande merito. I droni armati pilotati da remoto sono quindi roba vecchia, e le armi autonome ne sono una logica conseguenza, anche quella già enunciata. Le prime vittime di armi automatizzate, non autonome ma solo malfunzionanti, sono ormai notizie vecchie.
Siamo in cammino in questa direzione, con ben poche possibilità di deviare in maniera sostanziale dal percorso ormai tracciato.
È perciò molto interessante considerare i dettagli di quanto sta avvenendo, e quali tecnologie o parti ancora mancano prima che un automa autonomo armato (AAA) accenda per la prima volta i suoi occhi rossi e luminosi.

Ma i primi esemplari non saranno “androidi”, macchine in forma umanoide: saranno ” automi “, macchine capaci di agire da sole, per usare un termine caro a Cassandra “robot assassini” o, per usare un termine più politically correct, le prime “armi autonome”.
L’aspetto umano non presenta infatti particolari vantaggi per un’arma autonoma: servirebbe solo perché essa possa utilizzare oggetti progettati per gli uomini, come Asimov ripeteva continuamente nel suo ciclo sui robot positronici guidati dalle famose ” tre leggi della robotica “.
È infatti molto più semplice ed efficiente integrare quanto serve in una struttura non necessariamente umanoide per minimizzare pesi ed ingombri e massimizzare l’efficienza. E no, non con i deludenti risultati di ED-209 .

Armi automatiche come i droni aspettano solo che i progressi nel campo dell’intelligenza artificiale, o anche solo nei software di controllo, li dotino di un comportamento che possa essere espresso secondo regole generali, ed adattato automaticamente ad ambienti e situazioni mutevoli in tempo reale, in modo tale che la potenziale arma autonoma possa guidare se stessa.

Sento già dire che anche un rover marziano, un robot di ricerca da valanghe ed altri mille impieghi positivi giustificheranno tutto ciò, e che questi impieghi positivi smentiranno in gran parte le fosche profezie di Cassandra.
Beh, basta vedere come è andata con i progressi maturati per i missili per valutare alla fine quanti ne sono stati costruiti per uso non militare e quanti per uso militare…

Ma torniamo alla nostra arma autonoma, che a livello di meccanica, elettronica, informatica e telematica ha tutte le tecnologie già pronte per la sua realizzazione.
Gli manca solo la capacità di guidarsi… Guidarsi, già. Non vi viene in mente niente?

Ma sì, sono ormai un paio d’anni che le automobili a guida autonoma riempiono le pagine dei quotidiani, ed ora stiamo per arrivare alla pubblicità, visto che Tesla Motors ha appena annunciato un upgrade software (a pagamento) che rende il suo Modello S autonomo per la guida in una corsia autostradale.
Non “domani” o “fra qualche anno”. Oggi.
Certo, al prezzo di 2.500 dollari per il download, o gratis per chi ha sottoscritto l’abbonamento “tutto incluso” da 3.500 dollari… Ma questa è un’altra storia.

Si tratta solo di una briciola di autonomia. Persino in un ambiente elementare e controllato come un’autostrada il cambio di corsia dovrà essere deciso dal guidatore, per la cronaca semplicemente mettendo la freccia.
Ma ecco dove il nucleo di autonomia che ancora manca potrà facilmente svilupparsi. Sicuramente i contest della DARPA hanno avuto il loro peso nel creare questa “nicchia ecologica” per lo sviluppo dell'”autonomia”, ma anche gli impressionanti budget delle case automobilistiche, sempre alla ricerca di qualche cosa che le differenzi dalla concorrenza, c’entrano senz’altro assai.
Viene da chiedersi se questi progressi nel campo dell’automotive saranno accompagnati da un recupero di qualità e sicurezza del software di bordo, ma anche questa è un’altra storia…

Riassumiamo quindi la semplice (ma non banale) tesi: saranno le auto autonome di domani a generare l’autonomia necessaria ai primi automi.
Ed anche solo le auto autonome, pur non rientrando affatto nella categoria delle armi, porranno problemi davvero difficili.

Cosa dovrà fare un’auto “autonoma” che si trovi di fronte alla scelta tra investire un bambino sbucato tra due autovetture o buttarsi fuori strada insieme al suo guidatore?
Cosa dovrà fare in una infinità di altre situazioni simili, dove la ragione fallisce e spesso nemmeno la morale può indicare la giusta scelta?
Ed infine, chi sarà poi responsabile del risultato finale? La casa automobilistica, il proprietario, il programmatore, il creatore delle regole di comportamento (qualcuno ha detto “regole di ingaggio”?), l’amministratore delegato o chi?

Con i software di bordo ancora più sigillati da nuove norme come il TPP sarà ben difficile che si possa decidere secondo ragione e giustizia.
Tutto molto complicato e difficile.

Consoliamoci con quest’ultima considerazione: partendo dall’autonomia di un veicolo basterà aggiungere una regola per animare un robot assassino un’arma autonoma. Una regola molto semplice da creare ed a prova di errore.
Noi siamo i Buoni, loro i Cattivi: ai “cattivi” si spara, e se per errore spari ad un “buono”, sarà solo un caso di fuoco “amico”.

Marco Calamari
Lo Slog (Static Blog) di Marco Calamari
L’archivio di Cassandra/ Scuola formazione e pensiero