Amazon, 450 dipendenti bocciano Rekognition

I dipendenti Amazon stanno per alzare gli scudi contro una scelta della propria azienda: un motto d’orgoglio dettato dall’etica, dalla volontà di rimanere aderenti alle linee aziendali con la certezza che queste ultime rimangano aderenti ad un comportamento che non valichi certi paletti. La voce girava ormai da mesi, ma ora un maggior approfondimento sul tema giunge da un anonimo dipendente del gruppo che, tramite Medium, ha fatto sapere come siano ormai 450 i colleghi pronti a consegnare a Bezos la richiesta di veder ritirate le tecnologie Rekognition e Palantir dai contratti in essere con il Governo statunitense (ed in futuro con altri governi).

I motivi dell’accorata richiesta sono insiti nella particolare natura dei due servizi:

• Rekognition, software per l’identificazione facciale
• Palantir, software di tracciamento già utilizzato nella discussa gestione dei migranti da parte delle autorità USA

E sono motivi ben spiegati dall’incipit della missiva pubblicata:

Quando una azienda porta al mondo nuove tecnologie, ha il dovere di riflettere a proposito delle conseguenze. Amazon, dove lavoro, oggi consente ai dipartimenti di polizia di acquistare il proprio software di riconoscimento facciale, Rekognition, ed io e altri dipendenti chiediamo che interrompa questa cosa immediatamente.

La lettera evidenzia il fatto che Amazon abbia voluto intraprendere una politica attendista, nella consapevolezza del fatto che l’abuso di tali software possa generare possibili pericoli, ma nella convinzione altresì che il sistema avrebbe offerto una sorta di risposta automatica in grado di immunizzare gli abusi da possibili conseguenze. La mano invisibile del buon senso, in parallelo a quella più nota del mercato, avrebbe insomma potuto agire. I dipendenti Amazon, però, hanno minor fiducia nella Provvidenza poiché l’attesa potrebbe essere di per sé un peccato capitale: i problemi sono immediati, aspettare significa entrare in un processo poi difficilmente invertibile.

Rekognition è già in uso senza che ci sia stato pubblico dibattito in merito, né senza che Amazon abbia imposto qualsivoglia limitazione. Ciò meriterebbe chiaramente un approfondimento politico, ma la lettera non vuole (meritevolmente) andare oltre la propria specifica finalità. E lancia quindi un monito non alle autorità, ma all’azienda:

Se vogliamo essere leader, dobbiamo fare una scelta tra persone e profitti

“Una scelta tra persone e profitti“: si pone una questione identitaria legata al modo in cui Amazon intende definire sé stessa ed il proprio posizionamento futuro. Se a guidare le strategie saranno soltanto i profitti, la deriva potrebbe essere intrapresa; se a guidare le strategie sarà ancora la necessaria attenzione alle persone, allora l’innovazione avrà trovato un nuovo tutore.

Abbiamo tutti il diritto di vivere la nostra vita senza essere costantemente monitorati dal Governo. Aziende come la nostra non dovrebbero essere interessate a business che facilitano la sorveglianza autoritaria. Né ora, né mai. Ma Rekognition consente proprio questo, ricavando dozzine di identità da un singolo frame di un video […]

Il problema è etico, fortemente etico: “non possiamo trarre profitti da un piccolo insieme di forti clienti a spese delle nostre comunità“. Tutto ciò, a maggior ragione, se la possibile fallacia degli strumenti potrebbe essere sfruttata come leva di discolpa per vizi umani quali il razzismo.

Così era successo in Microsoft. Così era successo in Google. Così sta succedendo in Amazon. I dipendenti di queste grandi aziende si rendono conto di lavorare a qualcosa di profondamente impattante sulla società ed hanno probabilmente riflettuto sulle possibili distorsioni che queste tecnologie potrebbero avere in mano a governi poco democratici o poco trasparenti. Non è una questione politica, né tecnologica: è l’etica a fissare i paletti. E non si tratta nemmeno di una limitazione: così come non si può fermare l’innovazione, al tempo stesso è atteggiamento responsabile monitorarne l’evoluzione affinché si vada verso un mondo migliore e non verso un potenziale peggioramento di sicurezza, privacy e democrazia. Non si possono chiudere gli occhi di fronte a quel che potrebbe succedere, non occorre richiamare ogni volta alla memoria le distopie di 1984 per poi ritrovarsene intrisi senza aver opposto resistenza.

La firma in questo caso “An Amazon Employee”. Ma è una firma nel cui inchiostro c’è il buon senso di molte persone, innamorate della propria azienda, ma prima ancora dell’essere cittadini del mondo.