Gaia Bottà

Microsoft, il costo umano della lotta agli abusi

Due dipendenti, incaricati di vagliare immagini violente per segnalarle alle autorità, denunciano Redmond per i danni subiti. La tecnologia non basta per rimuovere ciò che ferisce l'occhio umano

Roma - La sola tecnologia non è sufficiente per stanare i traffici di pedopornografia, sopprimere le immagini di abusi, segnalare alle autorità le attività illegali che vengono perpetrate con la mediazione della Rete: l'occhio umano, sensibile al comune senso morale e addestrato dalle policy, resta uno strumento indispensabile. Due paia di questi occhi, alle dipendenze di Microsoft, denunciano le conseguenze di questa attività lavorativa, capace di generare profondi turbamenti e di riverberarsi sulla psiche e sulla vita quotidiana di chi la esercita.

La denuncia è stata mossa nei confronti di Redmond da Henry Soto e Greg Blauert, due membri dell'Online Safety Team, divisione costituita nel 2008 per interfacciarsi con il National Center for Missing and Exploited Children (NCMEC) statunitese e per segnalare alle autorità e rimuovere contenuti violenti, pedopornografici o illegali che circolassero presso i servizi di Redmond. Fra i loro compiti, si spiega nei documenti depositati in tribunale, c'era quello di "supportare le forze dell'ordine nel tentativi di combattere lo organizzazioni criminali", quello di "analizzare migliaia di immagini di pedopornografia e di pornografia", e di visionare contenuti che mostrano "atti di brutalità, omicidio, indescrivibili violenze sessuali, video di persone in punto di morte e, in generale, video e fotografie pensati per intrattenere il pubblico più deviante".

Soto riferisce di aver lavorato nell'ambito di progetti come PhotoDNA, sviluppato da Microsoft per tracciare e individuare automaticamente in Rete immagini pedopornografiche contenute negli archivi delle autorità, e in progetti analoghi per la classificazione e il monitoraggio delle immagini degli abusi presso i servizi di Redmond. Quelle che Microsoft presenta come soluzioni automatizzate per rilevare contenuti frutto di violenza sono inevitabilmente affiancate da un controllo umano, per alimentare gli archivi, per rastrellare prove a favore delle autorità, per verificare quanto rilevato dal software, compito che spetta all'Online Safety Team. Nelle denuncia, inoltre, si riferisce che ai dipendenti fosse stato assegnato un particolare status che permetteva loro di "visionare letteralemte ogni comunicazione di ogni utente": Microsoft, come altre aziende che offrono servizi di comunicazione in Rete, opera un controllo nel nome del contrasto alla pedopornografia. Un controllo che, evidentemente, non è governato dai soli automatismi della tecnologia, ma presieduto da una gestione umana.
Di immagine in immagine, di video in video, la violenza ha compenetrato la vita quotidiana dei due dipendenti: lamentano insonnia e allucinazioni, ansia e depressione, sintomi di disturbi post-traumatici da stress che il datore di lavoro non avrebbe saputo trattare con la dovuta attenzione. La denuncia di Soto e Blauert si concentra sulle mancanze del "wellness program" organizzato da Microsoft per assistere coloro che si occupano di questo tipo di attività, i cui consulenti avrebbero offerto cure quali passeggiate di salute e sessioni di intrattenimento videoludico. Con la denuncia, oltre ad un congruo risarcimento, auspicano di ottenere un miglioramento delle condizioni a favore di chi opera a Redmond nel settore del controllo e della moderazione dei contenuti.
Microsoft, per il momento, rende noto di "considerare una priorità la salute e la sicurezza dei dipendenti che svolgono questo tipo di lavoro", supportati con particolari turnazioni, assistenza psicologica obbligatoria, e tecnologie pensate per "ridurre il realismo delle immagini". Il genere di attività lavorativa svolto da Soto e Blauert è sempre più necessario presso gli intermediari della Rete, incalzati dalle autorità e dall'opinione pubblica affinché collaborino al monitoraggio di quanto di illegale venga ordito con la mediazione dei loro servizi. Microsoft, a questo proposito, riferisce di essere impegnata a tutelare i dipendenti che ricoprono queste posizioni in un processo di continuo apprendimento, recependo le loro esigenze e mettendo in pratica quanto suggerito dai più recenti studi in materia.

Gaia Bottà
Notizie collegate
  • AttualitàPedoporno, una lista per la ReteCondividendo con gli attori della Rete gli identificativi delle immagini degli abusi sui minori sarà possibile prevenirne il caricamento e soffocarne la circolazione. Almeno presso i servizi operati dai soggetti che aderiscono all'iniziativa
  • AttualitàPedoporno, anche Microsoft ha l'occhio lungoLe cronache confermano che la lotta alla pedopornografia giustifica l'innesco di automatismi di monitoraggio. Anche Microsoft, e così altri colossi della Rete, segnalano alle autorità le immagini degli abusi
  • AttualitàIl database condiviso per la lotta al terrorismoMentre l'Europa chiede agli operatori online di intervenire per eliminare i "discorsi di odio", Facebook, Microsoft, Twitter e YouTube creano un archivio di informazioni condivise per intervenire con tempestività contro la propaganda terroristica
14 Commenti alla Notizia Microsoft, il costo umano della lotta agli abusi
Ordina
  • Se il controllo dei contenuti lo fa la polizia i "liberali" si incazzano ed è tecnocontrollo, se lo fa un' entità privata tutto ok.

    Secondo me è un grosso problema, di fatto M$ e Compagnia dragadati hanno il potere di decidere, una volta acquisite le prove dei crimini, chi e quando consegnare alla giustizia.

    Male, anzi malissimo.
    non+autenticato
  • - Scritto da: uomo di campagna
    > Se il controllo dei contenuti lo fa la polizia i
    > "liberali" si incazzano ed è tecnocontrollo,

    No, aspetta, dov'e' che hai sentito questa cosa?
    Il potere esecutivo deve essere necessariamente governativo.
    Chi e' quel pazzo che prevede di demandarlo ai privati?
  • - Scritto da: panda rossa

    > Chi e' quel pazzo che prevede di demandarlo ai
    > privati?

    praticamente tutti i globalisti radicali liberal-chic

    ti ricordi il film e la serie Robocop? di come la OCP avesse il controllo di ogni cosa, polizia, media, enti governativi

    ecco, e' questo il mondo distopico che questi malati hanno in mente
    non+autenticato
  • - Scritto da: collione
    > - Scritto da: panda rossa
    >
    > > Chi e' quel pazzo che prevede di demandarlo
    > ai
    > > privati?
    >
    > praticamente tutti i globalisti radicali
    > liberal-chic
    >
    > ti ricordi il film e la serie Robocop? di come la
    > OCP avesse il controllo di ogni cosa, polizia,
    > media, enti
    > governativi
    >
    > ecco, e' questo il mondo distopico che questi
    > malati hanno in
    > mente


    stanno già costruendo nell'apatia e aquiescenza generale

    Fixed
    non+autenticato
  • - Scritto da: panda rossa
    > - Scritto da: uomo di campagna
    > > Se il controllo dei contenuti lo fa la
    > polizia
    > i
    > > "liberali" si incazzano ed è tecnocontrollo,
    >
    > No, aspetta, dov'e' che hai sentito questa cosa?
    > Il potere esecutivo deve essere necessariamente
    > governativo.
    > Chi e' quel pazzo che prevede di demandarlo ai
    > privati?

    "La denuncia è stata mossa nei confronti di Redmond da Henry Soto e Greg Blauert, due membri dell'Online Safety Team, divisione costituita nel 2008 per interfacciarsi con il National Center for Missing and Exploited Children (NCMEC) statunitese e per segnalare alle autorità e rimuovere contenuti violenti, pedopornografici o illegali che circolassero presso i servizi di Redmond."

    Bastava leggere.
  • - Scritto da: aphex_twin
    > - Scritto da: panda rossa
    > > - Scritto da: uomo di campagna
    > > > Se il controllo dei contenuti lo fa la
    > > polizia
    > > i
    > > > "liberali" si incazzano ed è
    > tecnocontrollo,
    > >
    > > No, aspetta, dov'e' che hai sentito questa
    > cosa?
    > > Il potere esecutivo deve essere
    > necessariamente
    > > governativo.
    > > Chi e' quel pazzo che prevede di demandarlo
    > ai
    > > privati?
    >
    > "La denuncia è stata mossa nei confronti di
    > Redmond da Henry Soto e Greg Blauert, due membri
    > dell'Online Safety Team, divisione costituita nel
    > 2008 per interfacciarsi con il National Center
    > for Missing and Exploited Children (NCMEC)
    > statunitese e per segnalare alle autorità e
    > rimuovere contenuti violenti, pedopornografici o
    > illegali che circolassero presso i servizi di
    > Redmond."
    >
    > Bastava leggere.

    Dove sta scritto se e' un distaccamento di una forza pubblica o se e' una agenzia privata?
  • - Scritto da: panda rossa
    > - Scritto da: aphex_twin
    > > - Scritto da: panda rossa
    > > > - Scritto da: uomo di campagna
    > > > > Se il controllo dei contenuti lo
    > fa
    > la
    > > > polizia
    > > > i
    > > > > "liberali" si incazzano ed è
    > > tecnocontrollo,
    > > >
    > > > No, aspetta, dov'e' che hai sentito
    > questa
    > > cosa?
    > > > Il potere esecutivo deve essere
    > > necessariamente
    > > > governativo.
    > > > Chi e' quel pazzo che prevede di
    > demandarlo
    > > ai
    > > > privati?
    > >
    > > "La denuncia è stata mossa nei confronti di
    > > Redmond da Henry Soto e Greg Blauert, due
    > membri
    > > dell'Online Safety Team, divisione
    > costituita
    > nel
    > > 2008 per interfacciarsi con il National
    > Center
    > > for Missing and Exploited Children (NCMEC)
    > > statunitese e per segnalare alle autorità e
    > > rimuovere contenuti violenti,
    > pedopornografici
    > o
    > > illegali che circolassero presso i servizi di
    > > Redmond."
    > >
    > > Bastava leggere.
    >
    > Dove sta scritto se e' un distaccamento di una
    > forza pubblica o se e' una agenzia
    > privata?

    Due dipendenti di Redmond (societá privata) facenti parte del "Online Safety Team" (divisione della stessa societá privata) si interfacciano con la "National Center for Missing and Exploited Children (NCMEC) statunitese per segnalare alle autorità e rimuovere contenuti violenti, pedopornografici o illegali che circolassero presso i servizi di Redmond."
  • - Scritto da: aphex_twin
    > - Scritto da: panda rossa
    > > - Scritto da: aphex_twin
    > > > - Scritto da: panda rossa
    > > > > - Scritto da: uomo di campagna
    > > > > > Se il controllo dei contenuti
    > lo
    > > fa
    > > la
    > > > > polizia
    > > > > i
    > > > > > "liberali" si incazzano ed è
    > > > tecnocontrollo,
    > > > >
    > > > > No, aspetta, dov'e' che hai sentito
    > > questa
    > > > cosa?
    > > > > Il potere esecutivo deve essere
    > > > necessariamente
    > > > > governativo.
    > > > > Chi e' quel pazzo che prevede di
    > > demandarlo
    > > > ai
    > > > > privati?
    > > >
    > > > "La denuncia è stata mossa nei
    > confronti
    > di
    > > > Redmond da Henry Soto e Greg Blauert,
    > due
    > > membri
    > > > dell'Online Safety Team, divisione
    > > costituita
    > > nel
    > > > 2008 per interfacciarsi con il National
    > > Center
    > > > for Missing and Exploited Children
    > (NCMEC)
    > > > statunitese e per segnalare alle
    > autorità
    > e
    > > > rimuovere contenuti violenti,
    > > pedopornografici
    > > o
    > > > illegali che circolassero presso i
    > servizi
    > di
    > > > Redmond."
    > > >
    > > > Bastava leggere.
    > >
    > > Dove sta scritto se e' un distaccamento di
    > una
    > > forza pubblica o se e' una agenzia
    > > privata?
    >
    > Due dipendenti di Redmond (societá privata)

    Redmond mi risulta essere una citta', non una azienda.

    Es. (Due dipendenti di Roma, due dipendenti di Lugano...)

    > facenti parte del "Online Safety Team" (divisione
    > della stessa societá privata)

    Dove lo dice che questo team e' una divisione privata?

    > si
    > interfacciano con la "National Center for
    > Missing and Exploited Children (NCMEC)
    > statunitese

    E questa e' pubblica o privata?
    Perche' mi risulta che in italia il telefono azzurro sia una agenzia privata, per esempio.

    > per segnalare alle autorità e
    > rimuovere contenuti violenti, pedopornografici o
    > illegali che circolassero presso i servizi di
    > Redmond."

    Pure le major hanno un distaccamento di SWAT per segnalare alle autorita' e rimuovere contenuti che vagamente potrebbero puntare a dei link di opere che forse potrebbero violare il copyright, ma sono privati.
  • - Scritto da: panda rossa
    > - Scritto da: uomo di campagna
    > > Se il controllo dei contenuti lo fa la
    > polizia
    > i
    > > "liberali" si incazzano ed è tecnocontrollo,
    >
    > No, aspetta, dov'e' che hai sentito questa cosa?
    > Il potere esecutivo deve essere necessariamente
    > governativo.
    > Chi e' quel pazzo che prevede di demandarlo ai
    > privati?

    Sono impiegati Microsoft:

    http://www.mcclatchydc.com/news/nation-world/natio...

    la cosa non viene esplicitata ed è facile capire perchè.
    non+autenticato
  • - Scritto da: uomo di campagna
    > Se il controllo dei contenuti lo fa la polizia i
    > "liberali" si incazzano ed è tecnocontrollo, se
    > lo fa un' entità privata tutto
    > ok.
    >
    > Secondo me è un grosso problema, di fatto M$ e
    > Compagnia dragadati hanno il potere di decidere,
    > una volta acquisite le prove dei crimini, chi e
    > quando consegnare alla
    > giustizia.
    >
    > Male, anzi malissimo.

    E' vero, lasciare un simile potere in mano alle aziende private è allucinante. Su questo ti sottoscrivo.

    Però non è che tutti la considerano una cosa normale, sono i giornalisti che cercano di farla passare per una pratica normale.
    non+autenticato
  • Quindi non trovi normale che il Telefono Azzurro informi le autoritá per degli atti violenti sui fanciulli ?