Meta, Snapchat e TikTok insieme contro contenuti pericolosi

La Mental Health Coalition (MHC), organizzazione no-profit per la salute mentale, ha presentato il programma “Thrive” con l’obiettivo di prevenire la diffusione online di contenuti legati a suicidio e autolesionismo. Thrive coinvolge come membri fondatori le piattaforme Meta, Snapchat e TikTok.

Snap e TikTok unite contro contenuti pericolosi

Il programma permette a Meta, Snapchat e TikTok di segnalare e condividere con le altre degli “hash“, una sorta di impronta digitale, relativa a video, immagini o post con contenuti pericolosi di istigazione al suicidio o all’autolesionismo. Gli hash sono associati unicamente ai contenuti dannosi, senza includere alcuna informazione identificabile su account o utenti specifici.

In questo modo le varie piattaforme possono riconoscerli rapidamente e bloccare la diffusione degli stessi contenuti già banditi altrove. L’iniziativa Thrive punta così a creare una database condiviso tra i principali social network per arginare la circolazione virale di post potenzialmente dannosi e triggger di comportamenti a rischio.

Meta ha contribuito con l’infrastruttura tecnica, che tra l’altro è la stessa che l’azienda ha fornito al programma Lantern della Tech Coalition per la sicurezza dei bambini lo scorso novembre.

Al via il programma Thrive

Il direttore di Thrive Dan Reidenberg, che è anche amministratore delegato del National Suicide Prevention Council, supervisionerà gli aspetti operativi di Thrive, facilitando e monitorando le attività dell’organizzazione. Le aziende partecipanti saranno responsabili del caricamento, della revisione e dell’azione su tutti i contenuti condivisi attraverso Thrive e contribuiranno alla stesura di un rapporto annuale che fornirà informazioni sull’impatto del programma.

“Noi di MHC siamo entusiasti di lavorare con Thrive, una collaborazione unica tra le più influenti piattaforme di social media che hanno unite le forze per affrontare il tema del suicidio e dei contenuti autolesionistici“, ha dichiarato Kenneth Cole, fondatore di MHC. “Meta, Snap e TikTok sono tra i partner iniziali che si uniscono allo ‘scambio’ e si impegnano ad avere un impatto ancora maggiore e a contribuire a salvare vite umane“:

I grandi assenti: X e Google

Da Thrive è assente X, che non ha esattamente i migliori precedenti in fatto di moderazione. La piattaforma ha uno staff di moderazione significativamente più piccolo rispetto agli altri social, in parte come risultato del taglio di circa l’80% degli ingegneri dell’azienda preposti a garantire la sicurezza. All’inizio di quest’anno, X aveva promesso di creare un nuovo centro di eccellenza per la sicurezza ad Austin, in Texas. Ma, secondo quanto riferito, l’azienda ha finito per assumere un numero di moderatori molto inferiore a quello inizialmente previsto.

Anche Google, che possiede YouTube, non fa parte di Thrive. YouTube è finito sotto accusa per non aver protetto gli utenti da contenuti che incoraggiano l’autolesionismo. Uno studio dell’Institute for Strategic Dialogue dell’estate 2024 ha rilevato che YouTube raccomanda facilmente agli adolescenti video che incoraggiano o normalizzano il suicidio.

Le cause legali contro Meta, Snap e TikTok

Questo non vuol dire che Meta, Snap e TikTok se la siano cavata meglio; centinaia di cause legali, tra cui una recentemente intentata dalla città di New York, accusano i giganti tecnologici di contribuire alla crisi della salute mentale. In una sentenza storica di due anni fa, un’autorità britannica ha ritenuto Instagram, di proprietà di Meta, colpevole del suicidio di una quattordicenne dopo che questa era stata esposta a contenuti autolesionistici sulla piattaforma.

Alcuni studi hanno iniziato a dimostrare una relazione causale tra l’uso massiccio dei social media e la diminuzione del benessere o dei disturbi dell’umore, soprattutto depressione e ansia.