Instagram, all'IA non piacciono le taglie forti

Una storia curiosa giunge da Instagram e rivela il lato oscuro dell’Intelligenza Artificiale, laddove fragilità e difetti si fondono in malfunzionamenti (nel migliore dei casi) o in veri e propri BIAS (nella peggiore delle circostanze). Si tratta di una storia a “taglie forti” nel vero senso della parola, nel senso che consente di porre in evidenza quando le decisioni dell’IA possano far leva sul concetto deviante di “normalità”.

Attenzione a storie di questo tipo, poiché rivelatrici: l’IA è un terreno di grandi potenzialità, ma al tempo stesso di grande pericolosità quando in fase progettuale e realizzativa si trascina appresso i difetti ed i preconcetti dell’uomo. Lo si è già notato anche in sistemi di riconoscimento facciale con applicazione nel mondo della sicurezza, ove avere la pelle scura può diventare penalizzante moltiplicando le possibilità di cadere tra le maglie di filtri censori.

IA e taglie forti

La storia è quella di “Katana Fatale” (qui il suo profilo), influencer da 38 mila follower che sul social network carica abitualmente immagini di intimo e sguardi provocatori. Il tutto senza nascondere in alcun modo – anzi – le taglie forti del suo corpo. Una sua segnalazione avrebbe portato a notare gli strani comportamenti di Instagram che, al contrario di altre situazioni, con le immagini di Katana si è rivelato ben più “pudico”.

Una foto di nudo (vista di profilo e con ogni punto sensibile coperto) è infatti caduta nelle maglie del filtro contro le oscenità, ma è evidente come con altre modelle il filtro si sia rivelato ben più bonario. Analizzando la foto specifica, ecco emergere molte altre segnalazioni similari e il punto di contatto tra le differenti situazioni sembra essere sempre lo stesso: per le donne “curvy” i filtri basati sull’IA di Instagram si rivelano più severi rispetto a modelle di minor peso.

Sappiamo che talvolta le persone desiderano condividere foto di nudo artistiche o creative ma, per svariati motivi, il nudo non è ammesso su Instagram. Questo riguarda foto, video e alcuni contenuti creati digitalmente che mostrano rapporti sessuali, genitali e primi piani di natiche completamente nude. Questa misura riguarda anche le foto ritraenti i capezzoli femminili. Tuttavia, le foto di cicatrici dovute a mastectomia e le immagini di donne che stanno allattando al seno sono consentite. Inoltre, sono consentite le fotografie di quadri e sculture raffiguranti dei nudi.

Secondo l’analisi BuzzFeed, supportata dall’opinione di Mathieu Lemay (esperto di IA), il problema potrebbe essere comunque ben più banale di quanto non sembri, pur se grave proprio in diretta proporzionalità alla sua banalità.

Oscenità pesate a pixel

Nella fattispecie, l’IA sarebbe stata “nutrita” o con un numero di immagini troppo basso, o con entità troppo omogenee, in ogni caso non in grado di tracciare una rappresentazione realistica dell’intero panorama delle possibilità. Tale considerazione appare peraltro facilmente dimostrabile laddove a mostrare il proprio corpo sono solitamente persone in buona forma fisica, mentre chi ha un difetto qualsiasi tende a celarlo per non cadere sotto il peso del conformismo da social network. Il risultato è un’IA che ha una visione parziale e non è quindi in grado di “capire” completamente l’immagine analizzata. Ecco quindi dove cade l’algoritmo: troppi “pixel” di pelle possono dipingere un profilo di nudo eccessivo agli occhi del filtro, consigliando così una bocciatura dell’immagine a prescindere dal merito del contenuto.

Insomma: una modella con peso (e volume, soprattutto) nella norma potrà pubblicare immagini più provocanti rispetto ad una con peso (e superficie, soprattutto) superiore. La spiegazione è statistica: troppi pixel di pudore, roba che “a pelle” non piace a filtri basati su Intelligenza Artificiale.