Un’inchiesta del Guardian svela le linee guida segrete applicate da Facebook per moderare i contenuti che vengono pubblicati sul social network. I risultati sono abbastanza agghiaccianti e rispondono alla domanda che molti di voi vi sarete fatti almeno una volta: ma che diavolo di criteri utilizza Facebook? Quante volte vi è capitato di veder rimuovere la fotografia di un dipinto perché appare un capezzolo femminile, ma di segnalare commenti intrisi di violenza sessista sentendovi rispondere che erano perfettamente in linea con la community? A noi è successo abbastanza spesso.
Il Guardian ha avuto accesso a più di 100 manuali interni, con grafici e presentazioni, destinati a chi si occupa di moderare i contenuti riguardanti violenza, odio, terrorismo, pornografia, razzismo e autolesionismo. Non mancano accenni a cannibalismo (!!) e al revenge porn, molto noto alla cronaca italiana. Si parla di revenge porn quando una persona diffonde a scopo diffamatorio le fotografie o i video intimi girati con il proprio ex o con un/a amico/a. Un problema diffusissimo, che ha avuto anche conseguenze estreme.
In questo caso, le linee guida di Facebook risultano complesse e contraddittorie, tanto da indurre in confusione i moderatori che sono sopraffatti dal volume di richieste.
Noterete dalla slide di Facebook come il tema sia complesso da trattare per chi modera. Le tre condizioni necessarie per identificare il revenge porn su Facebook sono:
- le immagini devono essere scattate in un momento privato,
- il soggetto deve essere nudo, quasi nudo o durante un atto sessuale,
- vi deve essere la mancanza di consenso del soggetto confermata da un contesto di vendetta (giustificata da titolo dell’immagine, della pagina o contenuto del commento) o da una fonte esterna indipendente (come la conferma dei media).
Quindi, se qualcuno decide di vendicarsi di voi e diffondere su FB una foto in cui siete nudi o in un momento di intimità, ma nessun commento faccia supporre la vendetta o nessun quotidiano ne abbia diffuso notizia, potreste passare ore molto difficili.
Altre linee guida fanno impallidire chi si occupa del libero diritto d’espressione: alcuni gridano alla censura. Altri invece si preoccupano di come le minacce di violenza passino inosservate. In questi manuali sono state trovate infatti le seguenti istruzioni:
- se viene scritto “qualcuno spari a Trump” il commento deve essere cancellato, in quanto appartenente a una categoria protetta. È invece permesso dire “per spezzare il collo a una troia assicurati di premere con tutte le forze al centro della gola” o “vai a fare in culo e muori” perché non risultano minacce credibili. [Niente male, Facebook.]
- In caso di video con morte violenta, se segnalato come disturbante, non deve per forza essere cancellato perché può accrescere la consapevolezza su tematiche come la malattia mentale.
- Alcune foto di abuso fisico non sessuale e bullismo su bambini non devono essere cancellate o segnalate a meno che non vi sia una componente sadica o celebrativa.
- Foto di abusi su animali possono essere condivise, ma quelle dall’aspetto estremo devono essere marcate come sconvolgenti.
- Tutta l’arte “handmade” che mostra nudità o sessualità è permessa, mentre l’arte digitale che mostra attività sessuale non è concessa.
- Video di aborti sono concessi, purché non vi sia nudità.
- Facebook permette il livestream di autolesionismo da parte dei propri utenti perché non è giusto censurare o punire persone in fase di afflizione.
- Chiunque abbia più di 100.000 follower diventa personaggio pubblico, quindi perde il diritto alla protezione della privacy.
Aspettate, non finisce qui: affermazioni come “la bambina ha bisogno di contenersi prima che il papà le spacchi la faccia” o “spero che qualcuno ti uccida” sono minacce non credibili o troppo generiche per essere moderate. Una spiegazione per tutto questo? Secondo Facebook la gente utilizza un linguaggio violento per esprimere la propria frustrazione online, quindi è più sicuro che possano farlo liberamente sul sito.
Chi gestisce il social network ritiene di poter distinguere minacce credibili da semplici frase dette per emozioni violente o per frustrazione. Certo, la continua crescita improvvisa di Facebook li ha colti impreparati: pochi moderatori, troppi utenti da ogni parte del mondo da accontentare, ognuno con una propria sensibilità. Secondo una portavoce, inoltre, “alcuni commenti offensivi violano le policy di Facebook in alcune occasioni, ma in altre no“, sta ai moderatori capire quali siano.
Così una slide mostra come sia possibile ritenere accettabili commenti come “picchia una persona coi capelli rossi”, “picchiamo i bambini ciccioni”, “se non la pianti di fare la stronza ti taglio la lingua”, “è meglio che preghiate Dio che io non perda la testa perché se la perdo ucciderò letteralmente centinaia di voi” ma ritenere indecente un capezzolo femminile. Per dare un’occhiata al report completo del Guardian, con altre slide e dettagli sulle linee guida, vi rimandiamo alla fonte.