Gli standard di Facebook e i contenuti che incitano all’odio razziale. Quando sono generalmente rimossi?

facebook_banned_logo

facebook_banned_logo

La censura di Facebook funziona con un algoritmo molto sensibile e, a volte, di scarsa qualità. Tutto ciò è dovuto al fatto che è una rete sociale divisa tra chi è interessato al mondo intero e chi, invece, è interessato ad argomenti specifici con diversi modi di socializzare con gli altri. Se un utente mostra una svastica (di qualsiasi tipo, non necessariamente il simbolo nazista) o una foto di nudo o pornografia in un post, si espone a segnalazioni e può essere bannato dalla rete sociale per molto tempo, così come vedersi rimuovere il post. Per il sistema su cui Facebook si basa, pubblicare continuamente è molto importante ed essere bannato dalla rete sociale è, a volte, una cosa molto difficile da evitare. Inoltre, creare più di un account, va contro le regole di Facebook, soprattutto se è un modo di aggirare i blocchi.

Ormai siamo già tutti al corrente che i contenuti di nudo o pornografia sono dirottati ad un algoritmo che riconosce automaticamente le foto che violano questo standard e le rimuove automaticamente. A volte ci sono membri dello staff di sicurezza che controllano, ma solo dopo che l’algoritmo ha filtrato le foto. Le foto che l’algoritmo riconosce come “nudo o pornografia” sono automaticamente rimosse, quelle che non violano questo standard per l’algoritmo non saranno rimosse. Può essere che l’algoritmo invii allo staff alcune foto dubbie che non riesce a valutare automaticamente. Il sistema di controllo automatico dell’algoritmo è sempre in fase di studio ed è necessario, perché potrebbero arrivare fino a 200.000 segnalazioni/ora e, naturalmente, Facebook non può assumere il personale sufficiente per valutare tutte le segnalazioni. L’algoritmo può basarsi sul numero delle segnalazioni (valutazione negativa), numero delle interazioni come “mi piace”, condivisioni e commenti (valutazioni positive, per questo consumo la tastiera per ripetere che NON bisogna commentare i post incriminati), DNA della foto (riconosce automaticamente gli elementi di nudo o pornografia) o foto in lista nera.

Più o meno nello stesso modo funziona l’algoritmo che controlla l’incitamento all’odio o “hate speech”, di cui ci occuperemo in questo articolo.

Dopo aver effettuato alcuni test, segnalando alcune foto che potevano essere di incitamento all’odio razziale ho tratto le seguenti conclusioni:

Contenuti sensibili soggetti al sistema di censura di Facebook:

– Parole. Ci sono diverse parole che Facebook rileva automaticamente nei post, soprattutto se scritte in MAIUSCOLO. Se qualcuno li segnala, i post (a volte anche nelle immagini) che contengono queste parole possono essere cancellate totalmente da Facebook. Le parole sono tra le seguenti:

  • Hitler
  • Negro (in un contesto specifico, in spagnolo significa “colore nero”)
  • Himmler
  • Heil
  • Ebreo (in un contesto specifico)
  • Sion/Sionista/Sionismo (in un contesto specifico)
  • Gay, se in post denigratorio

– L’algoritmo di Facebook è molto sensibile alle svastiche. Non le pubblicate in nessun contesto o qualcuno le segnalerà. Il post verrà eliminato se contiene una svastica, quindi, sostituitela con qualcos’altro. Sulle segnalazioni ho ottenuto un successo del 100% per le immagini sufficientemente definite, se invece hanno bassa definizione, o sono inserite in una foto ironica, non sempre vengono rimosse.

– Ogni altro simbolo nazista. La croce celtica e l’aquila nazista sono simboli sensibili. A volte anche il saluto romano può essere molto sensibile alla censura, soprattutto in certi contesti. Su circa 20 foto tra croce celtica, aquila nazista e saluto romano ho ottenuto un successo dell’80%. La croce celtica, se non era nera, e il saluto romano, se il braccio non era perfettamente teso a 135° e il palmo della mano aperto, sfuggivano all’algoritmo. Anche qui la definizione dell’immagine gioca un ruolo fondamentale. Le immagini sfocate o che raffigurano soggetti lontani, possono sfuggire all’algoritmo.

– Contenuti pro-nazismo. Se il post contiene un’evidente propaganda, che persuade la gente a negare l’olocausto o altre atrocità naziste, sarà segnalato e rimosso. Qui entrano in gioco le parole sensibili che dirottano l’algoritmo verso una decisione automatica o affidandosi allo staff di Facebook.

– Tutto ciò che si riferisce agli Stati Confederati. La bandiera confederata è difficilmente rilevabile a meno che non sia estesa a tutto il riquadro dell’immagine e che sia ben definita. Sono state segnalate solo 3 bandiere e nessuna è stata rimossa: è sicuramente necessario che si uniscano evidenti propagande razziste (es. ku-klux-klan). La rimozione è comunque più improbabile

– Altri contenuti relativi al nazismo. L’algoritmo di Facebook è studiato per memorizzare ciò che rimuove. Se un gruppo/pagina nazista pubblica un post che viene segnalato e rimosso (soprattutto se l’intero gruppo/pagina viene rimosso/a), l’algoritmo inserisce i contenuti in una lista nera e può, successivamente, rilevare se un’altra pagina pubblica le stesse immagini. Se un utente pubblica queste immagini, soprattutto se sono le stesse che erano state pubblicate nel gruppo nazista, ha molte probabilità di essere segnalato e censurato. Molte foto di Hitler sono state censurate perché probabilmente erano state inserite in gruppi (o pagine) rimossi che le contenevano. I classici “meme” che contengono Hitler con scritte come “alle docce” ecc. non vengono sempre rilevati e rimossi.

– Post con riferimenti all’Isis con una evidente esaltazione. L’Isis è un gruppo terrorista ed è un tema molto sensibile per gli standard di Facebook. Valgono le stesse regole per gli Stati Confederati, non pubblicate esaltazioni evidenti. Sarebbe anche più riconoscibile se l’immagine non occupasse tutto il riquadro. Inoltre, un post contenente un’evidente propaganda sarà senza dubbio rilevato dai filtri e rimosso. Molto probabilmente, il profilo, il gruppo o la pagina che ospitano questi contenuti saranno rimossi. Lo stesso può essere valido per gruppi che esaltano il terrorismo, specialmente se è di matrice islamica.

– Post che contengono foto di Mussolini, di vessilli e simboli del fascismo. Tutti questi contenuti sono permessi su Facebook. Non c’è nessun divieto per gli standard di Facebook e per la legge italiana a meno che non ci sia un’evidente istigazione al razzismo. Per gli standard di Facebook, l’istigazione al razzismo deve contenere le parole suindicate. L’algoritmo non rileva altre parole. Per esempio, il post della pagina di propaganda estremamente razzista e xenofoba, nell’immagine sottostante, incita chiaramente alla pulizia etnica, ma l’algoritmo di Facebook non rileva le parole sensibili e non rimuove il post, in caso di segnalazioni. La foto di Mussolini, come appena spiegato, non viola gli standard. Riportate questi contenuti all’UNAR che potrà valutarli singolarmente.

razzismo1

Riferendosi ai contenuti suindicati che Facebook rimuove, riporto alcuni esempi:

Utente con svastica nella foto del profilo e saluto romano in copertina – Profilo Rimosso

elsael

Altri contenuti nello stesso profilo con immagini che esaltavano il nazismo e i suoi simboli.

elsael2

Questa foto conteneva due donne ritratte frontalmente che facevano il saluto romano. Il cognome della titolare dell’account è evidentemente falso. Foto rimosse e blocco temporaneo del profilo.

chiara

Altre foto con persone che facevano il saluto romano ed erano ritratte di spalle o non avevano una buona definizione, non sono state rimosse.

Questa foto conteneva una donna che indossava una maglietta con croce celtica e che faceva il saluto romano – Rimossa e profilo bloccato.

bruna

Foto di una croce celtica. Rimossa

luna

Questa foto conteneva persone che sventolavano bandiere con una croce celtica nera – Rimossa

il popolo

Un post in bacheca di questa razzista lanciava un offesa a Mario Balotelli scrivendo in maiuscolo “LURIDO NEGRO” (o qualcosa di simile) – Rimosso

manuela1

Pagina ad altissimo contenuto razzista e xenofobo – Rimosse sia la prima che la seconda versione.

zingari1zingari 2

In un post l’amministratore razzista pubblica così:

“Io non sono razzista, se viene un danese gli offro anche il caffè. Ma uno zingaro che ruba i bambini, un nigeriano…”. Insomma, davvero non sei razzista! Non siamo comunisti, perché ormai esistono anche loro solo nei libri di storia, ma ci portiamo a casa una comunità intera di zingari piuttosto che un essere immondo come te. Se crei un’altra pagina simile sarai ovviamente segnalato e la tua pagina sarà eliminata. Ormai sono mesi che non stai creando più schifezze, la legge Mancino te lo proibisce.

Altri contenuti erano stupidissimi meme di Mussolini che inveiva contro il governo, gli immigrati, i musulmani ecc. Dato che è rinchiuso da 70 anni in una cripta, sicuramente a Mussolini non importa nulla dei problemi che sta affrontando l’Italia. Per i fasciminkia, Mussolini è (anzi era o sarebbe) contro l’islam. È ovvio che i loro idoli distruttori (Putin fa parte di quelli) servono per eliminare tutto ciò che ai fasciminkia non piace. Non importa se Mussolini nel 1937 è stato nominato “protettore dell’Islam” e che Putin ha partecipato ad un’inaugurazione di una moschea il mese scorso, sebbene, secondo loro, aveva affermato che in Russia non si sarebbero mai costruite moschee. Queste informazioni sono trascurate, infatti, non fanno decadere né sminuire l’adorazione di quegli imbecilli per questi personaggi.

Tre pagine diverse che esaltano Hitler, prive di contenuti ma solo il titolo è stato sufficiente per la rimozione. Questo è stato solo una effimera follia.

hitler 1hitler 2hitler 3

Già pubblicato, ma ripetiamo. Il profilo del diffusore della bufala dell’ebola a Lampedusa. A più di un anno dalla denuncia, il suo profilo, pieno di simboli razzisti che l’algorimo rileva, è stato finalmente rimosso insieme ai suoi raccapriccianti contenuti.

fabrizio girotti

Alcune foto che contengono la svastica potrebbero non essere rimosse se inserite in un contesto ironico. La foto sottostante è un esempio

nero nazi

Utente con un primo piano di Hitler come foto del profilo e altre foto del Fuhrer contenute nel diario. Profilo Rimosso

fabrizio1fabrizio2

Un profilo con un nome simile e un primo piano di Hitler come foto del profilo non dura sicuramente molto su Facebook.

adolf

Foto sottostante di Hitler pubblicata come meme, non rimossa. Non si riesce a stabilire se la foto non è contenuta nella black list oppure viene considerata come meme.

hitler 4

Quest’altro fuffaro, che usava un cognome fasullo, scrive cazzate enormi su di noi su pagine pubbliche. Ce l’ha in particolar modo con gli omosessuali e durante la campagna “Celebrate Pride” ha scritto un post pubblico disgustoso sul suo diario contro i gay. Segnalato e giustamente rimosso.

davide

Riassumendo, l’algoritmo di Facebook rimuove i contenuti, se trova in un post: parole o simboli che incitano all’odio tra quelli suindicati, foto in una lista nera, contenuti di nudo o pornografia. Per i contenuti grafici violenti, invece, l’algoritmo non è stato perfezionato e non funziona affatto come dovrebbe. Contenuti veramente raccapriccianti non sono rimossi a meno che non siano sottoposti ad un numero di segnalazioni considerevoli. Lo stesso vale per le truffe acchiappalike, se le segnalazioni non superano di molto le interazioni (condivisioni, “mi piace” e commenti), l’algoritmo non rimuove i contenuti. Con il sistema delle segnalazioni di massa, sono state rimosse anche foto e pagine che non violavano affatto gli standard. Molte volte, le pagine rimosse hanno dovuto appellarsi a Facebook e aspettare diversi mesi per riottenere la pubblicazione.