Des documents confidentiels montrent que les règles de modération de Facebook protègent les 'hommes blancs' mais pas les 'enfants noirs'

Une diapo de Facebook qui a filtrée sur qui "protéger".  ProPublica

Une enquête explosive du site d'information américain ProPublica, publiée mercredi, met en lumière comment Facebook forme ses milliers de modérateurs de contenus à contrôler les discours d'incitation à la haine sur le réseau social. L'enquête inclut une diapo qui a filtré, et qui suggère que les règles de modération mises au point par Facebook "protègent" les "hommes blancs" mais pas les "enfants noirs."

L'article, qui inclut des documents internes utilisés pour former les modérateurs de Facebook, détaille comment la règlementation du réseau social sur les discours haineux a "tendance à favoriser les élites et les gouvernement plutôt que les associations militantes et les minorités raciales."

Voici les principales révélations:

  • Facebook forme ses milliers de modérateurs de contenus à supprimer les discours haineux contre de certaines catégories de personnes, selon leur origine ethnique, sexe, orientation sexuelle et religion. Les discours de haine envers des "sous-groupes" tels que les "musulmans radicalisés," sont moins susceptibles d'être censurés.
  • Pour différencier les catégories protégées et les sous-ensembles non protégés, une diapo explicative demande aux modérateurs s'ils "protègent" les "hommes blancs", les "chauffeurs femmes" ou les "enfants noirs." La bonne réponse sur la diapo est les "hommes blancs." 
  • Les publications Facebook du président Donald Trump sur l'interdiction aux musulmans d'entrer sur le sol américain, en 2016, violaient les règles internes de Facebook sur les discours haineux. Mais le DG Mark Zuckerberg est intervenu personnellement pour empêcher la suppression de ces publications.
  • Facebook a utilisé la liste des groupes terroristes connus du département d'État américain ainsi que des bases de données similaires pour surveiller les discours de haine. Mais Facebook a aussi sa "liste secrète" "d'organismes de haine" qui sont censurés.

Lorsqu'on leur a demandé de réagir à l'article de ProPublica, un porte-parole de Facebook à redirigé Business Insider vers une publication publiée mardi sur le blog de Facebook, à propos de la modération des discours de haine. Dans cette publication, Richard Allan, responsable des affaires publiques, déclare que Facebook avait supprimé 66.000 publications comportant des discours de haine par semaine, pendant les deux derniers mois.

"Mais il est certain que nous ne sommes pas parfaits quand il s'agit d'appliquer notre règlementation," écrit-il. "Il y a souvent des cas qui nous échappent, et trop souvent on se trompe."

Vous pourrez lire l'enquête entière de ProPublica sur son site internet. L'article fait suite à l'enquête du Guardian sur les règles de Facebook sur la modération du sexe et de la violence le mois dernier.

Version originale: Alex Heath/Business Insider

Vous avez apprécié cet article ? Likez Business Insider France sur Facebook !

Lire aussi : Facebook a facilement atteint les 2 milliards de membres, mais la fête pourrait bien être terminée

Cette mappemonde animée montre comment les chats se sont répandus sur la planète