Twitter est tellement 'toxique' que l'association Amnesty International recrute une 'patrouille' anti-troll

Jack Dorsey, le patron de Twitter a été contacté directement par ses utilisateurs pour avoir tardé à sévir contre le harcèlement sur sa plateforme. Bill Pugliano/Getty Images

  • Amnesty International a mis en place la "Troll Patrol" (ou patrouille anti-troll en français), un projet qui demande à des volontaires de passer au crible les tweets injurieux à l'encontre des femmes sur Twitter. 
  • Le projet est annoncé après la publication du rapport d'Amnesty, #ToxicTwitter, qui détaille le résultat d'une longue enquête de 16 mois sur la manière dont les harceleurs et les agresseurs ciblent les femmes sur les réseaux sociaux. 
  • L'objectif de ce projet est d'apporter des données aux chercheurs d'Amnesty pour développer des algorithmes qui permettront de détecter automatiquement des tweets injurieux et faire pression sur Twitter. 

Amnesty International se charge personnellement de surveiller Twitter pour éviter les messages d'harcèlement qui s'y propagent. 

Mercredi 4 avril 2018, l'ONG qui défend les droits de l'Homme a lancé sa Troll Patrol, un projet qui vise à recruter des volontaires pour trouver et analyser des tweets potentiellement injurieux à l'encontre des femmes journalistes, activistes et politiques. 

À court terme, l'idée est de passer au crible les motifs de ces tweets injurieux ou toxiques et publier ces résultats. À long terme, l'objectif d'Amnesty est d'utiliser ces tweets classifiés pour construire un algorithme que Twitter pourra potentiellement utiliser pour détecter automatiquement des tweets injurieux, sans intervention humaine. 

"Plus nous aurons de preuves, plus nous pourrons montrer à Twitter que le problème est grand et comment il affecte les femmes de tous milieux confondus — idéalement, cela nous permettra de faire pression, afin que la société puisse se rallier à notre cause et prendre en considération les revendications de notre campagne #TowicTwitter, et ainsi, montrer que c'est un problème sur lequel ils doivent agir", a déclaré Azmina Dhordia, chercheuse en technologies et genres à Amnesty International. 

La campagne #ToxicTwitter qu'elle mentionne est un rapport, réalisé deux semaines plus tôt, condamnant Twitter pour ne pas avoir pris les plaintes de harcèlement au sérieux. Cette étude de 77 pages résume les résultats d'une enquête longue de 16 mois, montrant ce que les femmes endurent sur Twitter. 

Cette campagne coïncide avec l'annonce de Twitter sur sa nouvelle charte de bonne conduite, un effort qui d'après Dhordia, est toujours bienvenu, puisqu'il s'agit de travailler à mieux contrôler les contenus de la plateforme. Mais le problème, précise-t-elle, n'est pas le manque de règles. 

"Le problème auquel beaucoup de femmes victimes d'injures sur Twitter font face est que la politique de Twitter n'est pas toujours appliquée de manière cohérente et systématique", a dit Dhordia. 

Le problème avec Twitter

Le problème que souligne Amnesty International découle du fait que Twitter manque cruellement de transparence dans sa manière de faire face au harcèlement, indique Dhordia. Elle a dit que l'ONG avait à plusieurs reprises demandé à Twitter de dévoiler le nombre de signalements qu'elle a reçus ou le nombre de modérateurs qu'elle emploie pour surveiller les contenus ainsi que la manière dont Twitter les forme. 

"C'est difficile pour nous d'épingler précisément le problème, s'ils nous disent qu'ils ne veulent pas nous donner cette information", a dit Dhordia. 

De son côté, Jack Dorsey, le DG de Twitter, a déclaré vouloir être plus ouvert et plus transparent, dans un effort visant à défaire la société de sa réputation de refuge pour les harceleurs et les persécuteurs. Dans un communiqué adressé à Business Insider US, Vijaya Gadde, à la tête de la politique de confiance et de sécurité de Twitter, a déclaré: "Nous travaillons à un engagement constructif avec Amnesty International et les autres acteurs pour trouver des solutions tangibles et durables pour nous assurer que les femmes sont en sécurité et se sentent en sécurité en ligne". 

Pourtant, si Twitter a bien un système de signalement pour que les utilisateurs puissent avertir les instances supérieures en cas de harcèlement, son utilisation ne provoque aucune réponse de la part de la plateforme. 

Dans une affaire célèbre, l'utilisatrice @hannahgais a signalé la vidéo d'un individu se masturbant, envoyée en tant que message privé, que l'équipe de Twitter n'a pas considéré comme constituant une violation. Ce n'est qu'après l'avoir signalée à Jack Dorsey en personne dans un tweet public, que sa demande a abouti. Voici le fil de la discussion: 

"J'ai signalé un type qui m'a envoyé par MP une vidéo de lui s'astiquant pendant 30 secondes (envoyée à mon insu), rapporté sa vidéo, mais les sbires incompétents de @jack ont visiblement conclu que ça ne constituait pas une violation de leurs règles d'utilisation".

"Comment un cas de harcèlement sexuel évident peut NE PAS être une violation de vos règles, @jack? Je suis tout ouïe".

"Ah, euh, du nouveau, apparemment:"

La réponse de Twitter:

"Bonjour,

Nous avons enquêté et suspendu le compte que vous nous avez signalé, car il constituait bien une attitude abusive. […] Si le problème persiste de vôtre côté sur Twitter, nous vous prions de nous le faire savoir.

Merci,

Twitter"

Ce genre de problèmes s'étend à plusieurs niveaux de pouvoir, rendant la mission de la Troll Patrol plus urgente. D'après Amnesty International, les femmes noires et asiatiques du parlement britannique ont reçu 35% de tweets injurieux de plus que les femmes blanches du parlement, selon une étude qui s'étend jusqu'aux élections législatives de 2017. Voici pour exemple, les messages qu'a reçus Dawn Butler, député du parti travailliste britannique.

"Je ne cautionnerai JAMAIS le harcèlement de qui que ce soit en ligne ou dans la vraie vie. Et voici une sélection des [insultes] les plus gentillettes que j'ai pu recevoir", introduit-elle.

Voici la sélection dans le détail:

"Oh, ma chère Dawn. Je ne vais même pas chercher sur Google ce que vous avez dit, mais visiblement, vous avez démontré que vous n'étiez (je le devine) qu'une putain de fanatique raciste (et éduquée, je suppose) oh et aussi (de mon point de vue) une sale conne ignorante!"

"Hey salope, ne nous fais pas croire que tu appartiens au parti des travailleurs. Et tu n'as même pas répondu à la question. Au moins, Dom est raffiné".

"contrairement à MOI, tu peux te faire mettre derrière les barreaux pour ton accoutrement, stupide pétasse de gaucho, achète-toi une vie"

"Salope hypocrite et faux cul. Vermine".

"@DawnButlerBrent, contactez mes camarades du parti travailliste, vous n'êtes qu'une sale conne de noire".

La patrouille anti-troll 

Tout le monde peut se joindre à la Troll Patrol via un portail en ligne. Les bénévoles obtiennent le titre de Décodeur. À l'heure actuelle, Amnesty a recruté 557 sur les plus de 10.000 décodeurs qu'ils planifient de recruter. 

Une fois recruté, le décodeur devra passer au crible un ensemble de tweets potentiellement injurieux — Amnesty en compte actuellement 501.796 — et chercher tout signe d'injures ou de harcèlement et classer ce qu'ils voient. Cela peut être une menace virulente, sous la forme d'une photo, ou même une vidéo dans laquelle sont proférés des termes sexistes ou racistes. 

Amnesty International admet que lire ce genre de tweets peut être traumatisant pour les décodeurs, et c'est pourquoi des messages d'avertissement rappellent aux volontaires qu'ils peuvent prendre des pauses s'ils en ressentent le besoin. Un tel message peut apparaître tous les 10 tweets.

Il y a des limites à ce que les décodeurs peuvent faire: s'ils peuvent analyser, rechercher et aider à décrypter les données visibles de tous les utilisateurs sur Twitter, les messages privés sont limités à ceux qui travaillent pour l'organisation. Plus que tout, l'objectif est de prouver à Twitter que des mesures plus importantes peuvent — et doivent — être prises. 

"Comme Twitter a pour responsabilité de respecter les droits humains, nous nous efforçons de leur montrer comment les femmes font face à la violence et au harcèlement sur la plateforme", a dit Dhordia. 

Version originale: Katie Canales/Business Insider

Vous avez apprécié cet article ? Likez Business Insider France sur Facebook !

Lire aussi : Des femmes ont décidé de boycotter Twitter ce vendredi pour protester contre leur gestion des abus

Pourquoi les parkas Canada Goose coûtent si cher