Download_on_the_App_Store_Badge_FR_RGB_blk_100517

Les utilisateurs noirs d'Instagram ont 50% plus de risques d'être bannis automatiquement que les blancs

Les utilisateurs noirs d'Instagram ont 50% plus de risques d'être bannis automatiquement que les blancs
© Reuters

Facebook aurait dit à son personnel d'arrêter de faire des recherches sur les préjugés raciaux de ses réseaux sociaux après avoir découvert qu'un outil de modération Instagram sanctionnait de manière disproportionnée les utilisateurs noirs, selon un nouveau rapport de NBC News. Des employés actuels et anciens ont en effet déclaré à la chaîne TV américaine qu'une recherche interne de Facebook a révélé en 2019 qu'un outil de modération de contenu automatisé sur Instagram, dont Facebook est propriétaire, avait 50% plus de chances de bannir automatiquement les utilisateurs noirs que les utilisateurs blancs.

Mais après avoir fait part de leurs conclusions à leurs supérieurs, les employés auraient reçu l'ordre d'arrêter d'enquêter sur ces éventuels préjugés raciaux inclus dans ces outils. Selon NBC News, Instagram a par la suite mis en place une version légèrement différente de l'outil de modération automatique, mais les employés n'ont pas été autorisés à faire des recherches sur ce dernier.

En réponse à cette information, Facebook n'a pas nié que ces employés ont reçu l'ordre d'arrêter d'enquêter sur les éventuels préjugés raciaux liés aux outils, mais a déclaré qu'ils utilisaient eux-même une méthodologie défectueuse. L'entreprise a ajouté qu'elle étudiait actuellement la meilleure façon de tester ses produits pour détecter des préjugés raciaux.

"Nous étudions activement comment mesurer et analyser nos produits selon des critères raciaux et ethniques de manière responsable et en partenariat avec d'autres entreprises", a déclaré la porte-parole de Facebook, Carolyn Glanville, dans un communiqué.

Cette publication survient alors que Facebook fait l'objet d'une surveillance accrue sur sa gestion des questions liées aux discours haineux et aux préjugés raciaux. La société s'est efforcée de développer des politiques de modération de contenu capables de distinguer les messages critiquant des groupes démographiques comme les hommes et les blancs de ceux critiquant des groupes opprimés, rapportait Vanity Fair l'année dernière.

Facebook s'est fixé des objectifs ambitieux pour améliorer la diversité raciale et sexuelle de son personnel. Un rapport sur la diversité publié le mois dernier a montre que l'entreprise progresse vers ces objectifs, mais que de nombreux segments de l'entreprise — en particulier les rôles techniques et les cadres supérieurs —restent disproportionnellement blancs et masculins.

Des employés ont critiqué l'entreprise pour avoir minimisé les préjugés raciaux potentiels de ses réseaux sociaux : "J'ai vu des gens devenir fous parce que la direction les ignorait et nous engageait, encore et encore, à continuer sur cette même voie", a déclaré un ingénieur de Facebook à NBC News.

En début de semaine, Facebook a confirmé que l'entreprise cherchait à constituer de nouvelles équipes internes pour étudier les éventuels préjugés raciaux dans ses produits. Vous pouvez lire l'article complet de NBC News (en anglais) sur la réponse de Facebook à l'étude sur les préjugés raciaux ici.

Version originale : Aarons Holmes/Business Insider

Découvrir plus d'articles sur :