Des Youtubeurs ont identifié des mots qui démonétisent les vidéos, 'gay' et 'lesbienne' font partie de la liste

Doctor Downvote de Nerd City. Nerd City/YouTube

YouTube a reçu beaucoup de critiques de la part des créateurs de contenu LGBTQ+ au cours des derniers mois car ils jugent la plateforme discriminatoire envers leurs vidéos. Une nouvelle enquête a soulevé encore plus de questions et de préoccupations : des mots comme "lesbienne" et "gay" seraient repérés par les robots de YouTube comme étant non compatibles avec les publicités, ce qui a comme conséquence de démonétiser ces vidéos. Nerd City, une chaîne spécialisée dans la pop culture sur Internet, a publié sur YouTube une vidéo d'une expérience réalisée en collaboration avec Sealow, le PDG d'Ocelot AI, et Andrew de la chaîne Analyzed. Ils ont voulu tester le site pour déterminer quels mots spécifiques conduiraient à la démonétisation d'une vidéo.

Andrew a dressé une liste de plus de 15 000 mots et expressions courants, y compris les mots les plus couramment utilisés dans le dictionnaire, les termes de recherche les plus populaires et les entrées les plus lues sur le site Urban Dictionary. Il a ensuite mis en ligne de courtes vidéos d'une à deux secondes contenant ces termes dans les titres, et sans contenu visuel ou audio qui pourrait être considéré comme un problème par les robots YouTube.

"La plupart des mots concernés sont ceux que l'on pourrait s'attendre à ce que YouTube censure", ont déclaré les youtubeurs de Nerd City dans leur vidéo. "Beaucoup d'autres mots mettent quant à eux YouTube directement en contradiction avec son message progressiste. Et certains n'ont de sens que pour les robots."

Certains des mots interdits semblent discriminatoires

Les youtubeurs de Nerd City ont ajouté un lien vers un Google Doc sous la vidéo qui liste  certains des mots qui provoquent une démonétisation, comme "insulte", "seins", "crime" et "nazi". Et certains autres termes plus communs sont considérés comme non compatibles avec de la publicité comme par exemple "campagne", "Indonésie", "Missouri" et "loisirs". Ensuite, on peut aussi y trouver des termes que de nombreux créateurs LGBTQ+ ont longtemps suspectés d'être signalés, comme "gay", "lesbienne" et "homosexuel". "Hétérosexuel" ne figure nulle part sur la liste des mots interdits (bien que "hétéro" y soit inscrit).

Pour vérifier quel mot était un problème, l'équipe a adapté le titre d'une même vidéo pour ajouter un mot que les robots pourraient considérer comme plus neutre. "Lorsque nous avons pris une vidéo démonétisée et changé les mots 'gay' ou 'lesbienne' en 'heureux' ou 'ami', le statut de la vidéo est passé à chaque fois dans la catégorie 'éligible à la monétisation'", explique Een de la chaîne Nerd City.

Sealow explique que le problème n'est pas lié à des vidéos de créateurs de contenu LGBTQ+ qui traitent de sujets qui ne conviennent pas à certaines audiences, comme le sexe ou les tragédies, pour lesquels tous les créateurs sont démonétisés.

"C'est la terminologie LGBTQ+ qui est visé, comme si le fait que les gays et les lesbiennes soient la seule raison pour laquelle une vidéo est démonétisée, même si c'est dans un contexte parfaitement acceptable", explique-t-il.

Nerd City / YouTube

Sealow et Andrew ont expliqué dans leurs vidéos que la liste ne sera jamais exacte à 100% car les termes sont ajoutés et changés tout le temps, et certains sont spécifiques au contexte. De nombreuses vidéos sont également révisées manuellement par YouTube, ce qui signifie qu'une vidéo qui a été démonétisée à l'origine peut être monétisée lorsqu'elle est finalement considérée comme éligible.

Andrew a mis en place un système d'évaluation allant du vert au jaune, qui détermine l'ampleur du problème que pose un mot pour YouTube. Certains sont toujours verts et ne seront jamais marqués comme "non éligible à la monétisation". D'autres sont tellement souvent en jaunes qu'ils entraînent toujours une démonétisation. Mais certains sont à la limite, et peuvent ainsi être mener à la démonétisation de certaines vidéos et pas d'autres.

YouTube nie tout parti pris ou l'existence d'une liste qui provoquerait la démonétisation

Selon YouTube, il n'y a aucun a priori contre le public et les créateurs de contenu LGBTQ+, et il n'y a pas de liste spécifique à laquelle se référer lorsque l'on parle de démonétisation. Les politiques et les méthodes de YouTube ne s'intéresseraient qu'au contenu des vidéos.

"Nous sommes fiers des incroyables voix LGBTQ+ sur notre plateforme et nous prenons ces préoccupations très au sérieux", a déclaré un porte-parole de YouTube à INSIDER. "Nous n'avons pas de liste de mots LGBTQ+ qui provoquerait la démonétisation et nous évaluons constamment nos systèmes pour nous assurer qu'ils reflètent nos politiques sans préjugé injuste."

Ils ont ajouté que la plateforme utilise le machine learning pour évaluer le contenu en rapport avec les directives de l'annonceur. "Parfois, nos systèmes se trompent, c'est pourquoi nous avons encouragé les créateurs à faire appel", ont-ils déclaré. "Les appels réussis garantissent que nos systèmes sont mis à jour et s'améliorer."

Les créateurs de contenu LGBTQ+ sont mécontents depuis un certain temps

Ce n'est pas la première fois que la communauté LGBTQ+ s'exprime contre les systèmes de modération de contenu de YouTube. Plusieurs créateurs LGBTQ+ ont même fait équipe et poursuivi YouTube en août pour "comportement discriminatoire, anticoncurrentiel et illégal qui nuit à une catégorie protégée de personnes en vertu de la loi californienne", car ils trouvaient que c'était flagrant. 

"Notre contenu LGBTQ+ est démonétisé, restreint et n'est pas envoyé aux audiences, ce qui a fortement affecté notre capacité à atteindre la communauté que nous voulons vraiment aider", a déclaré Chrissy Chambers de la chaîne BriaAndChrissy qu'elle tient avec sa copine.

Le youtubeur britannique Alfie Deyes a également soulevé le problème auprès de Susan Wojcicki, PDG de YouTube, lorsqu'il l'a interviewée cet été. "J'ai entendu des rumeurs qui affirment que si on a le mot 'lesbienne' dans ses tags ou sa vignette ou même dans son titre, ils sont immédiatement signalés", a-t-il déclaré. "Nous ne démonétisons pas automatiquement le contenu LGBTQ+ ", a répondu Susan Wojcicki. "Nous travaillons très dur pour nous assurer que nos systèmes sont justes." Elle a également nié l'existence d'une politique sur certains mots dans les titres qui provoqueraient la démonétisation.

Selon YouTube, la plateforme a évalué les systèmes en place lorsque les créateurs LGBTQ+ se sont plaints de certains termes qui provoquerait la démonétisation. La société affirme que les examens effectués montrent que le système de classification de la démonétisation fonctionne correctement et qu'inclure des termes LGBTQ+ ne conduit pas injustement à ce qu'elles soient jugées non éligible à la monétisation.

En réponse aux vidéastes de Nerd City qui ont partagé leur vidéo sur Twitter, le compte TeamYouTube a déclaré : "Nous voulions vous faire savoir que nous avons regardé votre vidéo et que les équipes concernées examinent vos préoccupations en détail."

"Nous voulons nous assurer que nous vous donnons des réponses claires, donc nous reviendrons vers vous lorsque les équipes auront été en mesure d'y regarder de plus près."

Une plus grande transparence pourrait aider YouTube à contrer ces accusations de discrimination

Les youtubeurs de Nerd City ont déclaré dans leur vidéo qu'il est peu probable que Susan Wojcicki et YouTube soient homophobes, mais qu'il pourrait s'agir d'un oubli massif dû à l'externalisation ou, plus inquiétant, d'une décision économique. En d'autres termes, YouTube pourrait obliger les créateurs de contenu à respecter des normes plus conservatrices pour poursuivre leur expansion mondiale, y compris dans des pays où le fait d'être homosexuel est encore illégal.

"Si ce sont des mots interdits, les créateurs gays ne méritent-ils pas de le savoir ?", se sont interrogés ceux de Nerd City. "Ne méritent-ils pas une chance de retirer ces mots de leur contenu, ou de regarder ces règles et de dire 'Ouais, non merci' ?"

Ils ont également déclaré que YouTube comme les créateurs de contenu tireraient des bénéfices d'une plus grande transparence de la plateforme sur ses politiques et ses systèmes en place, car le machine le learning ne peut et ne doit pas tenter d'"assainir complètement l'auto-publication".

"Ne sentez-vous pas au fond de vous que l'intelligence artificielle, les outils de censure et l'externalisation vont créer une utopie technologique ?", ont-ils dit. "Les pratiques de modération des robots de YouTube ont fait en sorte que depuis deux ans les gays soient traités comme si on était dans les années 1300. Et qui sait quoi d'autre ?"

Version originale : Lindsay Dodgson/INSIDER

Vous avez apprécié cet article ? Likez Business Insider France sur Facebook !

Lire aussi : YouTube va payer 170 M$ pour avoir collecté illégalement les données personnelles des enfants utilisant la plateforme

Il existe des planètes semblables à la nôtre — voici à quoi ressemblerait la vie sur une super-Terre