Publicité

Facebook va désormais contrôler les contenus haineux ou violents

  • Recevoir tous les articles sur ce sujet.

    Vous suivez désormais les articles en lien avec ce sujet.

    Ce thème a bien été retiré de votre compte

Facebook va désormais contrôler les contenus haineux ou violents
Le logiciel pourrait notamment décrypter les images. © Unsplash
Publicité

Facebook peine à perdre son image d'un réseau où n'importe qui peut publier des messages d'insultes ou haineux. Le géant californien tente d'y mettre un terme avec le déploiement d'un nouveau logiciel fondé sur l'intelligence artificielle et capable d'établir des liens entre messages, images, ou commentaires.

Jusqu'ici, le système de détection du réseau social ne permettait d'analyser qu'un contenu à la fois, sans pouvoir croiser les signaux provenant, par exemple, d'un message et d'une photo. Avec le nouvel algorithme, déployé courant 2020, Facebook peut désormais avoir "une vision d'ensemble", a expliqué mercredi Mike Schroepfer, responsable technique de la plateforme, lors d'une conférence téléphonique.

À lire aussi — 40 États américains écrivent à Facebook pour s'opposer à la création d'un Instagram pour les moins de 13 ans

Un algorithme plus compréhensif

Le réseau social peut notamment mieux décrypter le sens des "mèmes", images ou animations le plus souvent à but humoristique, qui ont parfois un caractère haineux ou discriminant compréhensible uniquement en associant le texte à l'image. "Il faut comprendre tout le contexte" pour analyser et éventuellement écarter le message, a détaillé Mike Schroepfer, qui a expliqué que le logiciel était aussi en mesure de croiser des contenus dans plusieurs langues.

L'outil informatique évite aussi le retrait de certains messages qui auraient déclenché une alerte auparavant sur la base d'un mot ou d'une image identifiés trop littéralement. Facebook attribue en partie à ce système la baisse de la diffusion de contenus douteux sur son site. Les indicateurs trimestriels publiés mercredi mesurent le nombre de fois que ces contenus sont vus et non leur nombre sur le site.

Au premier trimestre, entre 0,05% et 0,06% des contenus vus par les utilisateurs de Facebook avaient un caractère haineux contre une fourchette de 0,07% à 0,08% au quatrième trimestre 2020 et de 0,10% à 0,11% au troisième trimestre de la même année.

'Détecter une tendance à l'échelle d'un groupe'

Le réseau social est aussi intervenu sur 34,3 millions de contenus violents ou choquants, contre 15,9 au quatrième trimestre 2020. Le logiciel autorise désormais à aller "au-delà d'un seul message" et identifier une tendance à l'échelle de tout un groupe Facebook, a expliqué Mike Schroepfer.

Depuis mai 2018, le réseau publie des indicateurs trimestriels illustrant sa politique de contrôle des contenus parasites, haineux, violents, à caractère sexuel, de "propagande terroriste", et des faux comptes. La prochaine présidentielle sera l'occasion de constater si le logiciel de Facebook est réellement efficace.

À lire aussi — La pandémie renforce Facebook, qui a doublé son bénéfice en un an

Découvrir plus d'articles sur :