Download_on_the_App_Store_Badge_FR_RGB_blk_100517

Facebook prend des mesures pour bannir les deepfakes de son réseau

  • Recevoir tous les articles sur ce sujet.

    Vous suivez désormais les articles en lien avec ce sujet.

    Ce thème a bien été retiré de votre compte

Facebook prend des mesures pour bannir les deepfakes de son réseau
© Reuters

Facebook a annoncé ce lundi 6 janvier 2020 que les deepfakes et les vidéos truquées seraient désormais interdits sur le réseau social. L'entreprise a déclaré dans un communiqué qu'elle adoptait une approche en plusieurs volets pour régler le problème, notamment en enquêtant sur les comportements trompeurs dans les contenus générés artificiellement et en s'associant avec le milieu universitaire, politique et l'industrie du secteur pour mieux identifier le contenu truqué.

Les manipulations peuvent être effectuées au moyen de technologies simples comme Photoshop ou d'outils sophistiqués qui font appel à l'intelligence artificielle ou à des techniques de "deep learning" pour créer des vidéos qui déforment la réalité, généralement appelées "deepfakes", a indiqué la société dans un communiqué. "Bien que ces vidéos soient encore rares sur Internet, elles représentent un défi important pour notre industrie et notre société alors que leur utilisation augmente."

La société a défini le type de contenus qui serait retiré du site par le biais de deux critères :

  • Le contenu a été édité ou condensé — au-delà des ajustements nécessaires pour plus de clarté ou de qualité — d'une manière qui n'est pas apparente pour une personne lambda et qui pourrait probablement induire en erreur en faisant croire qu'un sujet de la vidéo a dit des mots qu'il n'a pas vraiment prononcés.
  • Il est un produit de l'intelligence artificielle ou du "machine learning" qui fusionne, remplace ou superpose du contenu sur une vidéo, lui donnant ainsi l'apparence d'être authentique.

Cette nouvelle politique de Facebook n'affectera pas les contenus qui sont truqués à des fins humoristiques ou parodiques, a déclaré la société.

A lire aussi —L'application Zao qui vous permet de remplacer le visage d'une star par le votre est bluffante mais inquiète

Les vidéos signalées seront soumises à un examen par des modérateurs tiers pour déterminer si le contenu est faux. À ce moment-là, Facebook "réduira considérablement sa diffusion" sur le fil ou rejettera la vidéo, si le compte tente de la diffuser sous forme de publicité. De plus, les personnes qui tentent de partager le contenu avant qu'il ne soit retiré du site recevront un avertissement pour les avertir que le contenu est faux.

Facebook fabrique ses propres deepfakes pour mieux les détecter

La société a ajouté qu'elle avait établi un partenariat avec Reuters pour "aider les journalistes du monde entier à identifier les deepfakes et contenus truqués grâce à un cours de formation en ligne gratuit". "Les entreprises de presse s'appuient de plus en plus sur des tierces parties pour de grands volumes d'images et de vidéos, et l'identification des visuels truqués est un défi important", a affirmé Facebook. "Ce programme vise à soutenir les rédactions qui essaient de faire ce travail."

En septembre, le directeur de la technologie de Facebook, Mike Schroepfer, a déclaré que la société fabriquait ses propres deepfakes afin de mieux détecter les contenus manipulés pour les supprimer. "L'objectif est de produire une technologie que tout le monde peut utiliser pour mieux détecter quand l'IA a été utilisée pour modifier une vidéo afin de tromper le spectateur", a écrit Mike Schroepfer dans un article de blog en septembre.

L'année dernière, la société a dû faire face à une forte réaction de la part de membres du Congrès, dont la députée Alexandria Ocasio-Cortez et la candidate à la présidence Elizabeth Warren, pour sa politique concernant les publicités politiques. Mettant en avant la liberté d'expression, Facebook a déclaré que, dans la plupart des cas, il ne vérifierait pas ces publicités. Cette politique a rapidement été critiquée, en particulier lorsque Donald Trump a diffusé des publicités politiques contenant de fausses allégations au sujet de l'ancien vice-président Joe Biden.

Version originale : Lauren Frias/Business Insider

Découvrir plus d'articles sur :