Signal ne sait quasiment rien de ses utilisateurs et cela complique la modération des contenus extrémistes

  • Recevoir tous les articles sur ce sujet.

    Vous suivez désormais les articles en lien avec ce sujet.

    Ce thème a bien été retiré de votre compte

Signal ne sait quasiment rien de ses utilisateurs et cela complique la modération des contenus extrémistes
© SOPA Images / Contributor/Getty Images

Au cours du mois dernier, l'application de messagerie Signal a été téléchargée des dizaines de millions de fois. Mais contrairement à la plupart des plateformes de réseaux sociaux, elle ne sait presque rien de ses utilisateurs. Signal — qui appartient à un organisme à but non lucratif et ne vend pas de publicités ni les données de ses utilisateurs — évite de collecter des informations démographiques ou personnelles sur les utilisateurs autres que leur numéro de téléphone, qui est nécessaire pour créer un compte.

Tous les groupes et les messages directs sur la plateforme sont chiffrés de bout en bout, ce qui signifie que l'entreprise ne sait pas comment son application est utilisée et ne veut pas le savoir. Aujourd'hui, Signal est au cœur d'une nouvelle bataille sur la protection de la vie privée en ligne et la modération des contenus. L'entreprise fait face à des pressions pour endosser la responsabilité sur la façon dont sa plateforme est utilisée, alors que des extrémistes y affluent après avoir été exilés de Parler et de certains groupes privés sur Facebook.

À lire aussi — 5 choses à savoir sur Parler, le réseau social préféré des Trumpistes

Les employés de Signal ont fait part en interne de leurs inquiétudes quant au fait que l'application ne prend pas assez de mesures pour éviter les abus, a rapporté The Verge lundi 25 janvier.

Le chiffrement de bout en bout complique la modération

Ces inquiétudes s'appuient sur une pression de longue date des États-Unis et d'autres gouvernements pour briser le chiffrement de bout en bout afin de faciliter les enquêtes des forces de l'ordre, une mesure que Signal a précédemment rejetée.

En attendant, tant que la principale forme de distribution de Signal se fait par l'intermédiaire des magasins d'applications d'Apple et de Google, la plateforme de messagerie est tenue de respecter leurs règles en matière de modération des contenus préjudiciables, ce qui pourrait s'avérer difficile à mesure que l'application continue de se développer et d'ajouter de nouvelles fonctionnalités.

Les experts en protection de la vie privée ont déclaré à Insider que le fait que Signal ne collecte pas de données sur les utilisateurs place l'application en territoire inconnu, alors qu'elle fait face à une croissance fulgurante. Bien que les experts s'accordent à dire que briser le chiffrement de bout en bout serait contraire à l'objectif de l'application, ils ont déclaré que Signal pourrait devoir définir une nouvelle stratégie pour s'assurer que l'application n'est pas utilisée à des fins malveillantes, sans compromettre la vie privée.

"Il est temps de commencer à réfléchir à ces préoccupations", a déclaré Megan Squire, professeur à l'Elon University et chercheuse principale du Southern Poverty Law Center, une association qui suit l'extrémisme en ligne. "Je pense qu'il est probablement plus que temps."

À lire aussi — L'appli de messagerie Signal, vantée par Elon Musk, voit son nombre d'utilisateurs augmenter

Signal donne la priorité à la protection de la vie privée

Un porte-parole de Signal n'a pas répondu immédiatement à la demande de commentaires d'Insider. Lors d'une interview en août dernier, le PDG de Signal, Moxie Marlinspike, a déclaré à Insider que l'importance de la protection de la vie privée devrait l'emporter sur les préoccupations liées à l'utilisation de messageries privées pour des activités illégales.

"Il est important de comprendre que le vrai changement se produit en privé. C'est une vérité. Et si vous n'avez plus d'endroits vraiment privés, je pense que vous sacrifiez beaucoup", a déclaré Moxie Marlinspike.

L'entreprise a été fondée sur la notion de respect de la vie privée qui va à l'encontre des pratiques de collecte de données des grandes entreprises technologiques comme Facebook et Google. Moxie Marlinspike a souligné son engagement pour protéger la confidentialité des conversations des utilisateurs sur la plateforme.

"Il y a cette folie dans la façon dont tout fonctionne en ce moment. Seule une poignée d'entreprises disposent d'une quantité massive de données sur tout le monde — c'est une équation dangereuse", a déclaré Moxie Marlinspike dans une interview à Insider en août.

La frontière entre messageries privées et forums publics se trouble

Ces dernières semaines, Signal a attiré l'attention des groupes qui ciblent l'extrémisme en ligne. Suite à la publication d'articles montrant que la prise d'assaut du Capitole à Washington D.C. le 6 janvier dernier avait été organisée par des utilisateurs de Facebook et Twitter, ces entreprises ont commencé à sévir et à interdire les comptes liés à la violence. Parler, un réseau social utilisé par certains participants de l'émeute, a été mis hors ligne par Amazon pour son manque de modération des contenus sur sa plateforme.

La même semaine, des dizaines de millions de nouveaux utilisateurs ont afflué sur Signal, ainsi que sur d'autres applications de messagerie cryptée comme Telegram. Cette vague de téléchargements est probablement due à un exode des utilisateurs de WhatsApp, suite à sa nouvelle politique de partage de données, mais sa proximité avec les nouvelles mesures répressives des réseaux sociaux suite à la prise d'assaut du Capitole a fait de Signal un domaine d'intérêt pour les chercheurs en extrémisme, selon Megan Squire.

Alors que Signal permet à l'origine d'envoyer des messages directs et des messages en petits groupes en utilisant son protocole sécurisé de cryptage, sa nouvelle fonctionnalité "Group Links", lancée en octobre, suscite davantage d'inquiétudes. Déjà disponible sur des messageries concurrente comme WhatsApp, elle permet de partager un lien public invitant n'importe qui à rejoindre un groupe crypté de 1 000 personnes maximum.

Les groupes en ligne, terreau de l'extrémisme

Selon Megan Squire, les extrémistes utilisent généralement des messageries chiffrées pour planifier des événements spécifiques sans se faire repérer et se servent des groupes plus larges pour diffuser de la "propagande".

"Vous finissez par avoir de grands groupes chiffrés, remplis de gens qui ne se connaissent pas vraiment, qui ne peuvent pas être désignés comme responsables et qui pourraient se radicaliser et faire des choses bizarres", a déclaré Megan Squire. "Avec l'ajout de nouvelles fonctionnalités, Signal devient une application tout-en un."

Cela rapproche Signal d'une limite qui, une fois franchie, pourrait l'exposer à des demandes de modération de son contenu. Pour l'instant, Signal ne fait pas la publicité de ces groupes dans l'application, mais son concurrent Telegram permet, lui, aux utilisateurs de rechercher des hashtags et des termes pour faire apparaître des forums visibles publiquement.

Par exemple, cette semaine, Insider a recherché le hashtag #stopthesteal ("arrêtez le vol", le slogan des partisans de Donald Trump qui soutiennent qu'il y a eu une fraude lors de l'élection présidentielle) dans Telegram et a trouvé un groupe ouvert de plus de 800 membres.

Vers une modération différente pour les groupes

Telegram affirme avoir pris des mesures pour augmenter la modération sur sa plateforme, mais la façon dont elle met en avant ces groupes a suscité des remarques ces dernières semaines, l'application étant critiquée pour avoir hébergé des groupes incitant à la violence. En réponse, l'organisation à but non lucratif Coalition for a Safer Web a poursuivi Apple en justice pour ne pas avoir retiré Telegram de son App Store suite à l'attaque du Capitole.

Le président de la coalition, Marc Ginsberg, a reconnu auprès d'Insider que le chiffrement des applications comme Signal et Telegram a eu un impact positif, en aidant par exemple les utilisateurs de pays totalitaires à protéger leurs communications, mais il affirme que Telegram permet aux utilisateurs de trouver beaucoup trop facilement les groupes qui publient des contenus haineux. "Notre combat n'est pas de nous attaquer au chiffrement", a-t-il déclaré. "Nos efforts se concentrent pour l'instant sur la modération du contenu".

Même les défenseurs de la vie privée notent que les larges groupes ne sont pas soumis aux mêmes attentes de confidentialité que les messages directs. John Callas, directeur de projet à l'Electronic Frontier Foundation, qui s'occupe de la protection de la vie privée, a déclaré à Insider qu'il trouvait la pression pour décrypter les discussions de groupe "préoccupante", mais il a ajouté que quand les groupes dépassent les centaines de membres, le cryptage devient de plus en plus discutable car les attentes en matière de vie privée sont moins grandes.

"Je crois qu'il existe un droit humain fondamental pour deux personnes de pouvoir parler en privé", a déclaré John Callas. "Mais quand vous avez un groupe aussi important, le cryptage n'est pas le problème."

Apple et Google pourraient supprimer Signal de leur app store

Alors que l'application continue de développer de nouvelles fonctionnalités qui pourraient être sujettes à des abus, la menace la plus immédiate de Signal pourrait bien être Apple et Google, qui ont des règles pour toute application sur leur magasin d'application qui héberge du contenu généré par les utilisateurs — c'est-à-dire du contenu créé par des personnes pour que d'autres personnes le regardent (Google le définit comme du contenu "visible ou accessible par au moins un sous-ensemble des utilisateurs de l'application").

Apple et Google exigent que les applications produisant ces contenus aient des politiques de modération suffisantes pour éradiquer les contenus préjudiciables tels que les discours de haine et les propos incitant à la violence.

Cette règle a été récemment mise en application lorsque Google et Apple ont suspendu le réseau social Parler de leur magasin d'applications suite aux émeutes du Capitole. L'application, qui est populaire auprès des partisans d'extrême droite de Donald Trump, hébergeait des contenus incitant à la violence et ne disposait pas d'une politique de modération suffisante pour interdire ces contenus, ont déclaré Google et Apple.

Comment modérer des contenus que l'entreprise ne peut pas voir

Depuis plus de dix ans, les gouvernements font pression sur les entreprises de la tech pour qu'elles brisent le chiffrement. Les fonctionnaires américains du ministère de la justice sous les gouvernements de Barack Obama et de Donald Trump ont exhorté des sociétés comme Signal, Apple et Facebook à construire des "portes dérobées de cryptage" qui leur permettraient de décrypter les messages des suspects afin de résoudre des crimes.

Les experts de la protection de la vie privée s'opposent farouchement à cette mesure, affirmant qu'elle compromettrait la vie privée de chacun en affaiblissant le cryptage. Evan Greer, directrice adjointe du groupe de défense de la vie privée numérique Fight for the Future, a déclaré à Insider qu'elle était sceptique face aux appels renouvelés à briser le chiffrement pour contrer l'extrémisme de droite en ligne.

"Le cryptage est essentiel pour la sécurité de millions de personnes", a déclaré Evan Greer, notant que les militants et les dissidents politiques du monde entier comptent sur le chiffrement pour éviter les persécutions. Nous avons beaucoup de travail à faire pour lutter contre les idéologies néfastes et haineuses, mais nous devons arrêter de chercher des solutions rapides comme celle qui consiste à dire 'c'est la faute de la technologie'".

À lire aussi — Signal ou WhatsApp ? Voici ce qui différencie ces applications et comment les choisir

Découvrir plus d'articles sur :