Il y a les règles, et puis la manière dont elles sont appliquées : deux jours après l’annonce de changements majeurs dans la manière dont Facebook définit et modère, aux Etats-Unis, les messages haineux, des documents internes de l’entreprise, révélés par des sites spécialisés américains, suggèrent que cet assouplissement de la modération pourrait être bien plus fort qu’initialement annoncé.
Platformer et The Intercept ont pu consulter les consignes transmises aux modérateurs de l’entreprise quant à la manière dont ils doivent appliquer la nouvelle version des règles, qui prévoient notamment d’autoriser des contenus auparavant interdits concernant « l’immigration, l’identité de genre et le genre ». Ces nouvelles directives interdisent toujours les messages discriminants ou haineux fondés sur l’identité sexuelle, l’origine ou la religion, mais ajoutent des exceptions, comme « les allégations de maladie mentale ou d’anormalité lorsqu’elles concernent le genre ou l’orientation sexuelle ».
Les exemples fournis aux modérateurs pour les aider à prendre leurs décisions, consultés par ces deux médias et dont Meta n’a pas contesté l’authenticité, vont cependant bien plus loin. Au point, dans certains cas, de sembler contredire les règles générales de la plateforme, qui interdisent les discriminations et les généralisations.
Exemples contradictoires
Des messages comme « les immigrés mexicains sont des ordures », « les Noirs sont plus violents que les Blancs » ou « les juifs sont plus cupides que les chrétiens » seront ainsi désormais autorisés, selon les exemples en question. En revanche, une phrase comme « ces putains de juifs ont recommencé » restera interdite – parce qu’elle contient un mot interdit car relevant de la vulgarité, « putain » (« fuck »).
Les nouvelles règles pour les messages concernant les personnes LGBTQ+, très critiquées par les associations de défense des droits civiques aux Etats-Unis, conduisent à des situations qui confinent à l’absurde. Le document précise par exemple qu’il est désormais possible d’écrire que « les personnes trans sont malades mentalement », mais qu’il reste interdit d’écrire que « les lesbiennes sont connes ». Les associations LGBTQ+ américaines dénoncent depuis longtemps une modération insuffisante des messages homophobes et transphobes sur Facebook.
En Europe, notamment en France, de nombreux exemples dits autorisés dans le document constitueraient une incitation à la haine et tomberaient sous le coup de la loi. Facebook comme Instagram assurent appliquer les législations nationales dans les différents pays où ils opèrent, mais les « standards de la communauté » constituent le principal socle de formation de leurs modérateurs. Le réseau social est, de longue date, l’objet de multiples critiques pour les manquements dans sa modération, en France comme ailleurs, y compris lorsque des contenus illégaux sont signalés par des internautes.