Twitter a développé un outil informatique pour empêcher que des utilisateurs republient des « contenus déjà identifiés comme illégaux », mais cet outil a dysfonctionné lors de l’attaque au couteau d’Annecy, le 8 juin, ainsi que « les jours suivants », selon un courriel de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom), le régulateur des médias, que l’Agence France-Presse a consulté vendredi 23 juin.
Cet outil a laissé « s’opérer des remises en ligne des contenus vidéo montrant les agressions », selon ce courriel de l’Arcom, alors qu’ils sont illégaux. L’autorité a reçu ces explications mercredi 21 juin, lors de l’audition de la directrice des affaires publiques de Twitter pour la France, Claire Dilé, puis a envoyé ce courriel d’information à la Commission européenne. L’Arcom est, en effet, appelée à devenir l’autorité référente pour la France lorsque la réglementation européenne sur les services numériques entrera en vigueur.
Selon les explications de la responsable de Twitter, le réseau social a développé un outil, nommé BMI, « pour repérer et supprimer automatiquement les contenus (vidéos, photos…) déjà identifiés comme illégaux lorsque les utilisateurs tentent de les republier ». En raison de son dysfonctionnement au moment de l’attaque d’Annecy, « Twitter a dû s’appuyer sur les signalements des utilisateurs et des autorités afin de modérer manuellement les republications », selon le courriel.
« Aucune explication sur les raisons du dysfonctionnement »
« Twitter a également pris l’initiative de surveiller activement les hashtags pertinents pour identifier et supprimer les republications », ajoute l’Arcom. « En revanche, l’entreprise n’a pas informé ses partenaires (autorités, signaleurs de confiance…) de ce dysfonctionnement et de l’importance de continuer à signaler les nouvelles publications des vidéos », relève l’autorité.
Lors de son audition, la responsable de Twitter « a [expl]iqué que l’entreprise n’avait à ce stade aucune explication sur les raisons du dysfonctionnement de l’outil ni de visibilité sur sa remise en état ».
Cette audition avait été organisée pour « comprendre » la façon dont Twitter avait géré cette situation. Les images de l’attaque étaient, en effet, devenues virales, alors que le réseau social détenu par le milliardaire américain Elon Musk est régulièrement accusé de ne pas assez modérer ses contenus.
« Les 8 et 9 juin, le ministère de l’intérieur et le ministre chargé du numérique ont travaillé avec Twitter et d’autres plates-formes pour s’assurer que les contenus vidéo montrant les coups de couteau, illégaux en vertu de la loi française, soient supprimés », rappelle l’Arcom.