L’IA peut-elle faire mieux que les humains dans la modération de contenus ? Meta en est persuadé. Le géant des réseaux sociaux a bien l’intention d’étendre les outils IA déjà en place pour « automatiser davantage la modération ». Les prestataires externes devront trouver un autre travail.
Meta s’est engagé dans une transformation profonde de son système de modération. Début 2025, le groupe mettait un terme à son programme de vérification des faits pour mieux coller à la réalité alternative du nouveau maître de la Maison Blanche. Tout en mettant en place un système de « notes de communauté » pour trier le bon grain de l’ivraie, comme sur Twitter.
L’IA fait la police
En parallèle, Meta testait des « systèmes IA avancés » pour la modération des contenus. Des systèmes qui « peuvent détecter davantage d’infractions avec plus de précision, tout en bloquant plus d’escroqueries et en réagissant plus rapidement aux événements du monde réel, avec moins d’erreurs de sur-modération », affirme l’entreprise.
Pêle-mêle, cette IA a permis de détecter « environ 5 000 tentatives d’arnaques supplémentaires chaque jour », d’identifier « deux fois plus de contenus illicites (…) avec moins d’erreurs », et d’améliorer la détection de piratage des comptes et des faux sites. Par ailleurs, elle couvre « 98 % des langues utilisées en ligne », tout en s’adaptant au jargon local et aux contextes culturels.
Décidément parés de toutes les vertus, ces systèmes vont s’étendre pour automatiser davantage la modération tout en réduisant le recours à des prestataires externes. Une manière de faire de sérieuses économies… Meta insiste tout de même sur le maintien d’une supervision humain pour les décisions sensibles, qui resteront prises par des experts. Ces derniers seront aussi chargés de concevoir, d’entraîner, de superviser et de mesurer les performances des systèmes d’IA.
L’IA prendra à sa charge des tâches communes, « comme l’examen répétitif de contenus sensibles ou des domaines où les acteurs malveillants changent constamment de méthodes, comme la vente de drogues illicites ou les arnaques. » Meta avance sur une ligne de crête en poussant ainsi l’IA au cœur de son infrastructure de modération, au risque d’en révéler rapidement les limites.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source :
Meta