Plutôt que de chercher à réinventer la roue, Viginum et le Peren préfèrent s’appuyer sur l’existant. L’agence de lutte contre la désinformation et le pôle d’expertise de la régulation numérique ont présenté vendredi 10 janvier leur projet de « méta détecteur de contenus artificiels ».
Derrière ce terme, on retrouve une approche pour concevoir les briques logicielles d’un projet capable « d’agréger au sein d’un outil unique plusieurs, voire de nombreux détecteurs de contenus artificiels (aujourd’hui textes et images), existants ou à venir. » Bref, les deepfake.
Détecter et réguler
Pour l’instant, ce projet se décline en deux variantes.
- L’une est spécialisée dans la détection de textes générés par intelligence artificielle.
- L’autre vise à identifier les images artificiellement créées.
Les deux outils s’appuient sur des projets préexistants développés par des chercheurs académiques et partagés librement sur le web. Le détecteur d’image permet d’obtenir des résultats croisés provenant de cinq détecteurs différents. Celui portant sur les textes s’appuie sur trois détecteurs. La feuille de route du projet promet d’en ajouter de nouveaux.
La détection de contenus générés par IA est un défi majeur pour le monde de la tech. Si les outils permettant de générer des images, des voix ou des textes fleurissent, les outils permettant de détecter ces contenus de manière fiable sont moins fréquents. Et restent aujourd’hui peu fiables. Pourtant, de plus en plus de plateformes imposent de signaler ces contenus de manière claire. C’est également une des obligations imposées par l’AI Act européen. Ce texte demande que les générateurs de contenus synthétiques produisent des contenus identifiables comme tels.
Identifier les meilleurs détecteurs
Le recours à ces différents détecteurs permet également à l’outil de détection d’identifier les forces et les faiblesses de chacun.
Et donc d’utiliser l’outil le plus approprié. « Dans une phase à venir, un grand volume de contenus pourra être adressé à un grand nombre de détecteurs pour identifier, sur la base de toutes les données générées, l’association de détecteurs qui tirera le meilleur avantage des caractéristiques de chacun. »
Ce projet est disponible en open source sur la forge logicielle ouverte du Peren. Le Peren invite les personnes intéressées par le projet à apporter leurs contributions. Il est développé en amont du Sommet pour l’IA, qui débutera en France le 6 février.