Google vient d’ajouter une nouvelle couche à sa technologie baptisée SynthID qui applique un marquage par filigrane aux contenus créés par ses IA Gemini et Lyria. Elle peut désormais fonctionner pour marquer et identifier des textes générés par intelligence artificielle. « La technique de filigrane de SynthID est imperceptible pour l’homme mais détectable pour l’identification », explique la firme américaine.
L’objectif est de proposer une solution de marquage à grande échelle des contenus générés par IA afin de prévenir les détournements tels que les deepfakes, la désinformation et des tentatives d’escroquerie.
Fonctionne avec un minimum de trois phrases
Pour la génération de texte, SynthID ajuste les scores de probabilité des sélections de jetons au cours du processus de génération d’IA. Un grand modèle de langage décompose le texte en jetons (lettres, mots, phrases, etc.) et fait ensuite des prédictions sur les jetons susceptibles de suivre un jeton particulier. Chaque jeton reçoit un score en pourcentage pour la probabilité qu’il soit sélectionné comme le mot suivant dans une phrase. Plus le pourcentage est élevé, plus il est probable qu’il soit inclus dans le texte de sortie.
SynthID combine ensuite le modèle de score de sélection de jeton avec le score de probabilité ajusté pour déterminer si le texte de sortie a été écrit par un modèle d’IA générative. Selon Google, cette technique fonctionne avec un minimum de trois phrases.
SynthID pour le texte est publié en open source
Pour les contenus audio générés par Lyria, l’IA génératrice de musique, SynthID convertit les ondes sonores en spectrogrammes avant d’intégrer des filigranes. Ces derniers sont insensibles à la compression MP3 et aux ajustements de vitesse.
Pour les images et les vidéos, SynthID insère des filigranes directement dans les pixels d’une image générée par l’IA ou dans chaque image d’une vidéo générée par l’IA. Google précise que les filigranes peuvent résister au recadrage et à la compression.
La version texte de SynthID a été publiée en open source par l’intermédiaire du Google Responsible Generative AI Toolkit.