TikTok va signaler automatiquement sur sa plate-forme les contenus créés par intelligence artificielle (IA), pour éviter qu’ils « ne génèrent de la confusion ou trompent » les utilisateurs, a annoncé le réseau social, jeudi 9 mai. « L’IA ouvre des possibilités créatives incroyables, mais peut générer de la confusion ou tromper les utilisateurs s’ils ne sont pas informés du fait qu’un contenu a été généré par intelligence artificielle », explique l’entreprise dans un communiqué.
L’authenticité des contenus est devenue un sujet majeur sur Internet depuis le lancement d’interfaces d’IA dite « générative », qui permettent de créer du texte, des images et de la vidéo sur simple demande en langage courant. Son émergence menace d’aggraver le problème des deepfakes – des images, documents sonores ou vidéos qui mettent en scène une situation qui ne s’est en réalité jamais produite.
« Discerner ce qui est vrai »
Un label spécifique sera appliqué aux images générées par IA « quand elles seront téléchargées à partir de certaines plates-formes », a expliqué le réseau social, sans donner plus de précision. Selon le Financial Times, cela comprendra notamment le contenu réalisé à l’aide de l’outil Firefly d’Adobe et de Dall-E (OpenAI).
« La transparence est cruciale pour les utilisateurs », a fait valoir Adam Presser, responsable des opérations chez TikTok, dans une déclaration transmise à l’Agence France-Presse (AFP). « A une époque où les contenus numériques peuvent être modifiés, il est essentiel de proposer aux utilisateurs des moyens de discerner ce qui est vrai », a renchéri Dana Rao, responsable juridique d’Adobe, dans une déclaration envoyée à l’AFP.
OpenAI, Adobe et Microsoft ont déjà mis en place un marquage automatique des contenus générés par IA ; Google a commencé à déployer un outil similaire en mars. Meta, autre géant de l’IA générative, a annoncé au début d’avril qu’il associerait la mention « Made with AI » (« fait avec de l’intelligence artificielle ») aux contenus identifiés comme créés grâce à l’IA.
Par ailleurs, TikTok a annoncé rejoindre la Coalition pour la provenance et l’authenticité des contenus (C2PA), dont Google, OpenAI, Adobe et Microsoft font déjà partie. Le réseau social a également déclaré rejoindre une autre organisation similaire, l’Initiative pour l’authenticité des contenus (CAI), menée par Adobe. La plate-forme de vidéos rappelle qu’elle a déjà lancé en septembre la labellisation des contenus modifiés grâce à son propre outil d’IA, TikTok AI. Le groupe prévoit également de mettre en ligne des vidéos pédagogiques pour expliquer sa démarche.