Alors que les deepfakes et les contenus de synthèse deviennent de plus en plus courants grâce à l’intelligence artificielle générative (gen AI), plusieurs organisations tentent de perfectionner le concept de filigrane numérique pour déterminer l’origine d’un contenu.
Aucune n’a encore vraiment réussi, mais l’une d’entre elles, la Coalition for Content Provenance and Authenticity (C2PA), renforce ses rangs.
La semaine dernière, la C2PA a annoncé qu’Amazon était devenu l’un des membres du comité directeur. Faisant partie de la famille de la Fondation Linux, la C2PA se décrit comme un « organisme de normalisation technique ouvert qui s’attaque à la prévalence d’informations trompeuses en ligne en développant des normes techniques pour certifier la source et l’historique (ou la provenance) du contenu numérique ».
Lier les références de contenu au contenu généré
Adobe a participé à la création de la C2PA et a contribué à la mise en place des certificats de contenu (Content Credentials). La C2PA considère aujourd’hui qu’il s’agit d’un bon moyen de rendre l’origine des contenus numériques plus transparente. Les certificats de contenu révèlent comment et quand un élément de contenu a été généré ou modifié. La coalition espère faire des références de contenu une norme applicable à l’ensemble du secteur.
En rejoignant la coalition, Amazon accepte de lier les références de contenu au contenu généré par Titan Image Generator v1 et v2, son créateur d’images d’IA.
« Grâce à la mise en œuvre de Content Credentials, les consommateurs pourront vérifier l’origine et l’authenticité du contenu généré par l’IA » mentionne Amazon.
Du filigrane pour les visuels et pour la vidéo
L’entreprise ajoutera également l’outil de vérification de la provenance à AWS Elemental MediaConvert, « un service de traitement vidéo qui transcode le contenu pour la diffusion multi-écrans à grande échelle », explique le communiqué. Cela signifie que les organismes de presse, les diffuseurs d’évènements sportifs, les agrégateurs de contenu pourront vérifier l’origine des vidéos qu’ils partagent avant de les distribuer.
« Toutes les images générées par Amazon Titan contiennent par défaut un filigrane invisible, ce qui constitue un mécanisme discret permettant de réduire la diffusion de fausses informations », a déclaré Vasi Philomin, vice-président de Gen AI chez AWS. « Rejoindre la C2PA et adopter les Content Credentials représente étape clé dans notre parcours vers une innovation responsable en matière d’IA. »
M. Philomin a ajouté qu’Amazon prévoit de « développer des outils » pour la sécurité de l’IA en collaboration avec d’autres membres de la C2PA, dont Google, Meta, OpenAI, Microsoft, BBC et Intel, entre autres.
Une liste de stars qui pose problème
Cette liste de stars pose toutefois un problème à certains.
En juillet, le certificateur de contenu numérique Numbers Protocol, ainsi que plusieurs autres organisations de blockchain et d’IA, ont fondé la Creative Origin Alliance, une « alternative démocratique, transparente et décentralisée » à la C2PA dans laquelle « tous les membres auront une voix égale et les créateurs auront un siège à la table ».
L’Alliance a été créée à la suite d’une mise à jour des conditions d’utilisation d’Adobe qui suggérait que le travail des utilisateurs pouvait être utilisé pour former Firefly, l’outil d’imagerie artificielle d’Adobe, ce qui a donné à la communauté des créateurs numériques l’impression d’être « la proie des grandes entreprises technologiques ».
Inquiète des conflits d’intérêts entre la C2PA et des fondateurs tels qu’Adobe, l’Alliance vise à faire entendre les petites voix de l’industrie, en plaidant pour la protection de la vie privée et les technologies libres, se positionnant comme David face au Goliath de la C2PA.