Le secteur des deepfakes pornographiques, autrefois marginal et cantonné aux actrices, est devenu un véritable business qui répond à une véritable demande. La pratique pose des problèmes évidents de protection de la vie privée, qui doivent être résolus au plus vite.
Les deepfakes porn ne sont plus cantonnées aux célébrités : elles peuvent viser tout le monde. C’est le constat alarmant que dresse le média américain NBC News à propos de ces vidéos truquées à caractère pornographique, dans lesquelles le visage d’une actrice porno est remplacé par celui d’une autre femme, sans son consentement. L’offre de ces vidéos qui paraissent aussi vraies que nature se serait multipliée depuis quelques mois, notamment après la diffusion, début janvier, de deepfakes pornos par Atrioc, un streamer populaire, pendant l’un de ses streams.
Après cet épisode, le trafic web vers les principaux sites de deepfake porn a explosé, constatait la chercheuse Genevieve Oh, interrogée par nos confrères. Et un véritable business se serait développé avec des sites, avec des offres publiées sur Discord, des paiements avec carte visa et même des abonnements pour accéder à une plateforme de vidéos truquées. À côté de cette professionnalisation, l’offre de deepfakes, jusqu’alors cantonnée aux célébrités, se serait diversifiée. Pour Noelle Martin, une avocate australienne interviewée par nos confrères, « de plus en plus de femmes ordinaires, comme vous et moi, sont visées ». Même son de cloche chez cette éditorialiste du Guardian qui ne se demande non pas si, mais quand son image va apparaître dans ce type de vidéo.
Des vidéos truquées personnalisées proposées sur Discord
Car les outils d’IA pour faire ce type de montage sont de plus en plus accessibles et abordables. Contre 65 dollars, des « créateurs de contenus » proposent en effet de produire des vidéos pornographiques à la demande, avec le visage de la personne de son choix – sans que le client n’ait à apporter le moindre accord de la personne en question. Ces derniers utiliseraient Discord pour proposer leur service, le tout est payable par carte visa ou mastercard, ou en cryptomonnaie, expliquent nos confrères.
La demande serait telle que ces producteurs de deepfakes embaucheraient d’autres personnes pour les aider à créer ces deepfakes, rapporte NBC News qui a pu consulter deux offres d’emploi. Contactés par nos confrères, Discord a déclaré de son côté qu’elle interdisait expressément « la promotion ou le partage de deepfakes faits sans autorisation ». Même son de cloche pour Visa, qu i a rappelé dans un communiqué que la société « interdisait explicitement et sans équivoque l’utilisation de nos moyens de paiement pour payer ce type de contenus ».
Aucune protection de la vie privée et de son image
Pour les deepfake porn non personnalisées, on trouve désormais des sites qui proposent des vidéos courtes en accès libre, sorte de bandes-annonces pour des vidéos plus longues, visionnables contre quelques dollars sur un autre site. Or, ce type de service ne devrait pas être autorisé, a déploré Maître Martin, car de telles pratiques soulèvent des problèmes évidents de protection de la vie privée et de protection de son image. Elles devraient conduire une victime à obtenir des dommages et intérêts, car l’utilisation de son image dans de tels contenus constitue un acte particulièrement violent.
En octobre dernier, la streameuse Maghla déplorait ainsi « des montages sur des corps d’actrices porno » la visant, ainsi que l’existence de « Discords dédiés aux faux ’nudes’ et des mecs qui se br*nlent sur les streameuses avec partages de captures d’écran de lives et des faux montages ». Et le fait que Twitch, comme d’autres acteurs du numérique, se soient prononcés contre ces montages ne change pour l’instant pas la donne.
Car le problème des victimes de deepfakes est qu’elles ne peuvent pas forcément se tourner vers la loi, du moins pour l’instant. D’abord parce que tous les pays n’ont souvent pas encore prévu de texte permettant de condamner cette pratique. Aux États-Unis par exemple, seuls quatre États ont adopté une législation spécifique sur les deepfakes. En France, il existe bien des articles qui condamnent la publication d’un montage réalisé avec l’image d’une personne sans son autorisation, mais en pratique, les auteurs de ces vidéos sont difficilement identifiables. Et une fois qu’une deepfake est sur le Net, il est très difficile de la supprimer. Pour l’avocate interrogée par nos confrères, il est pourtant temps de saisir ce problème à bras-le-corps.
Source :
NBC News