Avec leurs systèmes de connexion, Apple, Google, Discord, X (Twitter) ou encore Patreon facilitent l’accès à des services en ligne de création de deepfakes et de « nudes » par IA.
16 des sites web de création d’images non consensuelles de nudité les plus utilisés intègrent les systèmes de connexion Google, Apple, Discord, Twitter, Patreon et de Line, d’après une enquête de Wired. Ces systèmes, que l’on reconnait facilement avec leurs boutons « Connexion avec… » ou « S’inscrire avec… », permettent de se connecter en saisissant les identifiants d’un compte existant, sans avoir à en créer de nouveaux.
Une porte d’entrée vers les sites de création de nudes
En plus de faciliter la connexion à des services de deepfakes, ces boutons tout ce qu’il y a de plus officiels leur offrent une apparence de légitimité. Leur présence normalise cette forme d’exploitation sexuelle qui touche en grande majorité des femmes et des filles. Le nombre de ces sites et leurs capacités ont explosé avec l’avènement de l’IA générative.
Malheureusement, les grandes entreprises traînent des pieds pour empêcher ces sites de prospérer sur leur dos. Il faut vraiment leur mettre le nez dedans pour qu’ils réagissent… Comme cela a été le cas pour Apple en avril dernier : suite à une enquête de 404media, le constructeur a fini par supprimer de l’App Store des applications permettant de « dénuder » des individus à partir d’une photo.
Lire Apple supprime des apps IA permettant de « dénuder » n’importe qui
C’est la même chose ici pour ces systèmes de connexion. Après avoir été prévenus par Wired, Apple et Discord ont supprimé le compte développeur des sites web incriminés. Google a annoncé que des actions seraient prises contre les développeurs qui enfreignent les conditions d’usage. Line a confirmé que des enquêtes étaient en cours, tandis que Patreon interdit les comptes permettant la création d’images explicites. Seul X/Twitter n’a pas répondu, ce qui n’étonnera malheureusement personne.
L’espoir maintenant est qu’il ne s’agit pas d’un coup d’épée dans l’eau. Ces sites web sont affiliés à des réseaux plus larges qui opèrent dans l’ombre, et qui ont les moyens de se multiplier sans éveiller les soupçons. Les grandes entreprises qui proposent des systèmes de connexion seront-elles plus vigilantes à l’avenir ?
Lire Deepfake : comment repérer les images générées par l’IA ?
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.