Face à la multiplication des dérives, X serre la vis autour de Grok. Le réseau social bloque désormais la génération d’images dénudées de personnes réelles — y compris des mineurs — et applique un géoblocage dans les pays où ces pratiques sont illégales.
La pression était trop forte. X (anciennement Twitter) a finalement décidé d’empêcher Grok de générer sur le réseau social des images dénudées à partir d’images partagées par des utilisateurs. Cela s’applique également aux enfants. La restriction s’applique à tous, y compris aux abonnés payants. La plateforme ajoute que les fonctions de création d’images et d’édition d’images via le compte Grok ne sont accessibles qu’aux utilisateurs payants. Par ailleurs, X applique un géoblocage sur la génération d’image de personnes réelles « en bikini, en sous-vêtements ou dans des tenues similaires » via le compte Grok sur X et l’app Grok « dans les pays où cette pratique est illégale ».
Elon Musk la tête dans le sable
Pendant des semaines, on a vu fleurir sur le réseau social des images dégradantes générées par le chatbot à partir de photos postées majoritairement par des femmes. Des utilisateurs demandent à Grok de les dénuder, de leur faire porter un bikini, ou pire encore, le tout évidemment sans consentement des principales intéressées.
Ce que Grok peut infliger à des femmes, il peut aussi le faire à des enfants. Et là, ce qui n’était déjà pas très glorieux (et contraire à la loi dans de nombreux pays), devient complètement illégal : la création et la diffusion d’images pédopornographiques sont évidemment des crimes. Plusieurs régulateurs ont commencé à se pencher sur ce très sérieux problème. X a restreint la génération d’images à ses seuls abonnés payants la semaine dernière, pour endiguer le flot de deepfakes.
Cette disposition a été jugée « complètement hypocrite » par Clara Chappaz, ambassadrice française pour l’IA. Il était par ailleurs toujours aussi facile de générer des images dénudées : il suffisait de passer par l’app Grok ou tout simplement la version web du réseau social, sans avoir à payer quoi que ce soit.
Après s’être amusé de la controverse, Elon Musk a fini par prendre les choses un peu plus au sérieux, au moins concernant les images d’enfants dénudés. « Je n’ai connaissance d’aucune image de mineur dénudé générée par Grok. Littéralement aucune », affirmait-il avant que X annonce les nouvelles restrictions. Pourtant, pas besoin d’aller très loin pour voir que cela existe : plusieurs exemples ont été postés par des utilisateurs de X sous le post du milliardaire…
Musk explique que « Grok ne génère pas spontanément des images : il le fait uniquement en réponse à des requêtes des utilisateurs ». Quid alors des garde-fous ? « Lorsqu’il est sollicité pour produire des images, il refuse toute création illégale, le principe de fonctionnement de Grok étant de respecter les lois en vigueur dans chaque pays ou État. » Il assure enfin que des tentatives de détournement des requêtes peuvent provoquer un « comportement inattendu ». Dans ce cas, « le bug est corrigé immédiatement ». Il est évidemment très difficile de prendre ce que raconte Elon Musk pour argent comptant, car comme on l’a vu, il n’y a rien de plus facile, encore maintenant, de générer ce genre d’images avec l’app Grok.
Suite à cette histoire, deux pays ont déjà interdit Grok : l’Indonésie et la Malaisie. Ailleurs dans le monde, des enquêtes sont en cours, informelle pour le moment du côté de la Commission européenne, formelle à Londres où le gouvernement s’apprête à passer une loi criminalisant la création de ces images. « Nous avons clairement fait savoir à X que ces images sont illégales, répréhensibles et qu’il faut y mettre fin », a déclaré Keir Starmer, le Premier ministre anglais. Qui ajoute : « J’ai été informé que X agit afin d’assurer une conformité totale avec le droit britannique. Si c’est le cas, c’est une bonne chose, mais nous ne reculerons pas — ils doivent agir. » L’annonce du réseau social semble répondre aux préoccupations du Royaume-Uni.
Ça chauffe aussi aux États-Unis, en Californie tout particulièrement où le gouverneur et le procureur général de l’État ont exigé des explications de xAI sur « son plan pour mettre fin à la création et à la diffusion de ce type de contenus ». Enfin, la pression monte également sur Apple et Google, les contrôleurs d’accès de l’App Store et du Play Store qui continuent de distribuer ces applications (X et Grok) qui contrevenaient très clairement à leurs directives. Les deux gardiens des boutiques officielles iOS et Android ont viré des apps pour beaucoup moins que ça.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source :
Reuters