Suite, et certainement pas fin, du feuilleton Grok. xAI, la start-up IA d’Elon Musk, limite désormais la génération d’images aux utilisateurs payants de X (anciennement Twitter). Une contrainte qui ne va pas faire grand chose pour réduire le volume d’images sexualisées de femmes et d’enfants sur le réseau social.
Seuls les abonnés payants de X/Twitter peuvent désormais demander à Grok de générer des images à partir du réseau social… enfin presque. Cette restriction a été mise en place après l’avalanche d’images créées par le bot de xAI dénudant des femmes sans leur consentement, voire pire : des images pédopornographiques. Dans les faits, Grok explique maintenant que la génération et l’édition d’images est limitée aux utilisateurs payants, et propose de souscrire à l’offre Premium pour utiliser la fonction.
Les régulateurs s’impatientent
Ça ne suffira probablement pas pour apaiser les régulateurs. Le bureau du Premier ministre anglais, Keir Stamer, a ainsi indiqué que cette décision revenait à monétiser une fonction d’IA permettant de générer des images illégales, ce qui n’est pas une solution. « C’est une insulte aux victimes de misogynie et de violences sexuelles. Ce que cela prouve, en revanche, c’est que X est capable d’agir rapidement quand il le veut », a ajouté le porte-parole du Premier ministre.
La Commission européenne examine de son côté les réponses données par le réseau social à ses questions sur le sujet, et a demandé au réseau social de conserver tous les documents internes jusqu’à la fin de l’année, afin de pouvoir s’y référer si une enquête formelle devait être lancée. Ce qui pourrait arriver au vu des éléments à charge qui s’accumulent. Des sources internes ont par exemple affirmé à CNNqu’Elon Musk avait fait pression chez xAI pour supprimer des garde-fous de Grok, provoquant le départ de plusieurs membres de l’équipe — pas très fournie au demeurant — en charge de la sûreté de la plateforme.
Et puis cette limitation aux utilisateurs payants est un cache-misère. Car il reste très facile d’obtenir de Grok des images sexualisées illégales : il suffit d’utiliser l’application mobile du bot pour retrouver la fonction de « nudification »… ou tout simplement les outils d’édition disponibles en maintenant le doigt sur une image dans l’app ou sur le web, comme a pu le constater The Verge. Aucune restriction ici.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.