Les ennuis s’accumulent pour Grok, xAI, X/Twitter et Elon Musk. La facilité avec laquelle le bot IA génère et diffuse des images sexuellement explicites, y compris d’enfants, provoque la mobilisation de la Commission européenne et du régulateur britannique.
Grok a généré environ 6 700 images sexualisées chaque heure entre les 5 et 6 janvier, d’après le décompte de la chercheuse Genevieve Oh reprise par Bloomberg. Les autres sites examinés durant cette période produisaient en moyenne 79 images du même genre chaque heure. Autant dire que le bot de xAIa un sérieux problème de garde-fous (et que dire de ses utilisateurs…).
Grok sous surveillance
Ces images IA sont généralement créées à partir de photos existantes, en grande majorité de femmes, que l’on affuble d’un bikini ou que l’on met dans des situations suggestives. Pire encore, certains se servent des capacités de Grok pour générer des images pédopornographiques, ce qui a réveillé les régulateurs du monde entier — la création et la distribution de ce genre d’images sont des pratiques évidemment illégales.
La Commission européenne a ainsi demandé à X (anciennement Twitter), sur lequel les images sont largement partagées, de conserver tous les documents internes et les données liés au chatbot et ce, jusqu’à la fin de cette année. « Cela revient à dire à une plateforme : conservez vos documents internes, ne vous en débarrassez pas, car nous avons des doutes sur votre conformité… et nous devons pouvoir y avoir accès si nous en faisons explicitement la demande », a expliqué le porte-parole Thomas Regnier.
Cette demande ne signifie pas pour autant l’ouverture d’une enquête formelle dans le cadre du règlement sur les services numériques (DSA). Mais cela pend au nez du réseau social, déjà dans le collimateur de Bruxelles.
À Londres, l’Ofcom a pris connaissance des graves préoccupations soulevées par la fonction de Grok de « produire des images de personnes dénudées et des images sexualisées d’enfants ». Le régulateur britannique aux communications a également contacté X et xAI pour jauger les mesures mises en place pour se conformer à leurs obligations légales de protection des utilisateurs. « Sur la base de leur réponse, nous procéderons à une évaluation rapide pour déterminer s’il existe d’éventuels manquements justifiant l’ouverture d’une enquête. »
L’an dernier, le Royaume-Uni a mis en œuvre l’Online Safety Act, un ensemble de mesures pour renforcer la sécurité des utilisateurs sur internet, en particulier des enfants. Les grandes plateformes en ligne, dont les réseaux sociaux, sont légalement tenues d’intégrer des garde-fous contre les contenus illégaux et préjudiciables.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.