La Commission européenne tape du poing sur la table contre le réseau social d’Elon Musk. Bruxelles lance en effet une enquête formelle sur la génération d’images dénudées générées sans consentement par Grok, y compris à partir de photos d’enfants.
Ça chauffe pour Grok et pour X (anciennement Twitter). La Commission européenne a en effet ouvert une enquête formelle sur le bot IA et le réseau social d’Elon Musk. Le Grok permet de générer très facilement des deepfakes sexuellement explicites à partir de photos, généralement de femmes, et le tout sans le consentement des principales intéressées. Pire encore, Grok fait également la même chose avec des photos d’enfants.
Enquêtes à gogo
xAI, l’entreprise qui développe Grok, a heureusement serré la vis, d’abord en n’autorisant la génération d’images qu’aux abonnés payants de X (ce qui est peut-être une solution encore pire), puis en interdisant la génération d’images dénudées sur le réseau social. Ces mesures empêchent peut-être la création de ce genre d’images, il n’empêche, le mal est fait.
« Les deepfakes sexuels visant des femmes et des enfants constituent une forme violente et inacceptable de dégradation », explique Henna Virkkunen en charge de la souveraineté technologique. « Avec cette enquête, nous déterminerons si X a respecté ses obligations légales au titre du DSA, ou si la plateforme a traité les droits des citoyens européens — y compris ceux des femmes et des enfants — comme des dommages collatéraux de son service. »
L’enquête, donc ouverte au titre du règlement sur les services numériques (DSA), doit déterminer si le réseau social a correctement évalué et atténué les risques liés au déploiement de Grok, notamment la diffusion de contenus illégaux — donc de ces fameux deepfakes. Selon la Commission, ces risques semblent s’être matérialisés, exposant des citoyens européens à des préjudices graves.
L’enquête examinera aussi si X a transmis une évaluation de risques spécifique à Grok avant son lancement et si la plateforme respecte ses obligations générales de gestion des risques systémiques. En cas de manquements avérés, X pourrait être en infraction avec plusieurs articles du DSA.
Une sanction pouvant aller jusqu’à 6 % du chiffre d’affaires annuel peut être infligée. L’entreprise a déjà été visée par une amende de 120 millions d’euros en décembre dernier pour infraction au DSA. Anne le Hénanff, ministre déléguée chargée du Numérique, a salué l’ouverture de cette enquête, en rappelant avoir saisi la justice dès le 2 janvier. « X s’expose à de lourdes sanctions. Aucune plateforme n’est au-dessus de nos lois », rappelle-t-elle.
Par ailleurs, X n’est pas au bout de ses peines puisque l’exécutif européen élargit aussi l’enquête lancée en décembre 2023 pour intégrer la gestion des risques liés aux systèmes de recommandation de X, en particulier depuis le basculement vers un modèle fondé sur Grok.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source :
Commission européenne