La génération d’images pédopornographiques par Grok ainsi que la capacité du bot à créer et à diffuser des images à caractère sexuel non consenties risquent d’être une grosse épine dans le pied d’Elon Musk. Plusieurs juridictions, aux États-Unis, en Europe et ailleurs dans le monde, ont l’intention de lancer des enquêtes sur ces pratiques.
La tempête gronde au-dessus de la tête de xAI, la start-up IA d’Elon Musk qui a développé le chatbot Grok. Ces derniers jours, des utilisateurs ont en effet pu générer des images sexualisées de mineurs, ce qui est absolument illégal, mais aussi de femmes sans leur consentement. Et le tout, très facilement. Certains s’en donnent à cœur joie.
Des garde-fous aux abonnés absents
Plusieurs régulateurs dans le monde voient tout cela d’un mauvais œil. À commencer par l’Union européenne. Thomas Regnier, porte-parole de la Commission, a expliqué en début de semaine que les autorités européennes « examinaient l’affaire avec le plus grand sérieux ». Il a rappelé que X/Twitter et Grok avaient désormais un « mode spicy » affichant des contenus sexuels explicites, « dont certains générés avec des traits enfantins ». Or, « ce n’est pas “spicy”, c’est illégal, c’est choquant, c’est répugnant (…) cela n’a pas sa place en Europe. »
Voilà qui ne va pas redorer le blason du réseau social à Bruxelles, qui lui a infligé en décembre dernier une amende de 120 millions d’euros pour manque de transparence. Il n’y a pas que dans l’UE où ces images ont réveillé les régulateurs. Au Royaume-Uni, l’Ofcom a demandé des explications à X/Twitter. Au Brésil, en Inde, en Malaisie, des procédures sont également en cours.
Aux États-Unis aussi, il y a comme un malaise. Le National Center on Sexual Exploitation (NCOSE) a appelé le ministère de la Justice (DoJ) et la FTC, le régulateur du commerce, à enquêter sur Grok. Le centre rappelle que la loi interdit la création et la distribution d’images pédopornographiques (CSAM), et que cela s’applique aussi aux contenus créés de toutes pièces.
Le DoJ a déclaré de son côté prendre « extrêmement au sérieux » les contenus pédopornographiques générés par l’IA et poursuivra « avec la plus grande fermeté » tous ceux qui produisent ou possèdent de tels contenus. Elon Musk a fini par sortir de sa réserve en affirmant que « toute personne utilisant Grok pour produire des contenus illégaux s’exposera aux mêmes sanctions que si elle téléversait directement des contenus illégaux ». Ce qui signifie la suspension permanente du compte et si nécessaire, un signalement aux autorités.
Le hic, c’est la facilité déconcertante avec laquelle il est possible de générer ce type de contenus. Quelques instructions texte suffisent pour contourner les limites, sans rencontrer de blocage systématique au moment de la saisie des requêtes ni de filtrage efficace en sortie. L’absence de garde-fous visibles interroge vraiment sur leur présence dans Grok.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source :
CNBC