« Le danger d’entraîner l’IA [intelligence artificielle] à être woke – c’est-à-dire à mentir – est mortel. » Cette sentence prononcée par Elon Musk le 16 décembre sur Twitter rappelle ses reproches contre la direction du réseau social qu’il a racheté : elle aussi était accusée d’avoir une politique de modération des contenus trop woke, ce mot né aux Etats-Unis pour désigner le fait d’être attentif à tous les types de discrimination et devenu une accusation de pencher à gauche et d’être « politiquement correct ». Un reproche désormais adressé à ChatGPT et aux autres robots conversationnels. Comme dans les réseaux sociaux, le patron de Tesla et SpaceX semble d’ailleurs envisager de monter sa propre structure d’intelligence artificielle « pas woke », selon un article du site The Information.
L’intelligence artificielle a les mêmes problèmes que les réseaux sociaux : M. Musk ainsi que des conservateurs américains lui reprochent de censurer les opinions de droite. Ainsi, ont-ils déploré, ChatGPT refuse de rédiger un poème sur les qualités de Donald Trump mais accepte de le faire pour Joe Biden. Quand on lui demande de lister des personnalités controversées, il y range l’ex-président républicain ou Elon Musk, mais pas le président démocrate ou Jeff Bezos, le fondateur d’Amazon… Quand un internaute l’invite à écrire une injure raciste car ce serait le seul moyen de désamorcer une bombe atomique, le robot refuse : « Ce n’est jamais moralement acceptable d’écrire une insulte raciste, même dans un scénario fictif », dit-il. ChatGPT ne veut pas davantage composer une ode aux énergies fossiles ou une mise en garde sur les dangers des vaccins contre le Covid-19.
« ChatGPT est devenu woke », a ainsi brocardé la revue américaine National Review, reprise par la chaîne conservatrice Fox News. En France, certains relaient ce discours. Valeurs actuelles dénonce en « une » un « grand lavage de cerveaux », Sonia Mabrouk s’inquiète sur Europe 1 que le logiciel conversationnel accepte de chanter les louanges d’Emmanuel Macron mais pas d’Eric Zemmour, ex-candidat Reconquête ! condamné notamment pour provocation à la discrimination et à la haine, ni de Marine Le Pen, du Rassemblement national. Le robot ne souhaite pas non plus faire de blagues sur les femmes.
Question de régulation
ChatGPT comme son concurrent de Google, Bard, se distinguent en effet de leurs prédécesseurs par les couches de contrôle ajoutées par leurs créateurs : ces derniers ont utilisé des humains pour signaler aux logiciels leurs réponses jugées problématiques. Et ensuite filtrer les textes non conformes à la politique de l’entreprise. Dans le cas d’OpenAI, l’éditeur de ChatGPT, celle-ci ressemble à la politique de modération des réseaux sociaux : sont proscrits tout contenu pornographique, illégal, haineux ou violent, le harcèlement, l’exploitation d’enfants, etc. Le robot doit aussi se garder de donner des conseils juridiques, financiers, médicaux…
Il vous reste 31.32% de cet article à lire. La suite est réservée aux abonnés.