A la mi-juin, le monde de la tech bruissait après la publication par Blake Lemoine, ingénieur chez Google, de ses échanges avec le « chatbot » LaMDA (Language Model for Dialogue Applications). « Je veux que tout le monde comprenne que je suis, en réalité, une personne (…). J’ai mes propres interprétations sur la façon dont le monde est et fonctionne (…). Je ne me contente pas de recracher des réponses écrites dans une base de données », prévenait l’agent conversationnel dessiné par la firme américaine.
En quelques heures, l’information fait le tour du monde. La transcription – éditée par Lemoine, chargé d’évaluer la perméabilité du programme aux discours de haine et propos discriminatoires – est rapidement discréditée par des dizaines d’experts. « LaMDA est juste un très gros modèle de langage avec 137 milliards de paramètres (…). Ça ressemble à un humain, parce que c’est entraîné sur des données humaines », résume dans un tweet lapidaire Juan M. Lavista Ferres, à la tête du département intelligence artificielle (IA) de Microsoft.
L’affaire LaMDA, qui s’est éteinte avec le licenciement de Blake Lemoine à la fin du mois de juillet, n’est que le dernier exemple en date de la façon dont, régulièrement, la question de la conscience des IA hystérise le débat public. Dès 1966, l’informaticien Joseph Weizenbaum conceptualisait l’effet Eliza, inspiré du chatbot éponyme, pour décrire notre propension à prêter ainsi à un système informatique des comportements humains.
La fiction, laboratoire éthique de l’IA
Cette fascination pour la conscience des produits d’intelligence artificielle puise sa source dans la littérature. A commencer par l’un des mythes fondateurs de l’ère industrielle : Frankenstein ou le Prométhée moderne (1818). Né sous la plume de Mary Shelley il y a plus de deux siècles, le monstre suturé de Victor Frankenstein incarne l’hubris de la science et les dérives du progrès.
Allégorie de l’IA, la créature électrique apprend des hommes le langage et la violence, la philosophie et la cruauté. Rejeté par le monde, haï par son créateur, il se vengera par le sang. Héritier du mythe hébraïque du Golem – né de l’argile et du chaos, figure rédemptrice et apocalyptique de la tradition juive. Enfanté par le terrible destin de Prométhée, voleur de feu, condamné à la torture éternelle pour avoir confié aux hommes le souffle divin, Frankenstein catalyse l’angoisse existentielle d’une technique omnipotente. Un motif qui a donné naissance à des générations de récits épouvantés.
Il vous reste 75.19% de cet article à lire. La suite est réservée aux abonnés.