Amy Kolsky pensait avoir fait une bonne affaire. Avant un séjour en France, cet été, cette Américaine de 53 ans était parvenue à dénicher sur Amazon un guide de voyage − Paris Travel Guide 2023 −, très bien noté et, de surcroît, à un prix défiant toute concurrence, soit 16,99 dollars (15,82 euros), contre 25,49 dollars pour le guide équivalent chez Lonely Planet. Une fois le livre en main, c’est toutefois la déception, ce dernier n’étant qu’une compilation de vagues descriptions sans vraie valeur ajoutée : « C’est comme si l’auteur était allé sur Internet et s’était contenté de faire un copié-collé de Wikipédia », raconte cette voyageuse, dont le témoignage a été recueilli par le New York Times en août.
Cet exemple illustre un phénomène grandissant, celui de l’intrusion de l’intelligence artificielle (IA) dans l’édition, y compris dans celle de tourisme, en témoigne cette prolifération, selon le quotidien américain, de guides de voyage plagiés ou falsifiés. Plusieurs indices attestent du fait que l’ouvrage en question a été rédigé par une intelligence artificielle.
A commencer par l’auteur, un certain Mike Stevers, qui, bien que présenté comme un « écrivain de voyage renommé » sur Amazon, a tout l’air d’avoir été créé de toutes pièces. A contrario de Rick Steves − un patronyme qui prête à confusion −, un auteur américain, qui, lui, existe bel et bien et dont la notoriété s’est faite sur les voyages en Europe, grâce à son style immersif dans la vie locale.
Mince garde-fou
Autre élément, le quotidien britannique Times a passé au crible des passages entiers à l’aide d’un outil de détection appelé Originalyti.ai. Là encore, le résultat est sans appel, la probabilité selon laquelle ces textes ont été rédigés par de l’IA étant extrêmement élevée. Ce phénomène concernerait également, selon le quotidien britannique qui a mené d’autres tests du genre, des catégories d’ouvrages et de sujets comme la cuisine, le jardinage, les affaires, l’artisanat, la médecine, la religion et les mathématiques.
Contactée par Le Monde, Amazon indique que les titres qui avaient été mentionnés dans ces articles ont désormais été retirés de la vente. « Nous investissons beaucoup de temps et des ressources considérables pour garantir le respect de nos règles, et nous supprimons les livres qui y contreviennent », indique le porte-parole de la multinationale. L’entreprise ne souhaite en revanche pas communiquer sur le nombre des ouvrages concernés, ni sur l’ampleur du phénomène, ni sur les indemnisations qui ont été faites à la suite des réclamations de sa clientèle.
Le groupe reconnaît ne pas interdire la publication de ce type de livre, mais se réserve le droit « de rejeter ou de supprimer du contenu généré par intelligence artificielle lorsqu[’il] détermin[e] qu’il crée une expérience client décevante », poursuit cette même source. Le 7 septembre, il a par ailleurs indiqué avoir changé sa politique vis-à-vis des auteurs qui s’autopublient sur Amazon sans passer par un éditeur. Ces derniers seront désormais dans l’obligation de déclarer si leur contenu en ligne est produit ou pas par une intelligence artificielle. Qu’il s’agisse des textes, images ou traductions notamment. Un bien mince garde-fou cependant contre les arnaques de ce genre.