Un développeur qui travaillait depuis un an sur un livre de niche s’est aperçu qu’un ouvrage sur le même sujet, avec le même titre, venait d’être publié – il était en vente sur Amazon. Il s’agissait d’une réplique faite par l’IA, explique-t-il – un exemple qui montrerait à quel point le contenu généré par l’IA inonde actuellement le Web.
Chris Cowell, un développeur de logiciels basé à Portland dans le nord-ouest des États-Unis, a passé plus d’un an à rédiger un livre technique. Mais trois semaines avant sa sortie, en se rendant sur Amazon, son sang n’a fait qu’un tour lorsqu’il s’est aperçu qu’un ouvrage portant sur le même sujet, avec exactement le même titre, « Automating DevOps with GitLab CI/CD Pipelines », venait d’apparaître sur le site. Dommage, se dit-il dans un premier temps avant de se raviser et de commander l’ouvrage. Au fil des pages, l’ingénieur s’est rendu compte qu’une des sources listée, Marie Karpos, n’existait pas, parmi d’autres bizarreries. Peu à peu, ce dernier en est venu à la conclusion que ce livre aurait, selon toute vraisemblance, été généré par l’IA.
Son éditeur, une société basée à Mumbai en Inde, inKstall, aurait fait de même pour des dizaines d’ouvrages sur des sujets techniques, rapporte le Washington Post, qui a enquêté sur cette affaire. Depuis la parution de l’article de nos confrères du 5 mai dernier, les références des livres édités par cette entreprise ont été supprimées. Ce mardi 9 mai, aucun ouvrage publié par inKstall n’a été trouvé sur le site de e-commerce. L’entreprise n’a pas répondu aux demandes de commentaires de nos confrères.
La rédaction humaine, bientôt une exception sur le Web ?
Et selon des experts, cet exemple ne serait qu’une partie émergée de l’iceberg. Les contenus rédigés par l’IA, à savoir les livres, les articles de presse ou de blogs, les livres de recette, les communiqués de presse… se répandraient comme une traînée de poudre sur tout le Web. C’est simple : la rédaction humaine de documents sur le Web est en passe de devenir l’exception plutôt que la règle. « Si vous avez une connexion à l’internet, vous avez forcément consommé du contenu généré par l’IA », prévient Jonathan Greenglass, un investisseur technologique basé à New York et spécialisé dans le commerce électronique, interrogé par nos confrères.
À lire aussi : ChatGPT : derrière la magie, deux « formateurs en intelligence artificielle » témoignent
Dans une étude publiée fin avril, la société NewsGuard a identifié 49 sites d’information en sept langues – dont le français – qui semblaient être en grande partie ou entièrement générés par l’IA. Sur certains sites, la mention « fait par l’IA » était claire, mais pour d’autres, les choses étaient moins, voire pas du tout évidentes. De nombreux sites qui recouraient à des créateurs de contenus choisissent désormais l’IA, beaucoup moins chère. Une partie d’entre eux utiliseraient ChatGPT comme un assistant de rédaction qui fournirait un premier contenu : ce texte serait ensuite corrigé par un rédacteur humain. « Auparavant, une critique décente (..) coûtait 250 dollars », rapporte Eugene Levin, le président de Semrush, une société spécialisée dans le marketing sur le Web, interrogé par nos confrères. « Aujourd’hui, avec l’IA, c’est 10 dollars », avance-t-il.
Le risque : perdre de vue ce qu’est la réalité
L’IA générative comme ChatGPT peut permettre de générer des contenus très techniques ou personnalisés. Mais cette technologie risque aussi de multiplier les écrits de désinformation ou de manipulation. Car si l’IA génère de plus en plus ce que nous lisons, il risque d’y avoir de plus en plus de données en ligne non vérifiées, non fondées sur la réalité, avertit Margaret Mitchell, responsable de l’éthique à la start-up Hugging Face, spécialisée dans l’IA. Et face à une multitude de sources qui reprennent une fake news, partout dans le monde, comment distinguer le vrai du faux ? « Le principal problème est de perdre de vue ce qu’est la vérité », poursuit-elle.
Cette histoire a plus que refroidi Chris Cowell, le développeur à qui cette mésaventure est arrivée. Ce qui l’inquiète n’est pas forcément de vendre moins de livres en raison de cette réplique générée par l’IA – l’article ne dit pas à quel point le contenu créé par cette technologie diffère de l’original. Mais c’est surtout le fait de voir « cette écriture de mauvaise qualité, à bas prix et sans grand effort, avoir un effet dissuasif sur tous ceux qui envisagent d’écrire des livres techniques de niche à l’avenir », confie-t-il à nos confrères. Ajoutez à cela le fait que « tout texte que j’écris sera inévitablement introduit dans un système d’intelligence artificielle qui générera encore plus de concurrence », poursuit-il, il y a de quoi vous faire passer l’envie de publier quoi que ce soit.
Source :
Washington Post