Google a demandé à son IA de réécrire les titres dans Discover. Le géant du web cherchait à faciliter la vie des internautes, mais l’expérience a tourné au fiasco.
Google est bien décidé à mettre de l’IA dans tous ses produits et services. Le géant de la recherche vient de réaliser une expérimentation à petite échelle dans Google Discover, le flux d’articles et de contenus personnalisés que Google affiche automatiquement sur mobile. Le groupe a laissé l’intelligence artificielle générative réécrire le titre de certains articles pour les raccourcir et les rendre plus directs.
Nous « testons un nouveau design qui modifie l’emplacement des titres existants afin de rendre les informations sur les sujets plus faciles à comprendre avant que les utilisateurs ne consultent les liens provenant du reste du web », justifie Mallory Deleon, porte-parole de Google. Dans le cadre de cette « petite expérimentation d’interface auprès d’un groupe restreint d’utilisateurs » aux États-Unis, Google n’a pas jugé bon de prévenir les médias dont les titres ont été revus.
À lire aussi : Google Discover arrive (bientôt) sur votre PC
Le raté de l’IA sur Google Discover
L’expérience n’est pas vraiment une réussite. Plusieurs ratés sont apparus sur Google Discover dans le cadre de l’expérimentation. Des titres trompeurs ou sensationnalistes, qui ne reflètent pas le contenu des articles, sont apparus. Par exemple, l’IA a annoncé que « les joueurs de BG3 exploitent des enfants » ou que « le prix de la Steam Machine a été révélé », alors que ce n’est pas le cas. Le titre original expliquait justement qu’il ne fallait pas s’attendre à un prix proche de celui d’une console. De plus, aucun tarif n’était communiqué dans l’article.
Dans d’autres cas, l’IA de Google a retiré des mots, ruinant tout l’intérêt du titre choisi par le journaliste. C’est ainsi que « comment les développeurs de Microsoft utilisent l’IA » est devenu « des développeurs Microsoft utilisent l’IA », ce qui est beaucoup moins séduisant. Parfois, Google Discover a diffusé des titres qui n’avaient pas le moindre sens. Dans la plupart des ratés recensés par les médias américains, l’IA semble avoir tout fait pour résumer le titre à l’excès, sans vraiment en comprendre le sens. C’est comme ça que les internautes sont tombés sur des absurdités.
L’IA « peut se tromper »
Google Discover affichait parfois le titre original du média, mais ajoutait en dessous un résumé généré par IA, présenté comme une sorte de mini-introduction. Conscient des limites de l’IA, Google indique sur les contenus « Generated with AI, which can make mistakes », soit « Généré par une IA, qui peut se tromper ». Malheureusement, Google ne se donne pas la peine de préciser quels éléments précis ont été générés par l’IA. L’internaute ne sait donc pas si l’erreur potentielle vient du titre, du résumé ou des deux. Pire, l’avertissement n’apparaît pleinement qu’en cliquant sur le titre. De facto, beaucoup d’utilisateurs ne voient même pas qu’ils ont lu un texte généré par l’IA, ce qui est préjudiciable pour les médias.
Le raté de Google Discover rappelle fortement celui rencontré par Apple Intelligence lors de son lancement l’année dernière. En miroir de Discover, Apple Intelligence s’est mis à propager de fausses informations en résumant de travers des contenus. Dos au mur, Apple a préféré empêcher son IA de résumer les notifications en provenance de certaines applications, comme celles d’actualités.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google Actualités, abonnez-vous à notre canal WhatsApp ou suivez-nous en vidéo sur TikTok.
Source :
The Verge