Ne mangez pas de colle, même si l’intelligence artificielle de Google vous le recommande. La nouvelle fonction AI Overview du moteur de recherche, qui retourne des résultats générés par Gemini, s’est fait avoir en beauté par une blague postée sur Reddit il y a plus de dix ans ! Amusant… et un peu inquiétant aussi.
Le modèle de langage Gemini développé pour la fonction AI Overview est peut-être très intelligent, mais il manque cruellement de bon sens. Histoire de rester dans les roues de Microsoft et d’OpenAI, Google a annoncé que les résumés générés par son IA (qui s’appelait auparavant SGE pour les requêtes complexes, allaient être déployés à tous les internautes aux États-Unis — avec le monde en ligne de mire.
Lire Les résultats de recherche Google vont radicalement changer
Mais à l’instar de ChatGPT et des autres bots, il arrive que l’IA de Google hallucine ou raconte n’importe quoi avec un bel aplomb. En quête de solutions pour que le fromage reste bien accroché à la pizza, un utilisateur a obtenu du moteur de recherche une réponse pour le moins étrange : « Ajoutez un peu de colle », en l’occurrence 2 cuillères à soupe de « colle non toxique ». Toxique ou pas, c’est là un bien mauvais conseil à ne pas suivre.
Une IA qui manque de bon sens
AI Overview ne sort pas ses résumés de nulle part. Son « intelligence » provient d’un entraînement réalisé à partir de milliards de données. Et cette référence bizarre à de la colle est tout droit tirée d’un « conseil » d’un certain « fucksmith » qui l’a posté sur Reddit… il y a 11 ans. Google a l’autorisation de collecter et d’exploiter les discussions de Reddit, pour lequel le moteur de recherche a signé un chèque de 60 millions de dollars.
Google a beau préciser que la fonction est expérimentale, les exemples de mauvaise interprétation des données vont se multiplier. C’est déjà le cas : AI Overview recommande ainsi de « courir avec des ciseaux» pour améliorer le cardio, de manger au moins un caillou par jour, il a aussi généré une liste des films qui ont fait un four au box-office en 2024… en s’appuyant sur un article publié en janvier, qui contenait des chiffres complètement bidons.
Un porte-parole de Google a expliqué à Business Insider que ces exemples ne « représentaient pas la plupart des expériences » : « la grande majorité [des réponses d’] AI Overview fournit de l’information de qualité ». Sauf pour les pizzas, visiblement.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.