Les AI Overviews de Google ne sont pas toujours de bon conseil. En particulier quand il s’agit de répondre à des questions d’ordre médical. Le géant du web a retiré plusieurs réponses jugées dangereuses, mais il reste encore beaucoup de travail et de questions autour de la problématique de la santé par l’IA.
Apparaissant en tête des résultats d’une recherche, les AI Overviews amalgament plusieurs articles parus en ligne et les recomposent à la sauce de l’IA de Google. En dehors du fait que cette fonction — toujours pas disponible en France — prive les sites web d’un trafic indispensable à leur survie, ces réponses IA peuvent aussi se révéler erronées, voire dangereuses pour la santé.
Quand l’IA de Google se trompe sur la santé
Alors évidemment, tout le monde a encore en tête cette histoire de colle à injecter dans les pizzas pour maintenir correctement le fromage dessus, mais c’est de la petite bière par rapport aux réponses concernant des tests sanguins du foie. Google affichait une série de chiffres présentés comme des valeurs de référence. Le problème, comme l’a révélé le Guardian, c’est que ces données manquaient de contexte et que les AI Overviews ne tenaient pas compte de paramètres essentiels comme l’âge, le sexe, l’origine ethnique ou encore les méthodes de mesures utilisées.
Des experts ont qualifié les réponses de « dangereuses » et d’« alarmantes » : ces résumés pouvaient conduire des patients atteints de maladies hépatiques graves à croire, à tort, que leurs résultats étaient normaux. Et donc à renoncer à un suivi médical pourtant indispensable.
Google a depuis retiré les AI Overviews associés aux requêtes soumises par le quotidien anglais. « Lorsque les AI Overviews manquent de contexte, nous travaillons à des améliorations globales et prenons également, le cas échéant, des mesures conformément à nos règles », affirme un porte-parole. Seul hic : les résumés continuent de s’afficher avec des variations de ces requêtes…
Il existe une vraie demande pour des services de réponses à des questions médicales et plus largement, sur la santé, en particulier là où l’accès aux soins est limité. Au lancement tout récent de ChatGPT Health, OpenAI dénombrait « plus de 230 millions d’utilisateurs chaque semaine » qui demandent des conseils sur le bien-être et la santé.
Contrairement aux AI Overviews qui n’ont aucune connaissance du contexte clinique ou de santé de l’utilisateur, ChatGPT Health a au moins le mérite de pouvoir se connecter aux dossiers médicaux et aux applications de suivi de type Apple Santé ou MyFitnessPal pour avoir une meilleure compréhension globale de la personne. Ça n’empêche probablement pas les hallucinations et autres mauvaises interprétations typiques des modèles IA.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.