Problèmes de santé, difficultés familiales, questions un peu honteuses… On peut tout demander à un chatbot, le problème est de savoir ce qu’il en fait par la suite. Meta s’est pris les pied dans le tapis : une combinaison de choix douteux d’interface et de maladresse des utilisateurs ont exposé au grand public des requêtes Meta AI qui auraient dû rester confidentielles.
Depuis le lancement en avril dernier de l’app Meta AI, on peut lire sur son fil public des discussions d’ordre très privé entre les utilisateurs et le chatbot. Contrairement à ChatGPT ou d’autres applications IA, Meta a fait le choix de mettre en place un espace public où il est possible de partager une image ou une requête. Le hic, c’est que les utilisateurs ont tendance à autoriser un peu trop facilement le partage.
Un fil public un peu trop intime
Résultat : on peut lire dans le fil public de Meta AI toutes sortes de conversations allant de l’anodin (prière, poème) au franchement gênant (demandes de conseils médicaux, appels désespérés à l’aide…). Plus inquiétant encore : des conversations audio mêlant voix des utilisateurs et bot ont été partagées de manière accidentelle.
Ces messages pour certains très personnels sont exposés aux yeux de tous les utilisateurs de l’application. Meta a expliqué à Business Insider qu’il fallait passer par plusieurs étapes pour rendre une conversation publique. L’interface de l’app semble toutefois suffisamment ambiguë pour induire des utilisateurs en erreur.
Devant l’embarras de cette exposition publique, Meta a mis en place une première mesure de protection : un avertissement explicite s’affiche désormais avant chaque tentative de publication. Ce nouveau pop-up apparaît lorsque l’utilisateur appuie sur « Partager » : « Les requêtes [Meta AI] que vous publiez sont publiques et visibles par tous. Vos invites peuvent être suggérées par Meta dans d’autres applications Meta. Évitez de partager des informations personnelles ou sensibles. »
Après ce message, il faut valider une seconde fois la publication. En parallèle, Meta a aussi modifié le fil public pour n’afficher plus que des images IA, ce qui semble moins problématique que d’exposer des problèmes de couple ou de garde d’enfants.
Le problème de fond reste cependant entier : beaucoup d’utilisateurs ne comprennent pas bien les implications de ce qu’ils partagent, ou n’imaginent pas que leur conversation avec un chatbot puisse être visible par tous.
Lire Meta AI enfin en France : le ChatGPT de Meta débarque sur Facebook, Messenger, WhatsApp et Instagram
Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
Business Insider