Google Gemini est victime d’un bug. Comme l’a découvert un utilisateur, l’IA lit parfois des fichiers stockés dans Google Drive ou ouverts dans Google Docs sans avoir demandé le consentement de l’usager.
En miroir de Microsoft, Google s’est mis à intégrer l’IA générative à la plupart de ses logiciels, comme Gmail, Google Drive ou Google Docs. Malheureusement, il s’avère que Gemini, l’IA conçue par Google, n’hésite parfois pas à lire certains des fichiers des utilisateurs sans avoir demandé leur consentement au préalable.
C’est ce qu’à découvert l’activiste et avocat américain Kevin Bankston. Spécialisé dans le droit de la vie privée et de la liberté d’expression, l’avocat s’est rendu compte que Gemini avait pris l’habitude de consulter les documents ouverts dans Google Docs. Dans un thread publié sur X, il explique avoir ouvert sa « déclaration de revenus » sur Google Docs. Sans la moindre action de sa part, Gemini s’est mis à résumer le document. Bankston affirme pourtant qu’il n’a jamais contacté Gemini après avoir ouvert le fichier PDF sur son ordinateur.
« Je ne lui ai pas *demandé* de résumer mes impôts, c’est juste ce qu’il a fait. Ce devrait être à moi de décider si/quels documents privés demandent le modèle », estime Kevin Bankston.
À lire aussi : Chercher avec une vidéo – la bonne idée de Google Gemini
Quand Gemini invente des paramètres
Soucieux de protéger ses données les plus sensibles de l’IA, il a demandé à Gemini comment il pouvait désactiver son accès à ses PDF. Le chatbot s’est mis à halluciner, c’est-à-dire à raconter n’importe quoi avec aplomb. Gemini a été jusqu’à inventer des paramètres de logiciels Google qui n’existent pas. L’IA n’a donc pas été en mesure de lui fournir une réponse claire pour désactiver la fonctionnalité. Les hallucinations font malheureusement partie des défauts les plus communs des IA génératives. Quand l’IA ne parvient pas à trouver la réponse à une question, elle se met à broder.
L’avocat a néanmoins fini par trouver le commutateur dans les paramètres de Google Docs. Surprise, l’accès de Gemini aux fichiers PDF était déjà désactivé. Les résumés fournis par Gemini dans Gmail, Drive et Docs étaient d’ailleurs tous bloqués. Il s’agit vraisemblablement d’un bug dans le fonctionnement de Gemini.
Aux origines du bug de Gemini
Kevin Bankston pense que le dysfonctionnement est lié aux fichiers stockés sur Google Drive. Si l’utilisateur décide d’invoquer Gemini sur un certain type de fichiers, l’IA s’invitera automatiquement sur tous les prochains documents du même genre. En l’occurrence, Gemini s’est permis de lire un PDF parce que l’utilisateur s’était servi de l’IA lors de l’ouverture d’un précédent fichier PDF. Bankston admet en effet avoir invoqué Gemini sur un fichier PDF en amont. Apparemment, tous les logiciels de la suite de Google, dont Google Docs, fonctionnement de la même manière.
« Si vous avez déjà utilisé Gemini avec un PDF particulier, il sera réinvoqué pour chaque autre PDF que vous chargez […] Idem avec GDocs : il n’était activé dans aucun de mes documents, puis je l’ai activé dans un, et maintenant il résume automatiquement tous ceux que j’ouvre », résume Bankston.
Pour le moment, Google n’a pas encore réagi à la découverte de Kevin Bankston. Il est toujours possible que l’intrusion de Gemini soit cantonnée à certaines conditions bien précises, mais restées inconnues jusqu’à maintenant.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
X