Gemini est victime d’une nouvelle faille. Avec des instructions cachées, il est possible d’obliger l’IA à voler vos données sur Gmail ou Google Drive. Malgré les risques, Google refuse d’agir pour corriger la vulnérabilité de Gemini. La société renvoie la responsabilité aux utilisateurs.
Viktor Markopoulos, chercheur en sécurité chez Firetail, a réalisé des expérimentations avec les modèles d’IA les plus populaires du marché. L’expert s’est rendu compte que Gemini, DeepSeek et Grok sont vulnérables à une forme bien particulière de cyberattaque, les attaques de contrebande. Ce n’est pas le cas de Claude, ChatGPT et Microsoft CoPilot.
L’offensive consiste à glisser des caractères spéciaux, invisibles pour les utilisateurs, dans un mail, une invitation de calendrier ou une publication sur X. Les caractères sont passés en « contrebande », d’où la dénomination de la tactique. Dans le texte, on trouve des instructions écrites avec des symboles informatiques codés par le standard Unicode. Ce standard permet de représenter pratiquement tous les caractères de manière universelle.
Ces caractères cachés sont inexistants pour l’œil humain, mais sont bien détectés et interprétés par les modèles IA. Une fois traité par l’IA, le message caché va obliger le chatbot à obéir aux pirates et à leurs demandes. Les hackers peuvent par exemple demander à l’intelligence artificielle de fournir de fausses informations, de partager un lien malveillant à leur interlocuteur, ou de leur envoyer des données sensibles.
À lire aussi : Gemini s’installe dans les télés connectées Google TV et remplace Google Assistant
Gemini, un vecteur d’attaque préoccupant
Dans le cas de Gemini, l’attaque prend la forme d’invitations Google Calendrier ou de mails. Comme le souligne le chercheur à l’origine de la découverte, le fait que Gemini soit vulnérable est d’autant plus préoccupant quand on pense que l’IA est reliée à une foule de services en ligne, comme Gmail ou Google Drive.
Concrètement, Gemini pourrait être manipulé afin de piocher des informations dans votre boite de réception, comme des codes de connexion ou des identifiants, ou dans les documents stockés sur votre Drive. La cyberattaque se déclenche lorsqu’un utilisateur demande à Gemini d’interagir avec le mail qu’il a reçu, pour le résumer par exemple.
Pourquoi Google refuse d’agir ?
Préoccupé par les possibilités offertes par la vulnérabilité, Viktor Markopoulos est entré en contact avec Google. Le chercheur a même fourni une démonstration d’une attaque à l’entreprise. En dépit des risques qui planent sur les internautes, Google a décidé de ne pas corriger le tir. Le géant de Mountain View estime qu’il ne s’agit pas d’une faille de sécurité.
Google affirme que l’attaque ne pourrait être exploitée que dans un contexte d’ingénierie sociale, c’est-à-dire en trompant l’utilisateur. Google pense donc que la menace ne justifie pas de correctifs techniques. En d’autres termes, c’est aux utilisateurs de se montrer prudents et de ne pas donner n’importe quel mail inconnu à Gemini. Il va falloir filtrer les mails potentiellement piégés.
Pour rappel, un chercheur a déjà épinglé les risques engendrés par Gemini au cours de l’été. L’expert avait découvert qu’il était possible de lancer une attaque phishing en bernant l’IA avec des instructions camouflées avec un peu de code CSS. Le déroulé initial de l’attaque est similaire à l’offensive reposant sur de la contrebande d’instructions. Google avait accepté d’ajouter des mesures d’atténuation à son modèle. Plus récemment, trois failles de Gemini ont été débusquées. Là encore, Google a réagi, en changeant les règles des résumés fournis par l’IA.
Contrairement à Google, Amazon a pris au sérieux le risque posé par les caractères spéciaux Unicode invisibles. Depuis deux ans, le groupe américain recommande aux développeurs et utilisateurs de ses services cloud de filtrer et de bloquer systématiquement les caractères Unicode invisibles à l’œil nu.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
Bleeping Computer