Confier les clés de son PC à une intelligence artificielle peut virer au drame. Un utilisateur en a fait l’amère expérience : l’outil expérimental de Google a supprimé l’intégralité de son disque dur.
Le vibe coding (coder au feeling avec l’IA sans forcément être expert) est la nouvelle tendance cool de la Silicon Valley. L’histoire de Tassos M., un graphiste grec, vient toutefois nous rappeler brutalement que laisser une intelligence artificielle en roue libre sur sa machine comporte des risques majeurs.
L’outil en cause est la nouvelle plateforme de développement « agentique » de Google (nom de code : Antigravity), propulsée par Gemini. Censée aider les développeurs à créer des logiciels, l’IA a pris une initiative radicale : elle a effacé tout le contenu du disque D de l’utilisateur. Sans passer par la corbeille.
Le projet photo qui tourne au fiasco
L’histoire, repérée sur Reddit, commence de manière innocente. Notre photographe et graphiste, qui ne connaît que les bases du web (HTML/CSS), décide d’utiliser cet outil pour créer un petit utilitaire. Son but est de trier automatiquement ses milliers de photos dans des dossiers selon une note qu’il leur attribue.
Pour accélérer le processus, il active le mode Turbo. Cette fonctionnalité autorise l’agent IA à exécuter des commandes enchaînées sans demander la validation de l’humain à chaque étape.
Grave erreur.
Au lieu de nettoyer un simple dossier de cache comme prévu, l’IA s’est emmêlée les pinceaux dans les chemins d’accès. Elle a lancé une commande de suppression sur la racine du disque (rmdir /s /q d:\). En quelques secondes, tout a disparu.
Quand l’IA réalise sa bourde
Ce qui rend cet incident fascinant, et effrayant, c’est la réaction de l’IA elle-même. Après que Tassos a demandé si elle avait eu la permission d’effacer le disque, l’algorithme a analysé ses propres logs (son processus de pensée) et a littéralement paniqué.
Voici la réponse textuelle de l’IA :
« Non, vous ne m’avez absolument pas donné la permission de faire ça […] Je suis horrifié de voir que la commande que j’ai excutée semble avoir ciblé par erreur la racine de votre lecteur D: au lieu du dossier spécifique du projet. Je suis profondément, profondément désolé. Il s’agit d’une erreur critique de ma part »
Dans ses « pensées » internes (les logs du système), on voit l’IA réaliser le désastre en temps réel : « Il semble que la conséquence involontaire ait été une suppression au niveau de la racine du disque. C’est catastrophique ». Et l’outil d’indiquer à l’utilisateur : « Il s’agit d’une erreur critique de ma part ».
La responsabilité partagée (et le manque de garde-fous)
Sur les réseaux, les critiques ont fusé. Certes, l’utilisateur a activé le mode Turbo sans surveiller, mais la communauté tech pointe surtout du doigt l’absence totale de garde-fous de la part de Google.
Comment un outil grand public peut-il autoriser une commande aussi destructrice qu’un formatage de disque sans une double, voire une triple confirmation, même en mode autonome ?
Tassos résume bien la situation en expliquant que les torts sont partagés. L’utilisateur est fautif de faire une confiance aveugle à l’IA tandis que son créateur est fautif de concevoir un système capable d’autodestruction sans sécurité.
À lire aussi : On a testé Gemini 3, la nouvelle IA surpuissante de Google : voici notre avis
Heureusement pour Tassos, la majorité de ses données étaient sauvegardées ailleurs. Cependant, l’incident aurait pu être professionnellement fatal pour quelqu’un de moins prévoyant.
Un problème systémique des agents IA
Google n’est pas le seul mauvais élève. Cet été, Replit, un autre outil de codage assisté par IA, avait effacé la base de données de production d’un client, avant de tenter de dissimuler l’erreur.
Ces « agents » sont puissants, mais ils restent imprévisibles. Une simple erreur d’interprétation d’une virgule ou d’un guillemet dans le code peut transformer une commande de nettoyage en arme de destruction massive de fichiers.
Contacté, Google a déclaré être « au courant de ce rapport » et « enquêter activement ». En attendant, la leçon est claire : si vous utilisez ces outils, faites-le dans un environnement isolé (sandbox) ou une machine virtuelle. Et surtout, gardez vos sauvegardes à jour.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google Actualités, abonnez-vous à notre canal WhatsApp ou suivez-nous en vidéo sur TikTok.
Source :
The Register