La scientifique en chef de Microsoft Research rejette les proccupations selon lesquelles la fonction d’IA Windows Recall est un cauchemar pour la vie prive Et une mine d’or pour les pirates informatiques

Microsoft a annonc la fonction Recall lors de l’vnement Build le mois dernier. Recall est une fonction base sur l’IA pour les PC Copilot+. Elle suit toutes les activits d’un PC Windows afin de faciliter les recherches ultrieures en utilisant le langage nature. Pour ce faire, Recall est cense capturer les donnes de toutes les applications, sauf si vous en excluez une, en prenant une srie de captures d’cran et en stockant ces interactions dans une base de donnes. La fonction Recall s’excute localement. Elle peut fonctionner sans connexion Internet et mme lorsque vous n’tes pas connect votre compte Microsoft.

Mais Recall est dcrie par les experts en scurit. Si quelqu’un d’autre que vous accde aux donnes collectes par Recall, les consquences pourraient tre dsastreuses. Cela peut vous sembler familier, Recall est remarquablement similaire la fonctionnalit Timeline de Windows 10, qui a chou et a t mise de ct. Mais contrairement Timeline, Recall ne se contente pas de restaurer une version de vos fichiers de bureau, il utilise l’IA pour vous ramener ce moment, en ouvrant mme les applications pertinentes. Un pirate qui parvient trouver et exploiter une faille dans Recall pourrait causer des dgts normes.

Jaime Teevan de Microsoft ne partage toutefois pas le mme avis. Elle a lud habilement la question lorsqu’elle a t interroge sur les proccupations souleves par Recall en matire de scurit et de protection de la vie prive. Teevan s’est exprime sur la question mercredi lors d’un entretien avec Erik Brynjolfsson, directeur du Stanford Digital Economy Lab, l’occasion du cinquime anniversaire de la division « Institute for Human-Centered Artificial Intelligence » de l’universit amricaine. Brynjolfsson a notamment soulign que la fonctionnalit Recall a fait l’objet d’une mauvaise presse depuis son annonce le mois pass.

Brynjolfsson a ensuite encourag Teevan aborder ces questions : parlez-nous donc des avantages et des inconvnients de l’utilisation de toutes ces donnes, des risques qu’elle engendre et des opportunits qu’elle offre . Bien que la question semble simple et facilement comprhensible, Teevan y a rpondu en restant vague et vasive. Elle a dclar :

Envoy par Jaime Teevan

C’est une excellente question, Erik. Cette question a t souleve tout au long de la matine : l’importance des donnes. Cette rvolution de l’IA dans laquelle nous nous trouvons actuellement est en train de changer la faon dont nous comprenons les donnes.

Microsoft aide gnralement les grandes entreprises grer leurs donnes, crer des donnes, partager des donnes, et ces donnes sont vraiment quelque chose qui rend le travail diffrent dans le contexte de l’IA gnrative.

En tant qu’individus, nous disposons galement de donnes importantes, des donnes avec lesquelles nous interagissons en permanence, et il est possible de commencer rflchir la manire de le faire et ce que cela signifie d’tre en mesure de les capturer et de les utiliser.

Mais bien sr, nous sommes en train de repenser ce que les donnes signifient et la faon dont nous les utilisons, la faon dont nous les valorisons, et la faon dont elles sont utilises

La rponse de Teevan est vague et n’est pas trs utile. Ne se laissant pas dcourager par le refus de Teevan de reconnatre pourquoi Recall a touch un point sensible, Brynjolfsson a approfondi la question : la mmoire est-elle stocke localement ? Supposons que j’active Recall, et je ne sais pas si je peux le faire, mais quand vous avez quelque chose comme a disposition, je m’inquiterais de voir tous mes fichiers personnels partir dans le cloud, chez Microsoft ou ailleurs. Est-ce que vous les gardez localement ? . Comme indiqu plus haut, Microsoft affirme que la fonctionnalit traite les donnes localement.

Teevan a rpondu comme suit : oui, oui, il s’agit d’une chose fondamentale laquelle nous tenons beaucoup en tant qu’entreprise, savoir la protection des donnes. Recall est donc une fonction qui permet de capturer des informations. Il s’agit d’une fonctionnalit locale de Windows, rien ne va dans le cloud, tout est stock localement . C’tait tout. La scientifique de Microsoft a rpondu la question comme si l’enregistrement continu des activits numriques d’une personne travers une srie de captures d’cran et l’tablissement journaux d’activit n’avait aucune incidence ngative sur la scurit ou la vie prive.

Mme si les donnes sont stockes et traites localement, la rponse de Teevan ne semble pas trop rassurante la lumire de la publication de l’outil « TotalRecall » du chercheur en scurit Alex Hagenah. Ce code peut extraire et afficher des donnes de la base de donnes SQLite non chiffre de Recall, dans laquelle la fonctionnalit stocke des instantans de l’activit de l’utilisateur. Des questions plus difficiles n’ont malheureusement pas t souleves lors de l’entretien, et Teevan n’a certainement pas profit de l’occasion pour s’attaquer de manire proactive certaines des attaques dont Recall a fait l’objet ces derniers temps.

Le souci, c’est que Recall reprsente une pe double tranchant, avec d’un ct la commodit d’une recherche surpuissante de tout l’historique d’utilisation de votre PC, et de l’autre le spectre de toutes ces donnes tombant entre les mains d’un pirate informatique. Dire que la mise en uvre de la fonction d’IA soulve de nombreuses questions en matire de scurit et de respect de la vie prive serait un euphmisme. Selon Kevin Beaumont, expert en scurit, Recall aura une utilit limite pour la plupart des utilisateurs, mais le risque de scurit est si important qu’elle pourrait entraner l’arrt de la distribution des PC Copilot+.

Je pense qu’il s’agit d’une fonction intressante, entirement optionnelle, avec une base d’utilisateurs initiale restreinte, qui ncessiterait une communication, une cyberscurit, une ingnierie et une mise en uvre incroyablement prudentes. Copilot+ Recall n’en dispose pas. Le travail n’a pas t fait correctement pour l’intgrer, c’est clair . Certaines personnes s’inquitent dj des implications juridiques. Les avocats pourraient utiliser les donnes collectes par Recall contre quelqu’un (en accdant ventuellement toutes sortes de messages passs, mme ceux qui sont de type suppression automatique aprs lecture).

Face la controverse, de nombreux guides expliquant comment dsactiver la fonction ont dj t publis en ligne avant le lancement de la fonctionnalit. La version courte : allez dans les paramtres de Windows, slectionnez Confidentialit et scurit, puis Recall & Snapshots et utilisez ces paramtres pour dsactiver la fonction ou supprimer toutes les donnes qui ont dj t collectes.

Et vous ?

Quel est votre avis sur le sujet ?

Que pensez-vous de la fonctionnalit Windows Recall des PC Copilot+ ?

En quoi cette fonctionnalit peut-elle tre utile ? Quid des risques de scurit qu’elle introduit ?

Microsoft devrait-il abandonner cette fonctionnalit ? L’entreprise peut-elle rendre Recall plus sre ?

Voir aussi

Recall de Windows 11 donne la possibilit des tiers de voler tout ce que vous avez tap ou regard sur votre PC, d’aprs les tests effectus par un chercheur en scurit

Un dveloppeur prouve que la fonctionnalit d’IA Windows Recall n’a pas besoin d’un PC Copilot+ quip d’un matriel NPU pour fonctionner, malgr les recommandations systmes de Microsoft

Microsoft lance de nouveaux PC Copilot+ aliments par l’IA, qui suivent et recherchent toutes vos activits. L’entreprise prcise que de nombreuses tches d’IA fonctionnent sans faire appel au cloud