En début de semaine, dans la foulée des premiers « Copilot+PC », Microsoft annonçait également de nouvelles fonctions IA pour Windows 11. Une d’entre elles, Recall (« Rappel »), fait beaucoup de bruit car elle cristallise les peurs autour de l’intelligence artificielle et de la perte de la confidentialité.
Avant toute chose, il convient de rappeler ce qu’est Recall. Cette nouvelle fonction veut transformer en profondeur la manière dont on effectue une recherche sous Windows 11 et surtout, comment le système d’exploitation trouve ce que l’utilisateur cherche. Plus besoin de se rappeler du nom du fichier perdu, il suffira de saisir un mot clé (un terme présent dans le fichier, par exemple) ou la description d’un objet dans le champ de recherche.
Microsoft a beaucoup à prouver
Recall affichera dès lors une frise chronologique regroupant les actions passées se rapportant à la requête. Il suffira de faire « défiler » la timeline pour remettre la main sur le document ou sur l’information recherchée. La fonction s’appuie en fait sur la reconnaissance de caractères (OCR) pour analyser les captures d’écran. Une vidéo vaut mille mots, alors voici à quoi ressemble cette fonction :
C’est le fonctionnement de Recall qui interroge. Windows 11 va réaliser à intervalles réguliers des « instantanés » (des captures d’écran) de ce qui se passe sur le PC : les apps utilisées, les sites web visités, et même les caractères saisis. Microsoft a évidemment mis des garde-fous : les informations de Recall sont chiffrées et conservées en local, et il est possible d’exclure de l’enregistrement des apps et des sites web. Il n’y aura pas non plus d’enregistrement lorsque le navigateur est en mode privé.
Lire Windows 11 : avec Recall, Microsoft enregistrera toutes vos activités sur votre PC
Mais quand on commence à creuser, les limites de Recall commencent à apparaitre. Ainsi, la « liste noire » de sites web ne concerne que Edge ; les autres navigateurs Chromium ne bloqueront l’enregistrement que durant la navigation privée. Recall se souviendra de toutes les manipulations et du surf web de tout autre navigateur (voir cette fiche d’assistance de Microsoft).
Au Royaume-Uni, l’Information Commissioner’s Office (ICO), l’équivalent anglais de la Cnil, s’est officiellement inquiété de Recall. L’institution a demandé des informations à Microsoft pour « comprendre les mesures de protection mises en place afin de protéger la vie privée des utilisateurs ». Et l’ICO de rappeler que l’industrie doit prendre en compte la protection des données « dès le départ et évaluer rigoureusement les risques pour les droits et libertés des personnes avant de commercialiser des produits ».
Au-delà, une bonne partie de la communauté des experts en sécurité et en confidentialité s’est levée comme un seul homme, comme par exemple Abeba Birhane, chercheur IA et Mozilla fellow, qui attaque : « c’est ce qu’on appelle de la surveillance constante, du traçage, et ça sera éventuellement utilisé pour influencer et contrôler les masses ». Sans oublier qu’un siphonnage vigoureux des données stockées par Recall donnerait à des pirates un accès total et complet à la vie de leurs victimes.
Microsoft a donc beaucoup de travail pour convaincre de l’innocuité de cette fonction, annoncée quelques jours après l’engagement ferme de l’entreprise de « mettre la sécurité par dessus tout ». L’histoire récente a montré que ce n’était pas forcément le cas, et dans ce domaine l’entreprise a beaucoup à prouver et se faire pardonner.
À cela s’amalgame la mauvaise réputation de l’IA générative, dont « l’intelligence » repose sur l’analyse d’un maximum de données dont la provenance est parfois douteuse. OpenAI, premier partenaire de Microsoft, a participé de cette image trouble qui suscite la méfiance légitime des utilisateurs.
Néanmoins, il faut rappeler que Recall ne sera réellement disponible que sur une poignée d’ordinateurs pour commencer (les fameux Copilot+PC). Les instantanés de Recall pourront par ailleurs être supprimés en tout temps, il sera possible de désactiver la sauvegarde des captures. Enfin, la fonction sera optionnelle.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Par : Opera
Source :
Microsoft