Microsoft a dclar que les adversaires des tats-Unis – principalement l’Iran et la Core du Nord et, dans une moindre mesure, la Russie et la Chine – commencent utiliser l’intelligence artificielle gnrative pour monter ou organiser des cyberoprations offensives. Le gant de la technologie a dclar avoir dtect et perturb, en collaboration avec son partenaire commercial OpenAI, des menaces qui utilisaient ou tentaient d’exploiter la technologie d’IA qu’ils avaient dveloppe.
Dans un billet de blog, l’entreprise de Redmond (Washington) a dclar que ces techniques taient « un stade prcoce » et qu’elles n’taient pas « particulirement nouvelles ou uniques« , mais qu’il tait important de les exposer publiquement alors que les rivaux des tats-Unis exploitent les grands modles de langage pour accrotre leur capacit pntrer dans les rseaux et mener des oprations d’influence.
Les entreprises de cyberscurit utilisent depuis longtemps l’apprentissage automatique des fins dfensives, principalement pour dtecter les comportements anormaux dans les rseaux. Mais les criminels et les pirates offensifs l’utilisent galement, et l’introduction des grands modles de langage, sous la houlette du ChatGPT d’OpenAI, a intensifi ce jeu du chat et de la souris.
Microsoft a investi des milliards de dollars dans OpenAI, et cette annonce a concid avec la publication d’un rapport indiquant que l’IA gnrative devrait renforcer l’ingnierie sociale malveillante, conduisant des deepfakes et des clonages de voix plus sophistiqus. Une menace pour la dmocratie dans une anne o plus de 50 pays organiseront des lections, ce qui amplifie la dsinformation et se produit dj.
Voici quelques exemples fournis par Microsoft. Dans chaque cas, l’entreprise a indiqu que tous les comptes et actifs d’IA gnrative des groupes nomms avaient t dsactivs :
- Le groupe de cyberespionnage nord-coren connu sous le nom de Kimsuky a utilis les modles pour effectuer des recherches sur les groupes de rflexion trangers qui tudient le pays, et pour gnrer du contenu susceptible d’tre utilis dans des campagnes de piratage par spear-phishing.
- Les Gardiens de la rvolution iraniens ont utilis des grands modles de langage pour faciliter l’ingnierie sociale, le dpannage des erreurs logicielles et mme pour tudier la manire dont les intrus pourraient chapper la dtection dans un rseau compromis. Cela inclut la cration de courriels d’hameonnage « dont un prtendant provenir d’une agence de dveloppement international et un autre tentant d’attirer d’minentes fministes vers un site web sur le fminisme cr par l’attaquant« . L’IA permet d’acclrer et de stimuler la production de courriels.
- L’unit de renseignement militaire russe GRU, connue sous le nom de Fancy Bear, a utilis les modles pour rechercher des technologies satellitaires et radar susceptibles d’tre lies la guerre en Ukraine.
- Le groupe chinois de cyberespionnage Aquatic Panda, qui cible un large ventail d’industries, d’tablissements d’enseignement suprieur et de gouvernements, de la France la Malaisie, a interagi avec les modles « d’une manire qui suggre une exploration limite de la faon dont les LLM peuvent augmenter leurs oprations techniques« .
- Le groupe chinois Maverick Panda, qui s’en prend depuis plus de dix ans aux entreprises de dfense amricaines et d’autres secteurs, a eu des interactions avec des grands modles de langage qui suggrent qu’il value leur efficacit en tant que source d’informations « sur des sujets potentiellement sensibles, des personnes de haut niveau, la gopolitique rgionale, l’influence des tats-Unis et les affaires intrieures« .
Dans un blog distinct, OpenAI a dclar que son chatbot actuel de modle GPT-4 n’offrait « que des capacits limites et progressives pour les tches de cyberscurit malveillantes, au-del de ce qui est dj ralisable avec des outils non aliments par l’IA et accessibles au public« .
Les chercheurs en cyberscurit s’attendent ce que cela change.
En avril dernier, la directrice de l’Agence amricaine de cyberscurit et de scurit des infrastructures (U.S. Cybersecurity and Infrastructure Security Agency), Jen Easterly, a dclar au Congrs qu' »il y a deux menaces et dfis qui dfinissent l’poque. L’une est la Chine, l’autre l’intelligence artificielle« . Jen Easterly a dclar cette occasion que les tats-Unis devaient veiller ce que l’intelligence artificielle soit conue dans un souci de scurit.
Les dtracteurs du lancement public de ChatGPT en novembre 2022 – et des lancements ultrieurs par des concurrents tels que Google et Meta – soutiennent qu’il s’agissait d’une prcipitation irresponsable, tant donn que la scurit a t largement prise en compte aprs coup dans leur dveloppement. « Il est vident que les mauvais acteurs utilisent des grands modles de langage – cette dcision a t prise lorsque la bote de Pandore a t ouverte« , a dclar Amit Yoran, PDG de la socit de cyberscurit Tenable.
Certains professionnels de la cyberscurit se plaignent de la cration et de la vente par Microsoft d’outils destins remdier aux vulnrabilits des grands modles de langage, alors qu’il serait plus responsable de s’attacher les rendre plus srs. « Pourquoi ne pas crer des modles de base LLM plus srs au lieu de vendre des outils dfensifs pour un problme qu’ils contribuent crer ?« , a demand Gary McGraw, vtran de la scurit informatique et cofondateur de l’Institut Berryville d’apprentissage automatique.
Edward Amoroso, professeur l’universit de New York et ancien responsable de la scurit d’AT&T, a dclar que si l’utilisation de l’IA et des grands modles de langage ne constitue pas une menace immdiate, elle « finira par devenir l’une des armes les plus puissantes de l’offensive militaire de chaque tat-nation« .
Source : Microsoft
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :