L’IA va accrotre le nombre et l’impact des cyberattaques Les ransomwares tant susceptibles d’en tre les plus grands bnficiaires au cours des deux prochaines annes

L’IA va accrotre le nombre et l’impact des cyberattaques, affirment le GCHQ britannique, les ransomware seront probablement les plus grands bnficiaires au cours des deux prochaines annes. Les menaces lies la cyberactivit malveillante sont susceptibles d’augmenter mesure que les tats-nations, les criminels financirement motivs et les novices intgrent de plus en plus l’intelligence artificielle dans leurs activits, a dclar la principale agence de renseignement du Royaume-Uni.

L’valuation, ralise par le Government Communications Headquarters (GCHQ) du Royaume-Uni, prvoit que les ransomware seront la principale menace bnficier de l’aide de l’IA au cours des deux prochaines annes. L’IA abaissera les barrires l’entre, ce qui entranera une augmentation du nombre de nouveaux venus dans l’entreprise criminelle. Les acteurs plus expriments, tels que les tats-nations, les entreprises commerciales qui les servent et les groupes criminels motivation financire, en profiteront probablement aussi, car l’IA leur permet d’identifier les vulnrabilits et de contourner les dfenses de scurit de manire plus efficace.

« L’utilisation mergente de l’IA dans les cyberattaques est volutive et non rvolutionnaire, ce qui signifie qu’elle renforce les menaces existantes telles que les ransomwares, mais ne transforme pas le paysage des risques court terme« , a dclar Lindy Cameron, PDG du Centre national de cyberscurit du GCHQ. Mme Cameron et d’autres responsables des services de renseignement britanniques ont dclar que leur pays devait renforcer ses dfenses pour contrer cette menace croissante.

L’valuation s’est concentre sur l’effet que l’IA aura probablement au cours des deux prochaines annes. La probabilit que l’IA augmente le volume et l’impact des cyberattaques au cours de cette priode a t qualifie de « presque certaine« , ce qui correspond au niveau de confiance le plus lev du GCHQ.

L’impact court terme de l’IA sur la cybermenace

Voici une valuation du NCSC portant sur l’impact de l’IA sur l’efficacit des cyberoprations et les consquences pour la cybermenace au cours des deux prochaines annes.

Commentaire sur la politique britannique en matire de cyberntique

Lors du sommet de Bletchley sur la scurit de l’IA en novembre 2023, les dirigeants internationaux se sont runis pour discuter du vaste potentiel des modles d’IA pour promouvoir la croissance conomique, propulser les avances scientifiques et fournir un large ventail d’avantages publics. Ils ont galement soulign les risques pour la scurit qui pourraient dcouler du dveloppement et de l’utilisation irresponsables des technologies de l’IA. Le gouvernement britannique value et traite les menaces et les risques potentiels associs l’IA.

S’il est essentiel de se concentrer sur les risques poss par l’IA, nous devons galement saisir les opportunits considrables qu’elle offre aux cyberdfenseurs. Par exemple, l’IA peut amliorer la dtection et le triage des cyberattaques et identifier les courriels malveillants et les campagnes de ransomware, ce qui permet en fin de compte de les contrer plus facilement.

La dclaration du sommet a soulign l’importance de veiller ce que l’IA soit conue, dveloppe, dploye et utilise d’une manire sre, centre sur l’homme, digne de confiance et responsable, dans l’intrt de tous. Le NCSC continue de travailler avec des partenaires internationaux et l’industrie pour fournir des conseils sur le dveloppement et l’utilisation scuriss de l’IA, afin que nous puissions raliser les avantages que l’IA offre la socit, en publiant des lignes directrices pour le dveloppement de systmes d’IA scuriss en novembre 2023.

valuation du NCSC

Le NCSC Assessment (NCSC-A) fait autorit en matire de cybermenaces pour le Royaume-Uni. Ils fusionnent toutes les sources d’information – renseignements classifis, connaissances de l’industrie, matriel universitaire et sources ouvertes – pour fournir des jugements cls indpendants qui clairent la prise de dcision politique et amliorent la cyberscurit du Royaume-Uni. Ils travaillent en troite collaboration avec le gouvernement, l’industrie et les partenaires internationaux afin d’obtenir l’avis d’experts pour les valuations.

Le NCSC-A fait partie des Professional Heads of Intelligence Assessment (PHIA). Le PHIA dirige le dveloppement de la profession par le biais d’un savoir-faire analytique, de normes professionnelles et de la cration et du maintien d’une communaut intergouvernementale.

Ce rapport utilise le langage probabiliste formel des produits du NCSC-A pour informer les lecteurs de l’impact court terme de l’IA sur la cybermenace.

Quelle est la probabilit d’une « possibilit raliste » ?

Critre de probabilit du Professional Head of Intelligence Assessment (PHIA)

NCSC Assessment utilise le critre de probabilit PHIA chaque fois qu’il procde une valuation, un jugement ou une prdiction. Les termes utiliss correspondent aux fourchettes de probabilit ci-dessous :

Jugements cls

Il est presque certain que l’intelligence artificielle (IA) augmentera le volume et renforcera l’impact des cyberattaques au cours des deux prochaines annes. Toutefois, l’impact sur la cybermenace sera ingal.
La menace pour 2025 provient de l’volution et de l’amlioration des tactiques, techniques et procdures (TTP) existantes.
Tous les types d’acteurs de la cybermenace – tatiques et non tatiques, qualifis et moins qualifis – utilisent dj l’IA, des degrs divers.
L’IA amliore les capacits de reconnaissance et d’ingnierie sociale, ce qui les rend presque certainement plus efficaces et plus difficiles dtecter.
Les utilisations plus sophistiques de l’IA dans les cyberoprations sont trs probablement rserves aux acteurs de la menace ayant accs des donnes d’entranement de qualit, une expertise importante ( la fois en matire d’IA et de cyberntique) et des ressources. Il est peu probable que des utilisations plus avances soient ralises avant 2025.
L’IA rendra presque certainement les cyberattaques contre le Royaume-Uni plus percutantes, car les acteurs de la menace seront en mesure d’analyser les donnes exfiltres plus rapidement et plus efficacement, et de les utiliser pour former des modles d’IA.
L’IA abaisse les barrires qui empchent les cybercriminels novices, les pirates louer et les hacktivistes de mener des oprations efficaces d’accs et de collecte d’informations. Cet accs amlior contribuera probablement la menace mondiale des ransomwares au cours des deux prochaines annes.
l’horizon 2025 et au-del, la banalisation des capacits bases sur l’IA sur les marchs criminels et commerciaux permettra trs certainement la cybercriminalit et aux acteurs tatiques de disposer de capacits amliores.

Contexte

Cette prsente valuation porte sur l’impact de l’IA sur l’efficacit des cyberoprations et sur les consquences pour la cybermenace au cours des deux prochaines annes. Elle n’aborde pas la menace que reprsentent les outils d’IA pour la cyberscurit, ni les risques de cyberscurit lis leur intgration dans l’architecture des systmes.

L’valuation suppose qu’il n’y aura pas de perce significative dans le domaine de l’IA transformatrice au cours de cette priode. Cette hypothse doit tre rexamine, car toute perce pourrait avoir des consquences importantes sur le dveloppement de logiciels malveillants et d’exploits de type « zero-day » et donc sur la cybermenace.

L’impact de l’IA sur la cybermenace sera compens par l’utilisation de l’IA pour renforcer la rsilience de la cyberscurit grce la dtection et l’amlioration de la scurit ds la conception. Des travaux supplmentaires sont ncessaires pour comprendre dans quelle mesure les dveloppements de l’IA en matire de cyberscurit limiteront l’impact de la menace.

valuation

L’impact de l’IA sur la cybermenace est ingal, tant en termes d’utilisation par les acteurs de la cybermenace qu’en termes de renforcement des capacits.
Ampleur de l’augmentation des capacits cause par l’IA au cours des deux prochaines annes.
L’IA offrira principalement aux acteurs de la menace des capacits accrues en matire d’ingnierie sociale. L’IA gnrative (GenAI) peut dj tre utilise pour permettre une interaction convaincante avec les victimes, y compris la cration de documents de leurre, sans les erreurs de traduction, d’orthographe et de grammaire qui rvlent souvent l’hameonnage. Il est fort probable que ce nombre augmentera au cours des deux prochaines annes, mesure que les modles volueront et que l’utilisation augmentera.
La capacit de l’IA rsumer les donnes un rythme rapide permettra aussi trs probablement aux acteurs de la menace d’identifier des actifs de grande valeur pour les examiner et les exfiltrer, ce qui augmentera la valeur et l’impact des cyberattaques au cours des deux prochaines annes.
Les acteurs de la menace, y compris les acteurs du ransomware, utilisent dj l’IA pour accrotre l’efficacit et l’efficience de certains aspects des cyberoprations, tels que la reconnaissance, le phishing et le codage. Cette tendance se poursuivra trs certainement jusqu’en 2025 et au-del. Le phishing, qui vise gnralement diffuser des logiciels malveillants ou voler des informations sur les mots de passe, joue un rle important en fournissant les premiers accs au rseau dont les cybercriminels ont besoin pour mener des attaques par ransomware ou d’autres formes de cybercriminalit. Il est donc probable que l’utilisation par les cybercriminels des modles d’IA disponibles pour amliorer l’accs contribuera la menace mondiale des ransomwares court terme.
L’IA devrait contribuer au dveloppement de logiciels malveillants et d’exploits, la recherche de vulnrabilits et au dplacement latral en rendant les techniques existantes plus efficaces. Toutefois, court terme, ces domaines continueront de reposer sur l’expertise humaine, ce qui signifie que toute amlioration limite sera trs probablement rserve aux acteurs de la menace qui sont dj capables de le faire. L’IA a le potentiel de gnrer des logiciels malveillants qui pourraient chapper la dtection par les filtres de scurit actuels, mais seulement si elle est entrane sur des donnes d’exploitation de qualit. Il est tout fait possible que des tats trs comptents disposent de dpts de logiciels malveillants suffisamment importants pour entraner efficacement un modle d’IA cette fin.
Les dfis en matire de cyber-rsilience deviendront plus aigus mesure que la technologie se dveloppera. D’ici 2025, la GenAI et les grands modles de langage (LLM) rendront difficile pour tout un chacun, quel que soit son niveau de comprhension de la cyberscurit, de dterminer si un courriel ou une demande de rinitialisation de mot de passe est authentique, ou d’identifier les tentatives de phishing, de spoofing ou d’ingnierie sociale. Le dlai entre la publication des mises jour de scurit pour corriger les vulnrabilits nouvellement identifies et l’exploitation des logiciels non corrigs par les acteurs de la menace se rduit dj. Cela a exacerb le dfi pour les gestionnaires de rseaux de corriger les vulnrabilits connues avant qu’elles ne puissent tre exploites. L’IA risque fort d’acclrer ce dfi, car la reconnaissance des dispositifs vulnrables devient plus rapide et plus prcise.
L’expertise, l’quipement, le temps et les ressources financires sont actuellement essentiels pour exploiter les utilisations plus avances de l’IA dans les cyberoprations. Seuls ceux qui investissent dans l’IA, disposent des ressources et de l’expertise ncessaires et ont accs des donnes de qualit bnficieront de son utilisation dans des cyberattaques sophistiques d’ici 2025. Parmi les acteurs de la cybermenace, les acteurs tatiques trs comptents sont certainement les mieux placs pour exploiter le potentiel de l’IA dans des cyberoprations avances. D’autres acteurs tatiques et la plupart des entreprises commerciales qui offrent des capacits aux tats du monde entier bnficieront d’une amlioration modre de leurs capacits au cours des dix-huit prochains mois en matire d’ingnierie sociale, de reconnaissance et d’exfiltration. Les groupes criminels comptents et bien tablis disposeront probablement aussi de suffisamment de donnes et de ressources en matire de formation pour amliorer quelque peu leurs capacits.
Toutefois, il est raliste de penser que ces facteurs pourraient perdre de leur importance au fil du temps, mesure que des modles d’IA plus sophistiqus prolifrent et sont de plus en plus adopts. Les modles d’IA accessibles au public dispensent dj largement les acteurs de crer leurs propres technologies de rplique, en particulier pour les oprations peu sophistiques telles que le spear-phishing. Les cyberacteurs moins qualifis bnficieront trs certainement d’une amlioration significative de leurs capacits dans ce type d’oprations d’ici 2025. La marchandisation des capacits de cybercriminalit, par exemple les modles commerciaux « en tant que service », fait qu’il est presque certain que les groupes comptents montiseront les outils cyberntiques bass sur l’IA, en mettant des capacits amliores la disposition de quiconque est prt payer.
D’ici 2025, la formation de l’IA des donnes de qualit restera cruciale pour son utilisation efficace dans les cyberoprations. Les obstacles la mise l’chelle de la reconnaissance automatise des cibles, de l’ingnierie sociale et des logiciels malveillants sont tous principalement lis aux donnes. Mais d’ici 2025 et au-del, au fur et mesure des exfiltrations russies, les donnes alimentant l’IA s’amlioreront presque certainement, ce qui permettra des cyberoprations plus rapides et plus prcises.
L’augmentation du volume, de la complexit et de l’impact des cyberoprations indiquera que les acteurs de la menace ont russi exploiter efficacement l’IA. Il est trs probable que cela intensifie les dfis de la cyber-rsilience du Royaume-Uni court terme pour le gouvernement britannique et le secteur priv.