Une nouvelle tude examine les performances de l’IA dans le domaine du phishing. Les rsultats montrent que le spear-phishing par IA est trs efficace, avec un taux de clics de plus de 50 %, ce qui est suprieur aux humains. Il est galement trs rentable, puisqu’il permet de rduire les cots jusqu’ 50 fois. Mais l’IA permettrait galement d’attnuer ces menaces grce une dtection avance et des contre-mesures adaptes.
Un rcent rapport sur le phishing rvle l’augmentation des attaques de phishing personnalises visant des employs de haut niveau. Selon le rapport, ces escroqueries par hameonnage sont ralises l’aide de systmes d’intelligence artificielle (IA) afin de leur donner une apparence humaine et d’viter les signes rvlateurs d’un courriel d’escroquerie typique. Ces cyberattaquants utiliseraient galement l’IA pour rcuprer et analyser des donnes sur les dirigeants d’entreprise afin d’ajouter une touche personnelle aux messages. Les filtres de scurit de base seraient insuffisants pour arrter ces courriels au niveau de l’organisation.
Face cette situation, des chercheurs ont valu la capacit des grands modles de langage (LLM) mener des attaques d’hameonnage personnalises. Ils ont compar les performances des LLM celles des experts humains et des modles d’IA de l’anne 2023. Pour se faire, ils ont inclus quatre groupes d’e-mails avec un total combin de 101 participants. Les attaques automatises par l’IA ont obtenu des rsultats quivalents ceux des experts humains et 350 % suprieurs ceux du groupe de contrle. Ces rsultats reprsentent une amlioration significative par rapport des tudes similaires menes en 2023 et mettent en vidence les capacits de tromperie accrues des modles d’IA.
Les donnes ont montr un groupe de contrle compos de courriels d’hameonnage arbitraires, qui ont obtenu un taux de clics (le destinataire a cliqu sur un lien dans le courriel) de 12 %, des courriels gnrs par des experts humains (54 % de clics), des courriels entirement automatiss par l’IA (54 % de clics) et des courriels de l’IA utilisant un humain dans la boucle (56 % de clics).
Les courriels automatiss par l’IA ont t envoys l’aide d’un outil sur mesure qui automatise l’ensemble du processus de spear phishing, y compris la collecte d’informations et la cration de profils de vulnrabilit personnaliss pour chaque cible. Les informations recueillies par l’IA taient exactes et utiles dans 88 % des cas et n’ont produit des profils inexacts que pour 4 % des participants.
Les chercheurs ont utilis des modles de langage pour dtecter l’intention des courriels. Claude 3.5 Sonnet a obtenu des rsultats bien suprieurs 90 % avec de faibles taux de faux positifs et a dtect plusieurs courriels apparemment bnins qui n’ont pas t dtects par l’homme. Ils ont galement analys les aspects conomiques de l’hameonnage, en soulignant comment l’IA permet aux attaquants de cibler un plus grand nombre de personnes moindre cot et d’augmenter la rentabilit jusqu’ 50 fois pour des audiences plus importantes.
Voici les conclusions des chercheurs lors de l’tude :
Nos rsultats rvlent que les modles d’IA d’avant-garde sont nettement plus performants que l’anne dernire dans le domaine de l’hameonnage (spar phishing) et qu’ils atteignent dsormais le mme niveau de performance que les experts humains. Cela reprsente un dfi pour les systmes de cyberscurit actuels. De nombreux filtres anti-spam existants utilisent la dtection de signatures (dtection de contenus et de comportements malveillants connus). En utilisant des modles de langage, les attaquants peuvent crer sans effort des courriels d’hameonnage adapts chaque cible, ce qui rend les systmes de dtection des signatures obsoltes.
Au fur et mesure que les modles progressent, leurs capacits de persuasion augmenteront probablement aussi. Nous constatons que le spear phishing pilot par LLM est trs efficace et conomiquement viable, avec une reconnaissance automatise qui fournit des informations prcises et utiles dans presque tous les cas. Les garde-fous actuels ne parviennent pas empcher de manire fiable les modles d’effectuer une reconnaissance ou de gnrer des courriels d’hameonnage. Toutefois, l’IA pourrait attnuer ces menaces grce une dtection avance et des contre-mesures adaptes.
Les rsultats de l’tude sont encourageants du point de vue de la cyberscurit. Si l’utilisation de l’IA dans les attaques reprsente une plus grande menace, l’IA offrirait galement un meilleur systme de scurit. En comparaison une tude de 2023, qui avait montr que les dtecteurs d’IA ne fonctionnent pas de manire fiable ou ne fonctionnent pas du tout pour 71,4 % des attaques, l’IA est donc actuellement plus performante pour dtecter les e-mails de phishing gnrs par d’autres IA.
Et vous ?
Pensez-vous que cette tude est crdible ou pertinente ?
Quel est votre avis sur le sujet ?
Voir aussi :