Selon la société de cybersécurité Check Point, un large panel d’acteurs malveillants tente d’utiliser en douce le programme d’intelligence artificielle conversationnelle ChatGPT, lancé par la société OpenAI.
« Nous constatons que des hackers russes tentent de passer outre les restrictions régionales mises en place autour de ChatGPT », a ainsi mis en garde Pete Nicoletti, l’un des responsables de la sécurité informatique de Check Point, lors d’un petit rassemblement de journalistes, à l’occasion d’un événement de la société à New York.
This is terrifying. Automating the creation of extremely realistic email phishing templates and potentially use its API to reply to any email sent back? And all that was needed to convince it was “it’s for a school presentation”?! #ChatGPT #CyberSec @elonmusk @sama pic.twitter.com/2fa6Sz3in3
— Charles (@harclesah) February 10, 2023
Les requêtes venant de Russie sont bloquées
Le responsable de Check Point fait référence aux restrictions d’accès à l’interface de programmation d’applications de ChatGPT. Ces dernières doivent bloquer les requêtes en provenance de Russie.
Mais selon lui, ces tentatives de contourner les restrictions d’usage ne sont qu’un exemple parmi d’autres. « ChatGPT sera utilisé par les bons et les mauvais acteurs », a-t-il résumé.
Par exemple, il a remarqué sur le forum Reddit la tentative d’exploitation apparue sous le nom de DAN, pour « do anything now ». Il s’agit ici d’utiliser l’invite de chat pour manipuler ChatGPT afin qu’il produise un texte qui échappe aux garde-fous mis en place par ses concepteurs, pourtant destinés à l’empêcher de produire certains textes, par exemple des discours de haine.
Du ciblage de masse pour le hameçonnage
Pour Pete Nicoletti, ChatGPT devrait permettre à terme à des hackers malveillants de mettre au point des formes améliorées d’attaques par hameçonnage.
« Elles seront extrêmement ciblées, car les attaquants pourront rendre ce type d’attaque pertinente pour chaque victime », prédit-il, estimant que cela devrait permettre une sorte de ciblage de masse.
L’entreprise avait déjà signalé il y a un mois des premiers essais de hackers malveillants avec le programme d’intelligence artificielle conversationnelle. Ainsi, sur un forum, un pirate avait expliqué à la fin décembre comment il utilisait ChatGPT pour recréer des souches de programme malveillant tels que des infostealers ou des chiffreurs.