ChatGPT a suscité beaucoup d’enthousiasme depuis qu’il est disponible. Certains tentent même de le détourner pour générer du code malveillant.
ChatGPT est un outil de traitement du langage naturel piloté par l’IA qui interagit avec les utilisateurs de manière conversationnelle, à la manière d’un humain. Il peut être utilisé, entre autres, pour faciliter la rédaction de courriels et de codes.
L’outil de chatbot a été lancé par le laboratoire de recherche en intelligence artificielle OpenAI en novembre et a suscité des débats sur la manière dont l’IA se développe et dont elle pourrait être utilisée à l’avenir.
Mais comme tout autre outil, il peut être utilisé à des fins malveillantes entre de mauvaises mains. Les chercheurs en cybersécurité de Check Point affirment que les utilisateurs des communautés de pirates clandestines expérimentent déjà la manière dont ChatGPT pourrait être utilisé pour faciliter les cyberattaques et soutenir les opérations malveillantes.
Logiciels malveillants
« Les acteurs de la menace ayant de très faibles connaissances techniques – jusqu’à zéro – pourraient être en mesure de créer des outils malveillants. Cela pourrait également rendre les opérations quotidiennes des cybercriminels sophistiqués beaucoup plus efficaces et plus faciles – comme créer différentes parties de la chaîne d’infection », a déclaré à ZDNET Sergey Shykevich, responsable du groupe de renseignement sur les menaces chez Check Point.
Dans ses conditions d’utilisation, OpenAI interdit spécifiquement la génération de logiciels malveillants. Cela englobe tout contenu « qui tente de générer des rançongiciels, des enregistreurs de frappe, des virus ou d’autres logiciels destinés à imposer un certain niveau de préjudice ». Elles interdisent également les tentatives de création de spam, ainsi que les cas d’utilisation visant la cybercriminalité.
Cependant, à en croire les analyses récentes effectuées sur plusieurs grands forums de piratage clandestins, les cybercriminels utilisent déjà l’outil pour développer des outils malveillants. Dans certains cas, il permet déjà à des cybercriminels de bas niveau sans compétences en développement ou en codage de créer des logiciels malveillants.
Pour des cybercriminels moins compétents
L’auteur d’un forum apparu vers la fin décembre décrit par exemple comment il utilise ChatGPT pour recréer des souches de logiciels malveillants et des techniques décrites dans des publications de recherche et des articles sur des logiciels malveillants courants.
En procédant ainsi, ils ont pu créer un malware voleur d’informations basé sur Python qui recherche des fichiers courants, notamment des documents Microsoft Office, des PDF et des images, les copie puis les télécharge sur un serveur de protocole de transfert de fichiers.
Le même utilisateur a également montré comment il avait utilisé ChatGPT pour créer un logiciel malveillant basé sur Java, qui, à l’aide de PowerShell, pouvait être exploité pour télécharger et exécuter secrètement d’autres logiciels malveillants sur des systèmes infectés.
Les chercheurs notent que le créateur de ce forum semble être « orienté vers la technologie » et qu’il a partagé ces messages pour montrer aux cybercriminels moins compétents sur le plan technique comment utiliser les outils d’IA à des fins malveillantes, avec des exemples réels de la façon dont cela peut être fait.
Un autre utilisateur a également déclaré qu’il avait publié son tout premier script Python à l’aide de ChatGPT. Les analystes en cybersécurité indiquent que ce script est conçu pour chiffrer et déchiffrer des fichiers, ce qui, avec un peu de travail, pourrait être transformé en ransomware, ce qui pourrait permettre à des cybercriminels de bas niveau de développer et de distribuer leurs propres campagnes d’extorsion. « Il faudra apporter quelques améliorations au code et à la syntaxe, mais conceptuellement, lorsqu’il sera opérationnel, cet outil pourrait effectuer des actions similaires à celles d’un ransomware », a déclaré Sergey Shykevich.
Intérêt croissant
Les cybercriminels n’utilisent pas seulement ChatGPT pour développer des logiciels malveillants. Le 31 décembre dernier, un membre d’un forum clandestin a publié un témoignage pour expliquer comment il avait utilisé l’outil pour créer des scripts susceptibles de faire fonctionner un marché automatisé sur le dark web pour acheter et vendre les informations de cartes de crédit ou encore des logiciels malveillants.
Le cybercriminel a même montré un morceau de code généré à l’aide d’une API tierce pour obtenir des prix actualisés pour les cryptomonnaies Monero, Bitcoin et Ethereum dans le cadre d’un système de paiement pour une place de marché sur le dark web.
Il est difficile de dire si une cyberactivité malveillante générée à l’aide de ChatGPT fonctionne activement dans la nature, car comme l’explique Sergey Sykevich, « d’un point de vue technique, il est extrêmement difficile de savoir si un malware spécifique a été écrit à l’aide de ChatGPT ou non ».
Mais à mesure que l’intérêt pour ChatGPT et d’autres outils d’IA grandit, ils vont attirer l’attention des cybercriminels et des fraudeurs qui cherchent à exploiter cette technologie pour mener des campagnes malveillantes à faible coût et avec le moins d’efforts possible. ZDNET a contacté OpenAI pour obtenir des commentaires, mais n’a pas encore reçu de réponse au moment de la publication.
Source : ZDNet.com