Ce n’était qu’une question de temps avant que le célèbre agent conversationnel d’intelligence artificielle ChatGPT ne soit imité à des fins malveillantes. Un tel outil, connu sous le nom de WormGPT, est désormais sur le marché. Le 13 juillet, des chercheurs de la société de cybersécurité SlashNext ont en effet publié un billet de blog révélant la découverte de cet outil désormais en vente sur un forum de pirates informatiques.
Selon ses promoteurs, le projet WormGPT se veut une « alternative » noire à ChatGPT. Il doit permettre de « faire toutes sortes de choses illégales et de les vendre facilement en ligne à l’avenir ». SlashNext a eu accès à l’outil, décrit comme un module d’intelligence artificielle basé sur le modèle de langage GPTJ. WormGPT aurait visiblement été entraîné à l’aide de sources de données telles que des informations sur les logiciels malveillants.
Sans limites éthiques
WormGPT est ainsi décrit comme étant « similaire à ChatGPT mais sans limites éthiques ». Développé par OpenAI, une société de recherche en intelligence artificielle, ChatGPT est un modèle de langage naturel capable de réponses bluffantes, qui a été nourri par une base de données gigantesque. Toutefois, pour empêcher des abus, ses concepteurs ont mis en place des restrictions à son utilisation : il refuse notamment de programmer des logiciels malveillants.
WormGPT n’a évidemment aucune de ces barrières. Les chercheurs SlashNext ont ainsi pu utiliser cet outil pour « générer un courriel destiné à pousser un gestionnaire de compte peu méfiant à payer une facture frauduleuse ». L’équipe a été surprise de voir à quel point le modèle de langage avait réussi à accomplir cette tâche, qualifiant le résultat de « remarquablement persuasif [et] également stratégiquement astucieux ».
Abonnement de 60 à 700 dollars pour les cybercriminels
Selon les messages consultés par ZDNET sur un canal Telegram lancé pour promouvoir l’outil, le développeur développe un modèle d’abonnement pour l’accès allant de 60 à 700 dollars. Un membre de la chaîne, « darkstux », affirme qu’il y a déjà plus de 1.500 utilisateurs de WormGPT.
Tout laisse à penser que WormGPT n’est malheureusement que le premier d’une nouvelle lignée d’outils malveillants. Il ne fait aucun doute que là où il y a de l’argent à gagner, des cybercriminels prendront les devants. Les modèles de langage naturel pourraient transformer des escroqueries basées sur le hameçonnage faciles à éviter en des opérations sophistiquées ayant plus de chances de réussir.
Nouveau défi pour les services de police
L’agence de police européenne Europol appelait d’ailleurs dans un rapport publié il y a quelques mois à surveiller le développement de ce genre de modèles de langage naturel. « Cela représente un nouveau défi pour les forces de l’ordre, car il sera plus facile que jamais pour les acteurs malveillants de perpétrer des activités criminelles sans connaissances préalables nécessaires », soulignait-elle.
Sans compter que ChatGPT peut lui-même être détourné de ses usages prévus pour être utilisé à des fins illégales. Car l’agent conversationnel peut par exemple rédiger des courriels professionnels, des lettres de motivation, des CV, des bons de commande, etc. À lui seul, il peut éliminer certains des indicateurs les plus courants d’un courriel du hameçonnage, les fautes d’orthographe et les problèmes de grammaire.
Source : « ZDNet.com »