ChatGPT signe un changement majeur de notre rapport aux outils numériques : l’intelligence artificielle capable de proposer des discussions assez poussées sur divers sujets peut également se montrer redoutable dans la production de textes.
Contenus informatifs, rédactions, essais, poésie, paroles de chanson : ChatGPT se montre particulièrement bluffante et il devient quasiment impossible de différencier le texte produit par l’iA de celui d’un humain tant la précision d’écriture est au rendez-vous.
Une IA puissante, qui peut aider aussi les criminels
Et si cette IA se présente comme un formidable outil pour les utilisateurs traditionnels, elle l’est également pour les cybercriminels.
Check-Point Research alerte ainsi que l’intérêt grandissant des cybercriminels pour les intelligences artificielles et ChatGPT. L’outil permettrait ainsi aux développeurs novices d’accélérer la production de scripts et logiciels malveillants.
Sur des forums spécifiques, Check Point a ainsi repéré plusieurs travaux de hackers exploitant ChatGPT. L’un d’entre eux a ainsi développé un logiciel capable de voler des fichiers sur une machine sous Windows. Le malware créé peut scanner un ordinateur et cibler 2 formats de fichiers précis, les collecter et les compresser dans un fichier Zip avant de les envoyer dans le Cloud.
Un autre pirate indique comment ChatGPT l’a aidé à développer un script Python capable de chiffrer et déchiffrer des fichiers à la volée, prémices d’une nouvelle génération de Ransomware.
En marge de ces logiciels, on assiste également à la création de textes exploités dans des campagnes de phishing de plus en plus poussées. ChatGPT réussit ainsi à produire du texte suffisamment rassurant pour justifier de sa fausse identité tout en amenant un élément urgent et inquiétant pour encourager les utilisateurs à cliquer sur un lien intégré en vue de récupérer leurs identifiants. Mais l’IA va encore plus loin en étant capable de générer des pages entières de sites et du contenu en quelques minutes pour créer de faux portails avec de vraies pages, parfois par dizaines, de contenu qui semble légitime et pourtant totalement faux.