Sur internet, personne ne sait que vous êtes un chien. Ou une IA… OpenAI a mis un terme à plusieurs campagnes qui utilisaient ChatGPT pour désinformer, influencer ou organiser des cyberattaques.
Les capacités de ChatGPT ne sont pas tombées dans l’oreille de sourds. Les pirates et les États voyous s’en servent pour orchestrer des opérations d’influence, de désinformation et même des cyberattaques — la Russie, la Chine, l’Iran et la Corée du Nord sont particulièrement friands du bot d’OpenAI.
Des opérations malveillantes utilisant ChatGPT
OpenAI a publié un nouveau rapport sur les utilisations malveillantes de ChatGPT. Depuis le début de l’année, l’entreprise a identifié et démantelé 10 campagnes, parmi lesquelles l’opération « Sneer Review » probablement organisée par la Chine visant à générer des commentaires politiques pro-chinois sur les réseaux sociaux.
La Chine serait aussi derrière l’opération « Uncle Spam » visant à exacerber les tensions politiques aux États-Unis via la diffusion de messages contradictoires pour créer la confusion. Relevons également l’opération « Helgoland Bite » dans laquelle la Russie a tenté d’influencer l’opinion publique allemande en faveur du parti d’extrême-droite AfD, critiquer l’OTAN et les États-Unis sur X (anciennement Twitter) et Telegram.
ChatGPT peut également être exploité pour monter de bonnes vieilles arnaques comme au Cambodge. Le bot y a produit des messages en plusieurs langues proposant de l’argent pour de faux petits boulots comme liker des posts. Une escroquerie pyramidale pour laquelle des utilisateurs ont versé de l’argent.
Après avoir identifié ces campagnes d’influence et ces escroqueries, OpenAI bannit systématiquement les comptes liés à ces activités. L’entreprise en profite pour renforcer ses systèmes de détection et d’affiner ses modèles pour limiter les abus futurs qui ne manqueront pas d’arriver.
Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
OpenAI