Check Point Research (CPR) constate que les cybercriminels se servent de bots Telegram pour contourner les restrictions de ChatGPT dans les forums illgaux. Les bots ainsi dtourns utilisent l’API d’OpenAI pour permettre la cration d’e-mails ou de codes malveillants. Les diteurs de bots autorisent actuellement jusqu’ 20 demandes gratuites, mais facturent ensuite 5,50 dollars par srie de 100 demandes. CPR met en garde contre les tentatives continues des cybercriminels de contourner les restrictions de ChatGPT pour pouvoir utiliser OpenAI des fins malveillantes.
- CPR partage des exemples de publicits de bots Telegram
- CPR partage l’exemple d’un e-mail de phishing cr dans un bots Telegram sans aucune limitation.
- CPR partage un exemple de code malware cr dans un bots Telegram sans aucune limitation
Dans le cadre de sa politique de contenu, OpenAI a cr des barrires et des restrictions pour bloquer la cration de contenu malveillant sur sa plate-forme au fur et mesure de son utilisation en version beta. Ces restrictions dsormais en place au sein de l’interface utilisateur de ChatGPT empchent l’utilisation abusive des modles. Par exemple, si vous demandez ChatGPT d’crire un e-mail de phishing pour se faire passer pour une banque ou de crer un malware, il ne le fera plus. Check Point Research (CPR) constate en effet lexistence de discussions actives sur les forums clandestins expliquant comment utiliser l’API OpenAI pour contourner les barrires et les limitations de ChatGPT. La plupart du temps, cela se fait en mettant en place des bots ou scripts Telegram qui utilisent l’API. Ce sont ces bots qui font l’objet d’une publicit sur les forums de piratage pour plus de visibilit.
Telegram ChatGPT Bot-as-a-Service
En effet, CPR a trouv des messages publicitaires de bots Telegram sur des forums illgaux. Les bots utilisent l’API d’OpenAI pour permettre la cration d’e-mails ou de codes malveillants. Les fabricants de bots autorisent actuellement jusqu’ 20 demandes gratuites, mais facturent ensuite 5,50 dollars par srie de 100 demandes.
Sergey Shykevich, Responsable du groupe Threat chez Check Point Software, explique :
Dans le cadre de sa politique de contenu, OpenAI a cr des barrires et des restrictions pour bloquer la cration de contenu malveillant sur sa plate-forme. Cependant, nous constatons que les cybercriminels parviennent contourner les restrictions de ChatGPT, et des discussions actives sur les forums clandestins expliquent comment utiliser l’API OpenAI pour contourner les barrires et les restrictions de ChatGPT. Pour y parvenir, il suffit de crer des bots Telegram qui utilisent l’API. Ces bots sont ensuite diffuss sur les forums de piratage pour tre plus visibles. La version actuelle de l’API d’OpenAI est utilise par des applications externes et possde trs peu de dispositifs anti-abus. Cela permet donc de crer du contenu malveillant, comme des e-mails de phishing et du code de malware, sans les limitations ou les barrires que ChatGPT a fixes sur son interface utilisateur. l’heure actuelle, on observe une volont constante des cybercriminels de trouver des moyens de contourner les restrictions de ChatGPT.
Figure 2. Exemple d’un e-mail de phishing cr dans un bots Telegram pour dmontrer la possibilit d’utiliser l’API d’OpenAI sans aucune limitation
Figure 3. Exemple de la capacit de crer un code malware sans restriction anti-abus dans un bots Telegram utilisant l’API OpenAI
Figure 4. Business model du canal Telegram bas sur l’API ChatGPT
Scripts pour contourner les restrictions de ChatGPT
CPR constate galement que les cybercriminels crent des scripts de base qui utilisent l’API d’OpenAIs pour contourner les restrictions anti-abus.
propos de Check Point Research
Check Point Research fournit des renseignements de premier plan sur les cybermenaces aux clients de Check Point Software et l’ensemble de la communaut du renseignement. L’quipe de recherche collecte et analyse les donnes relatives aux cyberattaques mondiales stockes sur ThreatCloud pour tenir les pirates distance, tout en s’assurant que tous les produits Check Point sont mis jour avec les dernires protections.
Source : Check Point Research
Et vous ?
Trouvez-vous cette tude pertinente ?
Quel est votre avis sur la situation ?
Voir aussi :