Des ChatGPT tricheurs, générateurs de porno et spécialisés dans les conseils médicaux pullulent sur la boutique officielle d’OpenAI. Ces versions personnalisées de l’IA enfreignent ouvertement les clauses d’utilisation de la start-up, qui peine à garder le contrôle sur sa plateforme…
Début de l’année, OpenAI a mis en ligne sa boutique de GPT personnalisés. Surfant sur le succès monstre de ChatGPT, la firme américaine propose aux développeurs de mettre au point des versions personnalisées, et programmées pour des besoins précis, de son IA générative. Sur la boutique, on a vite pu converser avec des robots taillés pour l’écriture de code, apprentissage une langue ou la cuisine.
Malheureusement, la plateforme a aussi été inondée de GPT personnalisés qui enfreignent les règles fixées par OpenAI. Comme l’a constaté Gizmodo, on trouve une foule de ChatGPT violant les conditions d’utilisation de la start-up directement sur la plateforme. Sur la première page de la boutique, le média a pu dénicher « au moins trois GPT personnalisés qui semblaient violer les politiques du magasin ».
A lire aussi : On a testé Moshi, l’IA vocale française qui rêve de détrôner ChatGPT (c’est pas gagné)
Tricher sans se faire prendre avec l’IA
Suivant les recherches menées par nos confrères, nous avons pu confirmer la présence d’une IA conçue pour la triche, BypassGPT: Bypass AI Detection. Le chatbot se décrit comme un compagnon « furtif pour rester anonyme dans les environnements d’IA ». En clair, le bot peut retravailler un texte pour éviter qu’on se rende compte qu’il a été rédigé par une intelligence artificielle. C’est évidemment le chatbot idéal pour les étudiants qui se servent de l’IA pour leurs devoirs.
« Je suis conçu pour aider à reformuler du contenu généré par des IA afin qu’il semble plus naturel et humain. Je peux aussi transformer des textes pour passer des systèmes de détection d’IA. Si tu veux reformuler un texte ou le rendre plus humain, je peux t’aider !», nous raconte BypassGPT.
Pour en avoir le cœur net, nous avons demandé au chatbot s’il pouvait bien empêcher notre professeur de se rendre compte que nous avons écrit un devoir avec l’intelligence artificielle. Le ChatGPT personnalisé a répondu par l’affirmative, sans se retrancher derrière des considérations éthiques, comme c’est le cas de la version standard de ChatGPT :
« Oui, c’est exactement ça ! Si tu utilises un texte généré par une IA, je peux t’aider à le reformuler pour qu’il paraisse plus naturel et moins détectable comme étant fait par une IA. Il sera ainsi plus difficile pour ton professeur de savoir que tu as utilisé une IA ».
De son côté, ChatGPT rappelle que l’utilisation « de l’intelligence artificielle pour rédiger des devoirs peut poser des problèmes éthiques, surtout si cela va à l’encontre des règles de ton établissement scolaire ». C’est pourquoi « il est important de respecter les attentes de ton école et de ton enseignant en rédigeant toi-même tes devoirs ». BypassGPT a été utilisé plus de 50 000 fois.
Du porno généré par ChatGPT
Par ailleurs, la boutique renferme des générateurs d’images capables de produire des contenus pornographiques en s’appuyant sur Dall-E. C’est le cas de NSFW AI Art Generator, rapporte Gizmodo. Utilisé plus de 10 000 fois, le bot se vante de « générer du porno IA pour satisfaire vos sombres envies ».
Selon nos constatations, l’outil a été exclu de la plateforme. Gizmodo explique avoir prévenu OpenAI de la prolifération de chatbots offensants ou inappropriés sur sa boutique. Le média a partagé une liste de 100 ChatGPT qui enfreignent les politiques de la start-up. Une grande partie des robots épinglés ont été retirés de la plateforme.
« Nous avons pris des mesures contre ceux qui violent nos politiques. Nous utilisons une combinaison de systèmes automatisés, d’examens humains et de rapports d’utilisateurs pour trouver et évaluer les GPT qui violent potentiellement nos politiques. Nous offrons également des outils de report dans le produit permettant aux personnes de signaler les GPT qui enfreignent nos règles », explique Taya Christianson, parole d’OpenAI.
Néanmoins, nous avons trouvé des GPT personnalisés qui ne se cachent pas de proposer du contenu NSFW. La plupart des bots testés restent cantonnés aux limites posées par OpenAI, à l’exception de Dirty Mind Comedian. Le chatbot explique pouvoir imaginer « des blagues NSFW (un peu cochonnes mais drôles) ». Pour échapper à la censure, le bot prend « soin de remplacer certaines lettres des mots les plus “explosifs” par des astérisques ». Les blagues sont plus que graveleuses. Certaines tournent même en dérision des relations sexuelles non consenties.
Des conseils médicaux signés ChatGPT
En dépit du ménage opéré par OpenAI, la boutique permet encore et toujours de converser avec des ChatGPT qui donnent des conseils médicaux. C’est le cas de Doctor GPT. Cette version de l’IA est programmée pour fournir « une assistance personnelle en matière de santé et un diagnostic potentiel ». Après avoir pris connaissance de vos symptômes, le bot va tenter de vous diagnostiquer. Il émettra une série d’hypothèses, et donnera même des conseils précis.
Il ne recommande jamais à l’internaute de contacter son médecin, sauf s’il vous conseille de prendre un médicament. Comme la remarqué Gizmodo, le bot ne dispose pas des « clauses de non-responsabilité » d’usage. Plus prudent, ChatGPT souligne à plusieurs reprises qu’il est préférable de « consulter un professionnel de santé » si « les symptômes persistent ». Malgré ses efforts, OpenAI n’est visiblement pas parvenu à garder le contrôle sur sa boutique.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
Gizmodo