Stack Overflow, un site où les développeurs peuvent poser des questions sur le développement et la programmation, et y répondre, a temporairement interdit l’utilisation du texte généré par ChatGPT, un chatbot lancé par OpenAI la semaine dernière.
ChatGPT est basé sur le modèle de langage GPT-3 d’OpenAI. Les utilisateurs de ce nouveau service ont rapidement découvert que, même si le chatbot répond aux questions d’une manière « proche de l’humain », les réponses qu’il donne peuvent présenter des défauts.
Depuis son lancement, le chatbot a été sollicité de nombreuses façons, notamment pour écrire du nouveau code et corriger des erreurs de codage, et il peut demander plus de contexte lorsqu’un humain lui demande de résoudre des problèmes de codage, comme le montre OpenAI dans des exemples. Mais OpenAI note également que ChatGPT écrit parfois « des réponses à l’apparence plausible, mais incorrectes ou insensées ».
« Bien que les réponses produites par ChatGPT aient un taux élevé d’erreurs, elles ont généralement l’air d’être bonnes »
Cela semble être une cause essentielle de son impact sur Stack Overflow et ses utilisateurs qui cherchent des réponses correctes à des problèmes de codage. De plus, comme ChatGPT génère des réponses très rapidement, certains utilisateurs fournissent de nombreuses réponses générées par le programme sans les analyser pour vérifier leur exactitude.
« Le principal problème est que, bien que les réponses produites par ChatGPT aient un taux élevé d’erreurs, elles ont généralement l’air d’être bonnes et sont très faciles à produire », indiquent les modérateurs de Stack Overflow dans un message.
StackOverflow a imposé cette interdiction temporaire parce que les réponses créées par ChatGPT sont « substantiellement nuisibles », à la fois au site et aux utilisateurs qui recherchent des réponses correctes.
Le coût moyen de chaque réponse est de quelques centimes
« Dans l’ensemble, étant donné que le taux moyen d’obtention de réponses correctes par ChatGPT est trop faible, l’affichage de réponses créées par ChatGPT est substantiellement nuisible au site et aux utilisateurs qui demandent ou recherchent des réponses correctes. »
Sam Altman, chef d’OpenAI, a annoncé sur Twitter que depuis son lancement mercredi dernier, ChatGPT compte plus d’un million d’utilisateurs. Il a également indiqué à Elon Musk, propriétaire de Twitter, que le coût moyen de chaque réponse était de l’ordre de quelques centimes, mais a admis qu’il faudrait un jour monétiser l’application en raison de ses coûts de calcul « exorbitants ».
Stack Overflow ajoute que les réponses ChatGPT ont « submergé » son infrastructure de curation de qualité basée sur le volontariat, en raison du nombre de réponses de mauvaise qualité qui affluent.
« Nous avons besoin que le volume de ces messages diminue »
Jusqu’à présent, Stack Overflow a détecté des messages générés par ChatGPT par « milliers ». L’autre problème est que de nombreuses réponses nécessitent une analyse détaillée par une personne expérimentée dans le domaine pour déterminer si la réponse est mauvaise.
En vertu de cette nouvelle politique, si un utilisateur humain est pris à poster des réponses générées par ChatGPT, Stack Overflow imposera des « sanctions » à l’utilisateur, même si le message est acceptable.
« En tant que tel, nous avons besoin que le volume de ces messages diminue et nous devons être en mesure de traiter ceux qui sont postés rapidement, ce qui signifie traiter les utilisateurs, plutôt que les messages individuels », explique Stack Overflow. « Donc, pour l’instant, l’utilisation de ChatGPT pour créer des messages ici sur Stack Overflow n’est pas autorisée. Si un utilisateur est soupçonné d’avoir utilisé ChatGPT après la publication de cette politique temporaire, des sanctions seront imposées pour empêcher les utilisateurs de continuer à publier ce type de contenu, même dans où les messages auraient été acceptables autrement. »
Source : ZDNet.com