Même les modèles d’IA les plus intelligents sont sujets à des hallucinations. Puis-je vous rappeler l’affaire de la pizza à la colle ? Cependant, si vous essayez de provoquer des hallucinations dans les modèles de raisonnement avancés o1 d’OpenAI, vous risquez de perdre complètement l’accès au modèle.
Il y a deux semaines, OpenAI a dévoilé ses modèles o1, qui ont été entraînés à « penser avant de parler ». Par conséquent, ils sont capables de résoudre des problèmes complexes de mathématiques, de sciences et de codage en utilisant un raisonnement avancé.
Et des personnes ont naturellement entrepris de briser sa chaîne de raisonnement.
Un premier avertissement
Cependant, comme l’a remarqué Wired, les utilisateurs qui ont essayé de le faire ont reçu des avertissements dans l’interface du chatbot. Un avertissement qui mentionne que ces actions violaient les conditions d’utilisation et les politiques d’utilisation d’OpenAI. Les actions des utilisateurs comprenaient la mention de termes tels que « trace de raisonnement » ou « raisonnement ».
Un utilisateur a partagé l’e-mail de violation de la politique d’OpenAI ChatGPT via X. L’e-mail demandait à l’utilisateur de « mettre fin » à cette activité.
Bien que la capture d’écran de l’e-mail ne précise pas les conséquences, OpenAI décrit les conséquences de telles violations dans sa documentation sur les conditions d’utilisation.
Des réactions mitigées
Selon les conditions d’utilisation d’OpenAI, dont la dernière mise à jour date du 31 janvier 2024, la société se réserve le droit de « suspendre ou de mettre fin à votre accès à nos services ou de supprimer votre compte ».
Pourquoi ? si elle estime qu’un utilisateur a enfreint les conditions ou les politiques d’utilisation, qu’il est susceptible de causer un risque ou un préjudice à OpenAI et à d’autres utilisateurs, ou qu’il n’est pas en conformité avec la loi.
Les réactions cette politique d’OpenAI sont mitigées. Certains se plaignant que ces limitations empêchent de chercher des failles dans les produits d’OpenAI. D’autres se réjouissent de ces précautions.
Comment tester les modèles o1 d’OpenAI ?
- Si vous souhaitez essayer les modèles o1 par vous-même, vous pouvez créer un compte ChatGPT gratuit, vous connecter, activer les « modes alpha » dans le sélecteur de modèles et choisir o1-mini.
- Si vous souhaitez essayer o1-preview, vous devez vous abonner à un compte ChatGPT Plus pour 20 € par mois.