ChatGPT prédit désormais l’âge des utilisateurs pour identifier les mineurs

ChatGPT prédit désormais l'âge des utilisateurs pour identifier les mineurs



ChatGPT se met désormais à prédire l’âge de ses utilisateurs. Pour identifier les adolescents, OpenAI utilise un algorithme qui s’attarde sur les signaux comportementaux laissés par les usagers. En cas d’erreur, la start-up réclame un selfie pour lever les restrictions.

OpenAI vient d’ajouter un système de prédiction de l’âge à ChatGPT. Déjà évoqué l’année dernière, le dispositif s’inscrit dans le cadre du contrôle parental qui doit mieux protéger les adolescents qui utilisent l’IA générative. Comme l’explique la start-up américaine dans un billet de blog, le système doit permettre d’identifier les mineurs. Une fois les adolescents repérés, OpenAI s’engage à mettre en place les restrictions adéquates au sein de leurs conversations avec ChatGPT. Par exemple, des filtres viendront bloquer les discussions à caractère sexuel ou violent, les défis « susceptibles d’encourager des comportements risqués », les « jeux de rôle sexuels, romantiques ou violents », l’automutilation, ou encore la « promotion de normes de beauté extrêmes, de régimes alimentaires malsains ou de la grossophobie ».

A lire aussi : OpenAI lance « Traduire avec ChatGPT » pour ringardiser Google Traduction

Comment ChatGPT va repérer les utilisateurs de moins de 18 ans ?

Dans son communiqué, OpenAI explique s’appuyer sur un algorithme d’IA pour débusquer les adolescents qui conversent avec ChatGPT. L’algorithme va passer au crible les comptes à la recherche de « signaux comportementaux ». Parmi les signaux épinglés par OpenAI, on trouve l’âge indiqué par l’utilisateur, la durée d’existence du compte et ses plages horaires d’utilisation habituelles.

Si un utilisateur est classé à tort comme mineur, il peut faire rebasculer son compte en mode « adulte » en fournissant un selfie à Persona, le prestataire chargé de la vérification d’identité pour OpenAI. Celui-ci se sert de la reconnaissance faciale pour corriger les erreurs de classification de l’algorithme. Les adultes qui se trouvent par erreur dans la section « Adolescents » peuvent confirmer leur âge en se rendant dans Paramètres puis dans Compte. C’est également là qu’il faut se rendre pour vérifier si « des mesures de protection ont été ajoutées » à votre compte par erreur.

A lire aussi : ChatGPT devient votre assistant shopping, pile à temps pour le Black Friday

Pourquoi OpenAI ajoute la prédiction de l’âge à ChatGPT ?

Le dispositif répond à l’implication de ChatGPT dans plusieurs suicides d’adolescents. Ces derniers mois, la start-up a même fait l’objet d’une série de plaintes aux États-Unis. Celles-ci accusent le chatbot d’avoir entraîné, voire aggravé, les troubles mentaux de trois jeunes Américains. Pour les parents endeuillés, ChatGPT a joué un rôle clé dans le suicide de leur enfant. Face aux accusations, OpenAI s’est penché sur la santé mentale de ses utilisateurs. Il s’est avéré qu’un million d’internautes évoquent des pensées suicidaires avec l’IA, avec des propos relatifs au passage à l’acte. De facto, la société a élaboré une grille d’analyse qui lui permet de repérer, dans les échanges, des signes de psychose, de manie ou d’autres troubles graves.

Le système de prédiction ne vise pas uniquement à affiner les restrictions liées à l’âge. En déployant le dispositif, OpenAI cherche également à préparer l’arrivée d’un mode adulte, qui autorisera les contenus érotiques. Pour avoir des conversations grivoises avec l’IA, vous devrez impérativement prouver que vous êtes majeur en téléchargeant un selfie. La démarche devrait vous offrir à l’accès à une version de ChatGPT un peu plus débridée. Cela « nous permet également de traiter les adultes comme des adultes et de leur permettre d’utiliser nos outils comme ils le souhaitent, dans le respect des règles de sécurité », explique d’ailleurs OpenAI dans un billet de blog.

Le système de prédiction de l’âge est actuellement en cours de déploiement dans le monde entier, indique OpenAI. Comme toujours, l’Europe devra attendre un peu plus longtemps que les autres continents. Dans l’Union européenne, la fonction sera déployée dans les « prochaines semaines ». Sans surprise, OpenAI explique devoir se plier aux « exigences régionales », ce qui retarde systématiquement l’arrivée d’une nouveauté.

👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.





Source link

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.