Bumble a introduit la semaine dernière une option permettant de signaler les profils dont les photos sont suspectées d’être générées par l’IA, mentionne Techcrunch. Les utilisateurs peuvent signaler les profils suspects en cliquant sur l’option « Use AI-generated photos or videos » (utiliser des photos ou des vidéos générées par l’IA) dans le menu « Fake Profile » (faux profil).
Les profils générés par l’IA sont une source de confusion pour les utilisateurs des applications de rencontres. Ils peuvent être utilisés pour des escroqueries ou pour créer des divergences entre les profils et les personnes réelles.
En février, Bumble a interrogé ses utilisateurs sur les problèmes rencontrés avec les applications de rencontre en ligne. Constat : 46 % des utilisatrices déclaraient ne pas faire confiance aux profils de leurs correspondants.
Deception Director, un outil d’IA qui détecte et supprime les faux profils
« La suppression des éléments trompeurs ou dangereux est essentielle pour construire un espace où des rencontres significatives se produisent », a déclaré Lisa Stein, vice-présidente des produits de Bumble, dans un communiqué.
« Cette nouvelle option de signalement nous aidera à mieux comprendre comment les faux profils abusent de notre IA. Et nous nous engageons à améliorer notre technologie pour que Bumble soit une expérience de rencontre sûre et fiable. »
En février, Bumble a lancé Deception Director, un outil d’IA qui détecte et supprime les faux profils, les spammeurs, les escrocs, etc. Bumble affirme avoir constaté une diminution de 45 % des rapports de spam, d’escroquerie et de faux profils depuis le lancement de Deception Director.
Source : « ZDNet Korea »