TikTok a été le premier réseau social à étiqueter le contenu généré par l’IA ou potentiellement dangereux. Mais toutes les versions de l’application n’offrent pas ces informations utiles. Selon deux organisations à but non lucratif dédiées à la sécurité en ligne, TikTok Lite pose un problème de sécurité majeur.
Dans une étude publiée cette semaine, Mozilla et AI Forensics détaillent comment TikTok Lite, la version à faible bande passante de l’application destinée aux régions du monde où la connectivité Internet est limitée, présente des « divergences » en matière de fonctionnalités de sécurité, dont plusieurs contredisent les propres politiques de TikTok.
Deux dangers potentiels
- Les utilisateurs de TikTok Lite n’ont pas le contrôle sur des fonctionnalités basiques, notamment la possibilité de filtrer les contenus offensants et les mots-clés indésirables ; ou encore d’outils de gestion du temps d’écran permettant d’atténuer l’addiction aux applications.
- TikTok Lite ne fournit aucune étiquette ou bannière d’avertissement sur une série de contenus potentiellement dangereux, allant de vidéos de blagues dangereuses et de contenus explicites à de la désinformation liée à la santé et aux élections, en passant par des contenus générés par IA.
TikTok Lite a dépassé le milliard de téléchargements
TikTok Lite, qui n’est pas disponible aux États-Unis ni dans la plupart des pays européens, a été lancée plus tôt cette année en France et en Espagne. L’application, qui utilise moins de batterie, de stockage et de données, compte déjà plus d’un milliard de téléchargements.
Elle a immédiatement attiré l’attention des régulateurs en raison d’un programme qui récompensait les utilisateurs en échange de leur engagement, créant ainsi une atmosphère addictive. TikTok a rapidement mis fin à ce programme de récompenses, mais l’application fait toujours l’objet d’un examen minutieux.
Un choix délibéré
Selon Claudio Agosti, cofondateur d’AI Forensics, TikTok a fait ce choix délibérément. « Les dispositifs de sécurité dont TikTok Lite est dépourvu ne sont pas complexes et sont parfaitement compatibles avec une application à faible bande passante. La décision de TikTok d’ignorer ces mesures de sécurité est clairement un choix, et non une nécessité technique.», écrit-il dans l’étude.
Etant donné que TikTok Lite ne signale pas le contenu, explique l’étude, il est plus facile pour les contenus qui vont à l’encontre de la politique de l’application, comme les vidéos explicites, graphiques ou dangereuses, d’atteindre les spectateurs.
Mozilla et AI Forensics demandent à ByteDance d’apporter trois modifications à TikTok Lite
Ajoutez des étiquettes de contenu et des bannières
L’étude indique qu’il n’y a aucune justification ni aucune raison technique pour laquelle TikTok Lite ne protège pas contre la désinformation, les comportements dangereux, le contenu généré par l’IA et le contenu graphique.
Améliorer les contrôles utilisateur
Les deux organisations demandent que les utilisateurs de TikTok Lite disposent des mêmes contrôles que les utilisateurs de l’application classique, principalement pour le suivi du temps d’écran.
Promouvoir ces garde-fous
Etant donné que les utilisateurs ont passé beaucoup de temps dans l’environnement TikTok Lite actuel, le simple ajout de fonctionnalités ne suffit pas. ByteDance doit lancer des campagnes au sein de l’application pour informer les utilisateurs de ces changements.
« Les déficiences de TikTok Lite s’inscrivent dans une tendance plus large de l’industrie technologique à négliger les utilisateurs de la majorité mondiale, où le potentiel de réglementation et d’application d’une telle réglementation est nettement moindre », conclut l’étude.