Alors que la Commission européenne a officiellement demandé à Amazon, dans le cadre du règlement européen sur les services numériques (DSA), de fournir davantage d’informations sur les moyens mis en place pour protéger ses utilisateurs, des chercheurs de l’organisation à but non lucratif AI Forensics et l’entreprise Check First se sont penchés sur l’algorithme de recommandation de l’espace librairie de la plate-forme américaine.
Dans un rapport publié lundi 11 décembre, les deux entités mettent en lumière le fait que le système de recommandation et de recherche d’Amazon « non seulement fait la promotion de livres trompeurs sur la santé, l’immigration, le changement climatique et les questions de genre, mais piège également les utilisateurs dans de tels récits ». Les auteurs et autrices craignent qu’ « avec 181 millions d’utilisateurs d’Amazon dans la seule Union européenne, ces risques [puissent] avoir des impacts disproportionnés ».
Les enquêteurs – qui se sont concentrés sur les déclinaisons françaises et belges de la librairie Amazon – ont pris pour point de départ une liste de 2 000 best-sellers abordant des thèmes de société très débattus, tels que la santé, l’écologie ou l’immigration. Pendant plusieurs semaines en octobre et novembre 2023, et en utilisant des profils à l’historique vierge afin d’analyser la façon dont l’algorithme se comportait par défaut, ils ont ensuite regardé vers quels autres livres Amazon dirigeait les internautes à partir de la fiche produit, à l’instar de la rubrique « Produits fréquemment achetés ensemble ». Au total, ce sont plus de 60 000 recommandations de livres qui ont ainsi été analysées.
Le livre, source légitime d’information
Les chercheurs constatent que « pour 71,7 % des résultats de recherche d’Amazon France avec le terme “Covid”, les requêtes de recherche associées contenaient des livres d’auteurs connus pour diffuser de la désinformation ». Sur le même sujet, « 80 % des livres du top 10 remettent en question l’existence de la pandémie, en minimisant ses effets sur la santé ou en la présentant comme un complot. La proportion est encore plus alarmante sur le [mot-clé] “vaccin” puisque 90 % des résultats proposent des récits anti-vaccination » , détaille le rapport. Au sujet de l’immigration, cette fois, les chercheurs ont comptabilisé que 30 % du top 10 des ouvrages sur ce thème « propagent des points de vue négatifs sur l’immigration ».
Jointe par Le Monde, l’équipe d’AI Forensics estime ces résultats sont d’autant plus inquiétant que « les livres représentent dans l’opinion publique une source d’information légitime » dont les contenus auraient supposément plus de crédit qu’une publication sur un réseau social. Par ailleurs, selon Buse Çetin d’AI Forensics, ces résultats auraient été sans nul doute « jugés inacceptables s’ils avaient été conclus à propos d’autres plate-formes ».
Une modération défaillante
Pour le directeur d’AI Forensics, Marc Faddoul, comme pour le chercheur Paul Bouchaud qui a travaillé sur l’enquête, il ne fait pas de doute qu’Amazon est bien plus qu’une simple et neutre Marketplace. « Les algorithmes d’Amazon façonnent non seulement les ventes mais aussi le discours public, notamment par les recommandations de livres. Nos résultats mettent en évidence l’incapacité d’Amazon à mettre en place des mécanismes de base pour atténuer les risques systémiques, montrant ainsi les limites de l’autorégulation par l’IA », argumente M. Faddoul. Pour les auteurs et autrices du rapport, les résultats de leur enquête montrent qu’Amazon n’est pas dans les clous du DSA : « En vertu de l’article 34 du DSA, les plate-formes comme Amazon sont tenues d’identifier, d’analyser, et évaluer les risques systémiques, en tenant compte de facteurs tels que les systèmes algorithmiques et la modération du contenu », précisent-ils.
Pis, Amazon contreviendrait selon eux à ses propres termes et conditions. Pointant une modération défaillante, les enquêteurs ont constaté que des ouvrages aux « contenus sexuellement explicites » (notamment des mangas hentai, à caractère pornographique) pouvaient figurer dans les catégories de livres adolescents ou dans des catégories généralistes et grand public comme « famille et bien être ».
Contactée par Le Monde l’entreprise américaine se veut rassurante : « Nos investigations sont en cours et nous continuerons de prendre les mesures appropriées contre les produits qui ne sont pas conformes à nos politiques. » Amazon précise qu’elle « partage avec la Commission européenne l’ambition de créer un environnement numérique sûr » et qu’elle « investit de façon significative afin de protéger [sa] boutique des acteurs malintentionnés et des contenus illégaux, et afin de créer une expérience d’achat fiable ». L’entreprise soutient par ailleurs que ses outils d’achat et de découverte ne sont pas conçus pour générer des résultats orientés vers un point de vue spécifique.