Il n’y a pas que Grok qui dénude les femmes sans leur consentement. Il existe des dizaines d’applications distribuées par les boutiques d’Apple et de Google qui proposent ce type de « service », en contradiction totale avec les politiques d’Apple et de Google.
Pour défendre le modèle fermé de leurs boutiques d’applications, Apple et Google rappellent régulièrement qu’ils sont les garants de la bonne tenue, de la sécurité et de la qualité des contenus des échoppes. De nombreux exemples montrent toutefois que la réalité est quelque peu différente de l’image proprette donnée par les contrôleurs d’accès. Le groupe de recherche indépendant Tech Transparency Project (TTP) a publié un rapport dévastateur sur la présence d’apps servant à dénuder numériquement des personnes sur l’App Store et le Play Store, en complète infraction avec les règles des deux boutiques.
Boutiques sans contrôle
Le rapport a ainsi dénombré 55 applications de ce genre sur le Google Play Store, et 47 sur l’App Store. Après avoir été contacté par TTP la semaine dernière, Apple affirme avoir retiré 28 apps ; le constructeur a aussi prévenu des développeurs que leurs applications risquaient de tomber sous le couperet des fameuses « guidelines ». Deux applications ont été restaurées suite aux changements apportées par leurs développeurs.
Google a également procédé au ménage dans sa boutique, sans donner de chiffre. « Les deux entreprises affirment être attachées à la sécurité et à la protection des utilisateurs, mais elles hébergent des applications capables de transformer une photo anodine d’une femme en une image abusive et sexualisée», déplore Tech Transparency Project auprès de CNBC.
L’organisation explique avoir repéré ces apps en les recherchant via des termes comme « undress » (« déshabiller ») ou « nudify » (« dénuder »), puis les avoir testées avec des images de femmes entièrement habillées, générées par IA. Deux catégories d’apps ont été examinées : celles qui utilisent l’IA pour déshabiller numériquement les personnes, et celles de « face swap » qui collent le visage de femmes sur des corps nus. Pour TTP, il est très clair que ces applications ont été conçues pour créer des images sexualisées de personnes.
Cette complaisance d’Apple et de Google envers ce type d’apps est difficile à comprendre au vu de leurs discours public. Mais on rappellera qu’aucune des deux entreprises n’a levé le petit doigt au plus fort du scandale de la génération d’images dénudées de femmes et d’enfants dans les apps X (anciennement Twitter) et Grok. Depuis, les plateformes d’Elon Musk ont un peu serré les boulons sur pression des régulateurs partout dans le monde — la Commission européenne a d’ailleurs lancé une enquête cette semaine.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Par : Opera
Source :
CNBC