Les hackers du Chaos Computer Club (CCC) tirent la sonnette d’alarme. Mercredi 11 mai, la Commission européenne doit présenter un projet de règlement pour lutter contre la pédopornographie. Ce texte devrait généraliser et durcir des règles temporaires que le Parlement européen avait votées en juillet 2021 et qui permettaient aux fournisseurs de services de détecter et signaler des contenus à caractère pédopornographique, sur la base du volontariat.
Selon le CCC, ce nouveau projet irait beaucoup plus loin, car il prévoit, entre autres, l’analyse des textes et des images des messageries côté client. Cette technique, également appelée « client based scanning », s’appuierait sur l’intelligence artificielle pour détecter les contenus illicites.
Ceux-ci seraient ensuite transférés à une instance de contrôle ou directement à la police. Une telle backdoor fonctionnerait même avec les messageries chiffrées de bout en bout, telles que Signal ou WhatsApp, car le contenu est scanné avant qu’il ne soit chiffré et envoyé au destinataire.
A découvrir aussi en vidéo :
Apple, d’ailleurs, avait montré la voie en août 2021, en présentant une option d’analyse en local pour iMessage, capable de détecter des images pornographiques envoyées ou reçues par les utilisateurs mineurs. Cette technologie a d’abord été déployée aux États-Unis. Elle est maintenant en cours de déploiement dans le monde entier.
Pour les hackers du CCC, cette façon de faire est totalement exagérée. Certes, il faut combattre la pédopornographie, mais pas avec une méthode de surveillance de masse qui — selon eux — affaiblirait substantiellement la sécurité des messageries. Ils estiment par ailleurs que cette technique ne serait pas efficace pour le but recherché.
« Les criminels utilisent déjà des canaux de distribution qui ne seraient pas affectés par ces scans et leur échapperont facilement à l’avenir. Les auteurs utilisent des hébergeurs publics au lieu des messageries ciblées par la commission — notamment parce que les messageries sont totalement inadaptées à l’échange de grandes collections de fichiers. Ils chiffrent également les données avant l’échange », argumentent les hackers du CCC dans un communiqué.
Enfin, il y a le risque que cette technologie ne reste pas cantonnée à la pédopornographie, mais qu’elle soit élargie progressivement à d’autres domaines comme la lutte contre le terrorisme ou la criminalité organisée. Et plus le scan est large, plus le taux d’erreur sera important. Car l’intelligence artificielle, on le sait, est loin d’être parfaite.
Source : Chaos Computer Club