Les lgislateurs de lUnion europenne ont approuv mercredi un projet de rglement qui obligerait les grandes entreprises technologiques dtecter et signaler les contenus lis la pornographie infantile sur leurs plateformes, affirmant que le chiffrement de bout en bout ne serait pas affect. Le projet de rglement vise harmoniser les normes de protection des enfants en ligne dans les 27 tats membres de lUE et renforcer la coopration entre les autorits nationales et les fournisseurs de services de communication.
Une proposition de la Commission europenne pourrait obliger les entreprises technologiques analyser les messages privs la recherche de matriel d’abus sexuel d’enfants (CSAM pour Child Sexual Abuse Material) et de preuves de pdopigeage, mme lorsque ces messages sont censs tre protgs par un chiffrement de bout en bout.
Propos par la Commission europenne l’anne dernire, le CSAM est une graine de discorde entre les partisans des mesures de scurit en ligne et les militants de la vie prive qui s’inquite des mesures de surveillance qui pourraient en dcouler. L’excutif de l’Union europenne a prsent la proposition CSAM aprs que le systme actuel de dtection et de signalement volontaire par les entreprises se soit rvl insuffisant pour protger les enfants.
D’aprs le projet de rgulation, les messageries devraient, d’ici l’an prochain, mettre en place des outils pour dtecter l’change d’images pdopornographiques. Il est question de se servir d’outils bass sur l’intelligence artificielle pour analyser ces contenus, dans le but de dtecter une image suspecte ou une conversation problmatique. En cas de suspicion, une alerte serait envoye une agence europenne ddie, des fins d’analyses complmentaires.
La Commission affirme que cette mesure est ncessaire pour protger les enfants des prdateurs sexuels et pour aider les autorits poursuivre les criminels. Cependant, de nombreux experts, activistes et organisations de dfense des droits de lhomme sopposent cette proposition, estimant quelle constitue une atteinte disproportionne la vie prive et la scurit des communications en ligne
La pilule a du mal passer
Lors d’un sminaire public organis ce 23 octobre, de nombreux experts ont toutefois point du doigt l’impossibilit de recourir de telles analyses sans mettre mal la vie prive des internautes europens.
Helen Charles, reprsentante des affaires publiques de Whatsapp, a exprim ses inquitudes concernant l’implmentation d’une telle solution l’occasion de ce sminaire : Nous pensons que toute demande d’analyse des contenus dans une messagerie chiffre pourrait nuire aux droits fondamentaux a-t-elle indiqu, tout en plaidant pour l’utilisation d’autres techniques, comme le signalement d’utilisateurs mais aussi le suivi du trafic des internautes pour dtecter des comportements suspects.
Le mme jour, le Contrleur europen de la protection des donnes (CEPD), une institution indpendante de lUnion europenne, a rendu son avis sur le CSAM :
Il est techniquement impossible de mettre en uvre une analyse de contenu connu ou nouveau et une dtection de toilettage par un fournisseur de services sans affaiblir le chiffrement de bout en bout et porter atteinte la vie prive des utilisateurs. Cest la conclusion sans quivoque de centaines dminents scientifiques et chercheurs dans le domaine. En outre, de nombreux experts saccordent sur le fait que les solutions technologiques de dtection les plus rcentes ne sont pas suffisamment fiables et sont galement vulnrables aux cyberattaques.
La proposition CSAM noffre pas non plus de solutions sur la manire dattnuer le risque mergent du CSAM synthtique , cest–dire des images, des vidos et du texte/voix gnrs par ordinateur, y compris laide dapplications dIA gnrative accessibles au public.
Il faut galement rappeler que les entreprises technologiques se sont farouchement opposes un affaiblissement du chiffrement.
En dcembre, Apple a abandonn ses projets de construire une technologie de scan ct client pour iCloud, affirmant plus tard quil ne pouvait pas faire fonctionner le systme sans porter atteinte la vie prive de ses utilisateurs. Les opposants au projet de loi affirment que linstallation de portes drobes dans les appareils des gens pour rechercher des images CSAM ouvrirait presque certainement la voie une surveillance plus large de la part des gouvernements. Vous rendez la surveillance de masse presque invitable en mettant [ces outils] entre leurs mains , estime Alan Woodward, professeur en cyberscurit lUniversit de Surrey. Il y aura toujours des circonstances exceptionnelles auxquelles [les forces de scurit] penseront et qui justifieront quelles recherchent autre chose.
Bruxelles se rtracte : le chiffrement de bout en bout ne sera pas affect
Les lgislateurs europens ont convenu mercredi d’un projet de rgles exigeant que Google, Meta et d’autres services en ligne d’Alphabet identifient et suppriment la pdopornographie en ligne, affirmant que le chiffrement de bout en bout ne serait pas affect.
Ordres de dtection
Afin dviter une surveillance de masse ou un contrle gnralis de linternet, le projet de loi permettra aux autorits judiciaires dautoriser, en dernier ressort, des ordonnances limites dans le temps de dtection et de surveillance des contenus caractre pdopornographique et deffacement ou dinterdiction daccs ces contenus, lorsque les mesures restrictives ne sont pas efficaces pour lliminer.
En outre, les dputs soulignent la ncessit de cibler les ordres de dtection sur des individus ou des groupes (y compris les abonns une chane) lis des abus sexuels commis sur des enfants, en sappuyant des motifs raisonnables de suspicion .
Dans le texte adopt, les dputs ont exclu du champ dapplication des ordres de dtection le chiffrement de bout en bout, afin de garantir que les communications de tous les utilisateurs sont scurises et confidentielles. Les fournisseurs seront en mesure de choisir les technologies utiliser tant quelles respectent les garanties strictes prvues par la loi et sous rserve dun audit public indpendant de ces technologies.
Centre europen pour la protection de lenfance
La loi crera un centre europen pour la protection de lenfance afin de contribuer la mise en uvre des nouvelles rgles et daider les fournisseurs dinternet dtecter les contenus caractre pdopornographique. Il collectera, classera et distribuera les rapports lis ces contenus aux autorits nationales comptentes et Europol. Le Centre mettra au point des technologies de dtection pour les fournisseurs et tiendra jour une base de donnes sur les hachages et autres indicateurs techniques des contenus caractre pdopornographiques identifis par les autorits nationales.
Le Centre aidera galement les autorits nationales appliquer le nouveau rglement sur les abus sexuels commis sur des enfants, mener des enqutes et prlever des amendes allant jusqu 6 % du chiffre daffaires mondial en cas de non-respect.
Enfin, les dputs proposent de crer un nouveau forum consultatif sur les droits des victimes afin de veiller ce que les voix des victimes soient prises en compte.
Quelques exemples d’amendements relatifs au chiffrement de bout en bout
(9a) Le chiffrement, et notamment de bout en bout, est un outil de plus en plus important pour garantir la scurit et la confidentialit des communications de tous les utilisateurs, y compris les enfants. Toute restriction ou atteinte au chiffrement de bout en bout peut tre utilise et abuse par des tiers malveillants. Aucune disposition du prsent rglement ne doit donc tre interprte comme interdisant, affaiblissant ou compromettant le chiffrement de bout en bout. Les fournisseurs de services de la socit de l’information ne devraient en aucun cas tre empchs de fournir leurs services en utilisant les normes de chiffrement les plus leves, tant donn que ce chiffrement est essentiel la confiance et la scurit des services numriques.
Ou encore :
[…]Par consquent, le prsent rglement laisse au fournisseur concern le choix des technologies utiliser pour se conformer efficacement aux ordres de dtection et ne doit pas tre compris comme incitant ou dissuadant l’utilisation d’une technologie donne, condition que les technologies et les mesures d’accompagnement rpondent aux exigences de prsent rglement. Cela inclut l’utilisation de la technologie de chiffrement de bout en bout, qui constitue un outil important pour garantir la scurit et la confidentialit des communications des utilisateurs, y compris celles des enfants.
[…]Lors de l’excution de l’ordre de dtection, les prestataires devraient prendre toutes les mesures de sauvegarde disponibles pour garantir que les technologies qu’ils emploient ne peuvent pas tre utilises par eux ou leurs employs des fins autres que le respect du prsent rglement, ni par des tiers, et ainsi viter de porter atteinte la scurit et la confidentialit des communications des utilisateurs, tout en garantissant la dtection efficace des matriels pdopornographiques et l’quilibre de tous les droits fondamentaux en jeu. cet gard, les prestataires devraient garantir des procdures et des garanties internes efficaces pour empcher une surveillance gnrale. Les ordres de dtection ne doivent pas sappliquer au chiffrement de bout en bout.
[ndlr. emphase mise sur le document]
⚠️Les prdateurs se cachent derrire les crans et les enfants souffrent en silence
⏳Il est temps de mettre fin aux abus sexuels sur les enfants
🇫🇷 La majorit des citoyens est favorable ce que propose lUE #EUvsChildSexualAbuse
Et vous? Pour en savoir plus, cliquez ici↓
— EU Home Affairs (@EUHomeAffairs) September 15, 2023
Une position acclame par les dfenseurs des droits numriques
Les lgislateurs europens doivent rgler les derniers dtails avec les tats membres avant que le projet puisse devenir une lgislation dans le cadre d’un processus qui pourrait tre finalis l’anne prochaine.
La dcision des lgislateurs dexempter le chiffrement de bout en bout du projet de rgles a suscit les loges des dfenseurs de la vie prive.
La position du Parlement europen supprime le contrle aveugle des discussions et permet uniquement une surveillance cible d’individus et de groupes spcifiques raisonnablement suspects d’tre lis du matriel pdopornographique avec un mandat judiciaire , a dclar la Jeunesse librale europenne (LYMEC).
Sources : communiqu de presse du Parlement europen, amendements
Et vous ?
Quelle lecture faites-vous des propositions de Bruxelles ?