Un recours a été déposé mardi 16 octobre devant le Conseil d’Etat par 15 associations : il vise à faire cesser l’utilisation d’un algorithme de notation de la CAF, la Caisse d’allocations familiales. Dans cette affaire, la Cour de justice de l’UE pourrait être saisie : de quoi porter un coup décisif à cet outil automatisé – et aux autres utilisés dans d’autres administrations – espèrent les associations, qui jugent ces derniers discriminatoires et plus que problématiques.
Les algorithmes de notation des administrations, présentés comme des moyens de détecter des fraudes, appartiendront-ils bientôt au passé ? C’est ce qu’espèrent ces quinze associations, qui, mardi 15 octobre, ont entamé une action en justice contre la Caisse nationale des allocations familiales (CNAF), devant le Conseil d’État. Dans leur viseur : l’algorithme de notation de la CNAF, mais pas seulement. La Quadrature du Net, Amnesty International France, la Ligue des droits de l’Homme, le Syndicat des avocats de France et onze autres ONG ont attaqué devant la plus haute juridiction administrative l’outil qui permet à la CNAF de décider quel allocataire contrôler, dans le cadre de sa lutte contre la fraude sociale.
En juillet dernier, ces associations avaient demandé à la Caisse de cesser toute utilisation de cet algorithme qui reviendrait, selon elles, à sur-contrôler les plus précaires, expliquent-elles dans leur mémoire. Après deux mois de silence de la CNAF, qui équivaudrait à une fin de non-recevoir, ces dernières ont décidé d’agir en justice. Avec ce recours, les associations espèrent que cet algorithme sera définitivement mis au placard… comme tous les autres, utilisés par d’autres administrations dans l’Hexagone.
Le sujet est loin d’être nouveau. En novembre dernier, la Quadrature du Net avait eu accès à deux versions antérieures du code source de la Caisse. L’association estimait que l’outil ciblait les plus précaires, comme nous vous l’expliquions dans cet article. Tout était parti d’une enquête de décembre 2022 de la cellule Investigation de Radio France-Franceinfo, qui révélait que la CNAF notait bien ses allocataires en fonction du risque de fraude.
Plus l’allocataire est précaire, et plus il est susceptible d’être contrôlé
Un contexte que rappellent les 15 ONG, dans leur communiqué du mercredi 16 octobre. L’algorithme « attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Plus il est élevé, plus la probabilité d’être contrôlé est grande. Chaque mois, l’algorithme analyse les données personnelles de plus de 32 millions de personnes vivant dans un foyer recevant une prestation CAF et calcule plus de 13 millions de scores ».
La Quadrature du Net, en publiant deux précédents algorithmes de la CAF, avait montré que plus leurs variables entraînaient potentiellement un risque de basculer dans la précarité (comme une perte d’emploi, un changement de situation), plus l’allocataire avait une note proche du 1, et plus il était susceptible d’être contrôlé, nous expliquait l’association de défense des droits numériques.
Pour la CNAF, l’outil ne vise qu’à identifier les allocataires les plus susceptibles de commettre des erreurs
En retour, le directeur général de la Caisse, Nicolas Grivel, avait précisé, dans une interview donnée à l’AFP, que l’algorithme avait surtout pour objectif d’identifier les allocataires les plus susceptibles de commettre des erreurs dans leur déclaration. Il ne serait pas discriminatoire, et ne ciblerait pas forcément les personnes les plus pauvres, mais celles dont les revenus varient, expliquait-il. Ce mercredi, le même directeur a fait une déclaration similaire, toujours auprès de nos confrères. L’outil vise à identifier les allocataires les plus susceptibles de commettre des erreurs dans leur déclaration, il cible « les indus importants et répétés », a-t-il déclaré.
Pour les ONG, l’action en justice cible autant « l’étendue de la surveillance » que « la discrimination opérée par cet algorithme envers des allocataires déjà fragilisés dans leurs parcours de vie ». « En assimilant précarité et soupçon de fraude, cet algorithme participe d’une politique de stigmatisation et de maltraitance institutionnelle des plus défavorisés », poursuivent les associations.
Un arrêt de la Cour de justice de l’UE pourrait changer la donne
Ce recours a lieu dix mois après un arrêt de la Cour de justice de l’Union européenne (CJUE) qui pourrait changer la donne. Le 7 décembre dernier, les juges européens ont estimé que tout type de notation automatisée était interdit, s’il avait un impact significatif sur la vie des personnes, en vertu du RGPD, le règlement européen sur les données personnelles. En d’autres termes, toute prise de décision qui utilise des systèmes de notation au moyen de données personnelles est illégale.
De quoi, peut-être, remettre en question le système de la CNAF, et d’autres systèmes de scoring des administrations françaises qui impliquent, expliquait la Quadrature du Net, des « contrôles à répétition sur les personnes les plus précaires, des suspensions automatiques, des récupérations d’indus sur des personnes qui sont déjà dans des situations très difficiles » ? Les associations demandent à la plus haute juridiction administrative française de saisir la CJUE pour demander son avis (via un renvoi préjudiciel) ou de prononcer l’illégalité de l’algorithme. De son côté, Nicolas Grivel à la tête de la CNAF l’assure, toujours chez nos confrères de l’AFP : « Si une juridiction devait prendre position pour (…) faire évoluer le dispositif, (la CNAF se mettra) en conformité ».
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.