Comment la CAF décide-t-elle de contrôler un allocataire plutôt qu’un autre? Depuis 2010, la Caisse des Allocations Familiales a recours à un algorithme de notation qui lui permet d’attribuer une note en s’appuyant sur les données personnelles collectées par la CAF. Mais depuis plusieurs années, des associations dénoncent un outil conduisant les allocataires les plus précaires à être victimes de contrôles. Une quinzaine d’entre elles ont donc annoncé mercredi avoir déposé un recours devant le conseil d’État visant à faire abroger l’usage de cet algorithme.
Un algorithme soupçonné de discriminer
« Notre recours devant le Conseil d’État porte tant sur l’étendue de la surveillance à l’œuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisé·es dans leurs parcours de vie » écrit la Quadrature du Net dans son communiqué annonçant le recours. Au total, une quinzaine d’organisations se sont associées à la procédure, parmi lesquelles on retrouve Amnesty International, la Fondation Abbé Pierre, la Ligue des Droits de l’Homme, l’association nationale des assistants de service social ou encore le Groupe d’information et de soutien des immigré·e·s.
L’algorithme de notation de la CAF a fait l’objet de plusieurs critiques de la part des associations et dans des médias en fin d’année 2023. Dans une enquête publiée par Le Monde, des allocataires soulignaient le manque de transparence de la CAF qui ne détaille que rarement les calculs et les raisons qui poussent ses services à contrôler certains allocataires pour leur réclamer des trop perçus.
Le journal détaille aussi le fonctionnement de l’algorithme, qui attribue un score pouvant aller de 0 à 10 à un ménage en s’appuyant sur des facteurs jugés arbitraires par les associations : le fait d’avoir des revenus inférieurs à un certain seuil, d’avoir un enfant de plus de 12 ans au foyer ou d’être récemment veuf ou divorcé fait ainsi parti des critères augmentant le score de risque et donc la probabilité de subir un contrôle.
Craintes sur le respect du RGPD
Outre le volet sur la discrimination des allocataires les plus précaires, la plainte déposée par les associations interroge également sur le respect du RGPD par cet outil : les plaignants estiment ainsi que le volume de données traitées par l’algorithme, qui traite les données personnelles de 32 millions de personnes, serait disproportionné par rapport à l’objectif visé. Et ils se demandent également si l’utilisation de cet outil ne va pas à l’encontre de l’article 22 du règlement, qui interdit la prise de décision automatisée par un algorithme sans intervention humaine.
La CAF s’était défendu de son usage de l’outil, rappelant que celui-ci était uniquement utilisé pour identifier des profils susceptibles de faire des erreurs, mais que la décision finale revenait systématiquement à un contrôleur qui se charge d’étudier manuellement le dossier avant de décider ou non d’infliger une pénalité.