22/11
Algorithme de la CAF : “un système de surveillance de masse particulièrement pernicieux” d’après la Quadrature du Net
La Quadrature du Net évoque sur son site l’existence de codes sources de deux anciennes versions d’un algorithme utilisé par la CAF ciblant les allocataires à risque.
Depuis plus d’un an, la Quadrature du Net avec les collectifs Stop Contrôles et Changer de Cap se mobilisent pour obtenir les codes sources d’un algorithme déterminant quel bénéficiaire de minima sociaux sera contrôlé. Selon la Quadrature du Net, la divulgation de ces codes source utilisés entre 2010 et 2018 “vient donner la preuve définitive du caractère discriminant des critères retenus.” La CAF a refusé de transmettre la version actuelle de son algorithme.
L’algorithme utilisé par la CAF se base sur des centaines de données que la CAF détient sur chaque allocataire et assigne un “score de suspicion” à chacun. Compris entre 0 et 1 ce score est mis à jour chaque premier du mois. Plus le score s’approche de 1, plus l’algorithme juge qu’un-e allocataire est suspect-e. Le score de suspicion varie en fonction de plusieurs critères :
- Le fait de disposer de revenus faibles,
- Le fait d’être au chômage,
- Le fait d’être allocataire du RSA,
- Le fait d’habiter dans un quartier « défavorisé »,
- Le fait de consacrer une partie importante de ses revenus à son loyer,
- Le fait de ne pas avoir de travail ou de revenus stables.
L’algorithme cible également les personnes en situation de handicap. En effet, une personne bénéficiant de “l’Allocation Adulte Handicapé (AAH) tout en travaillant est un des paramètres impactant le plus fortement, et à la hausse, le score d’un·e allocataire.”
Face aux critiques formulées par la Quadrature, un directeur de la CAF s’est défendu en indiquant que « l’algorithme est neutre » et serait même “ l’inverse d’une discrimination “ puisque “ nul ne peut expliquer pourquoi un dossier est ciblé.” “Notre objectif est de limiter au maximum les erreurs déclaratives et leurs conséquences en termes de génération d’indus “, a indiqué Nicolas Grivel, directeur général de la Cnaf. Il déclare que l’algorithme n’est “pas discriminatoire” et ne cible “pas forcément les personnes les plus pauvres, mais celles dont les revenus varient”.
Toutefois, 32 millions de personnes, dont 13 millions d’enfants vivant dans un foyer bénéficiant des aides de la CAF, seraient visés par l’algorithme. Les seuils de contrôle seraient déclenchés à partir de 600 euros de trop-perçus en deux ans, soit 25 euros par mois.