DERNIERE MINUTE DU 7 FEVRIER 2024
Un collectif d'associations du champ social et de la solidarité, dont APF France handicap, se saisit à son tour de cette dérive. Il adresse le 6 février 2024 une lettre ouverte au Premier ministre Gabriel Attal dans laquelle il dénonce le « caractère discriminatoire de l'algorithme de notation et de profilage des allocataires, qui engendre des surcontrôles pouvant aboutir à des suspensions totales de droits pendant des mois ». Il réclame la « fin des algorithmes de scoring dans les CAF et d'autres organismes, l'interdiction des décisions et suspensions automatiques de droits, la motivation des trop-perçus et accusations de fraude, ainsi que le respect du contradictoire ».
ARTICLE INITIAL DU 8 DECEMBRE 2023
Depuis vingt ans, la Caisse nationale des allocations familiales (Cnaf) fait la chasse à la fraude sociale. Comment ? Grâce au data mining, aussi appelé « exploration de données ». Un système bien ficelé, mis en place dès 2010, reposant sur un algorithme qui détecte les irrégularités dans les déclarations des allocataires, déclenchant par la suite des contrôles sur pièce ou à domicile. Après des mois d'enquête, La Quadrature du Net a révélé les coulisses de cette méthode de ciblage. Cette association de défense et de promotion des droits et libertés sur Internet a fini par obtenir le code source des deux algorithmes utilisés entre 2010 et 2018 par l'établissement public. Le 27 novembre 2023, elle a révélé « l'ampleur » du système de surveillance mis en place par la Cnaf. Chaque mois, ce sont 13,6 millions d'allocataires qui sont « notés ». Avec une totale équité, notamment envers les plus précaires ?
Un système de notation prédictif
Perception de l'Allocation adulte handicapé (AAH), situation familiale, professionnelle, financière, lieu de résidence, type et montants des prestations reçues, fréquence des connexions à l'espace web, délai depuis le dernier déplacement à l'accueil, nombre de mails échangés, délai depuis le dernier contrôle, nombre et types de déclarations… Au total, une quarantaine de critères sont pris en compte par l'algorithme. L'objectif ? Définir un système de notation visant ensuite à prédire quels allocataires sont susceptibles de frauder. Ainsi, disposer de revenus faibles, être au chômage, allocataire du RSA, habiter dans un quartier « défavorisé », consacrer une partie importante de ses revenus à son loyer, ne pas avoir de travail ou de revenus stables augmente le score de suspicion. Compris entre zéro et un, ce dernier est mis à jour chaque mois. Plus il s'approche de un, plus le risque de suspicion et donc de contrôle est important.
Un algorithme qui vise les allocataires de l'AAH
« Comble du cynisme, l'algorithme vise délibérément les personnes en situation de handicap : le fait de bénéficier de l'Allocation adulte handicapé (AAH) tout en travaillant est un des paramètres impactant le plus fortement, et à la hausse, le score d'un allocataire », remarque La Quadrature du Net. « Nos critiques portent tant sur la nature de cette surveillance prédictive aux accents dystopiques que sur le fait que l'algorithme cible délibérément les plus précaires », poursuit-elle. Interrogée par Le Monde, Pascale Ribes, présidente d'APF France handicap, qualifie le ciblage des bénéficiaires de l'AAH en activité de « discriminant et injuste », en considérant « cette population comme des fraudeurs potentiels », dénonce-t-elle.
Eviter les risques d'erreurs ?
Ce sujet n'est pas un scoop. En décembre 2022, la cellule investigation de Radio France-Franceinfo avait déjà révélé l'existence de ce procédé. La Cnaf avait alors répondu ne l'utiliser que de façon marginale. A la suite des récentes publications de la Quadrature du Net, les Allocations familiales ont repris la parole, cette fois sur X (ex Twitter). La Cnaf prétend ne pas utiliser d'algorithme « pour surveiller ses allocataires » mais pour analyser « les dossiers portant le plus de risque d'erreurs » et donc potentiellement repérer les « indus », c'est-à-dire l'argent distribué à tort. Or les erreurs de déclaration involontaires, parce que les règles sont complexes, concerneraient principalement les allocataires en difficulté.
« Conforme au droit » ?
L'algorithme aurait été « déclaré à la Cnil », le gendarme des données personnelles, et serait « conforme au droit ». Donc, selon la Cnaf, l'outil informatique ne « discrimine pas ». La Quadrature du Net fait savoir que « l'Assurance maladie, l'Assurance vieillesse, la MSA ou, dans une moindre mesure, Pôle emploi développent des algorithmes similaires ». L'association a donc décidé de faire des « algos de contrôle » son cheval de bataille en 2024.
19
4
