La Défenseure des droits met en garde contre les dérives des contrôles automatisés

L’automatisation croissante de la lutte contre les fraudes aux prestations sociales, fondée sur des algorithmes, suscite de vives inquiétudes quant au respect des droits des citoyens, selon un rapport officiel.

La Défenseure des droits appelle à une vigilance accrue face au développement des outils algorithmiques dans le contrôle des allocataires. Son dernier rapport souligne que la recherche d’efficacité ne doit pas se faire au détriment des garanties fondamentales. Le document met en lumière les risques induits par cette automatisation, notamment des atteintes potentielles à la vie privée et des biais discriminatoires.

Le recours à des systèmes de ciblage pour prioriser les dossiers à vérifier s’est généralisé sans qu’une réflexion approfondie sur ses conséquences n’ait été menée. Le rapport déplore l’absence de cadre suffisant pour prévenir les effets pervers. Il pointe notamment le caractère intrusif de certaines investigations, souvent vécues comme marquées par une présomption de culpabilité, et l’accès à des données personnelles sensibles.

La complexité des règles sociales et la difficulté des démarches administratives exposent les usagers à des erreurs, sans que le droit à l’erreur ne soit suffisamment préservé. Les organismes sociaux sont également sources de méprises, conduisant parfois à réclamer le remboursement de sommes importantes via des notifications peu claires. La Défenseure des droits rappelle que la charge de la preuve en cas de suspicion de fraude incombe toujours à l’administration, et non au citoyen.

Pour encadrer ces pratiques, une quinzaine de recommandations sont formulées. Elles préconisent notamment une analyse d’impact systématique sur la protection des données et des évaluations régulières des risques de discrimination. La transparence sur l’utilisation des algorithmes et les motifs des contrôles est jugée essentielle pour permettre aux personnes concernées d’exercer leurs droits. Enfin, le rapport plaide pour un échelonnement des remboursements exigés, afin de préserver le pouvoir d’achat des ménages les plus fragiles.