Le dossier · l’algorithme qui a fait tomber un gouvernement

En janvier 2021, un gouvernement européen a démissionné à cause d’un algorithme. Pas à cause d’une élection, pas d’un vote de défiance, pas d’un scandale de mœurs · à cause d’un système de détection de fraude qui avait décidé que la double nationalité était un facteur de risque. C’est le seul cas au monde, et il n’a servi de leçon à personne.

Le prix d’un facteur de risque

Le scandale néerlandais des allocations familiales, la toeslagenaffaire, court de 2013 à 2021. Des dizaines de milliers de familles ont été accusées à tort de fraude par un système de profilage de l’administration fiscale. Parmi les indicateurs employés pour calculer le risque · la double nationalité. Le gouvernement Rutte III a démissionné en janvier 2021.

Lighthouse Reports a documenté l’usage des algorithmes de risque par l’administration fiscale néerlandaise dans son enquête The Algorithm Addiction. Le mot est bien choisi. On ne parle pas d’un outil, on parle d’une habitude.

Comprenez ce qu’a fait la machine. Elle n’a pas été programmée par un raciste. Elle a été entraînée à trouver des corrélations, elle en a trouvé une, elle l’a appliquée. Le système n’a pas décidé que les binationaux fraudaient davantage · il a décidé que la binationalité prédisait quelque chose, et l’État a agi en conséquence pendant huit ans.

Le jugement de La Haye

Un an plus tôt, le 5 février 2020, le tribunal de La Haye avait jugé le Systeem Risico Indicatie, SyRI, contraire à l’article 8 de la Convention européenne des droits de l’homme. Privacy International l’a relevé aussitôt · c’est le premier jugement au monde annulant un système algorithmique de détection de fraude sociale. L’International Association of Privacy Professionals en a analysé la portée jurisprudentielle pour l’ensemble de la détection numérique de la fraude aux prestations.

Février 2020, un tribunal dit non. Janvier 2021, un gouvernement tombe pour un dispositif de même nature. Onze mois entre le rappel du droit et l’effondrement politique. Le droit avait vu juste et il était déjà trop tard.

Grossier, cruel et illégal

L’Australie a construit le sien entre 2015 et 2020. Robodebt calculait automatiquement des dettes sociales à partir d’une moyenne annuelle de revenus, méthode qui ne correspond à la vie de personne, et réclamait le remboursement.

Le 7 juillet 2023, une commission royale a rendu ses conclusions. Trois mots · « grossier, cruel et illégal ». Le gouvernement australien publie depuis le suivi des réformes issues de cette commission.

Une commission royale est l’instrument d’enquête le plus lourd du système australien. Il a fallu le mobiliser pour établir ce qu’un fonctionnaire de guichet aurait pu dire en 2016 · on ne calcule pas la dette réelle d’une personne en divisant son année par douze.

Le Danemark a poursuivi. En novembre 2024, Amnesty International a publié Coded Injustice: Surveillance and Discrimination in Denmark’s automated welfare state, documentant un État-providence automatisé fondé sur des dizaines d’algorithmes de détection de fraude. L’organisation qualifie le dispositif de surveillance de masse et pointe le risque de discrimination envers les groupes marginalisés.

La Pologne, elle, a fait marche arrière. Entre 2014 et 2019, un système de profilage algorithmique classait les demandeurs d’emploi en trois catégories déterminant leur accès à l’aide. AlgorithmWatch a relayé son abandon après contestation. La fondation Panoptykon en a documenté les implications sociales et politiques.

Trois catégories. Un chômeur entrait dans une case et la case décidait de ce qu’il avait droit de recevoir. Le tri est le geste fondateur de ces systèmes, et le tri précède toujours la preuve.

La France a le même, et elle ne montre pas le code

Maintenant regardez chez vous.

La Caisse nationale des allocations familiales attribue à chaque allocataire un score de risque calculé par un algorithme, et ce score déclenche les contrôles. La Quadrature du Net documente le dispositif depuis 2023.

En décembre 2022, la CAF a d’abord refusé de communiquer le code de son algorithme de notation. Elle ne l’a pas défendu, elle ne l’a pas justifié · elle a refusé de le montrer. La Quadrature du Net en a ensuite obtenu des versions.

C’est en lisant ce code qu’on a su. L’analyse montre une surpondération des variables corrélées à l’allocation adulte handicapé, au RSA et aux familles monoparentales.

Lisez la liste dans l’autre sens. Être handicapé. Être pauvre. Élever seul ses enfants. Voilà les trois signaux qui font monter un score de risque de fraude dans un organisme public français. Personne n’a écrit « contrôlez les handicapés ». On a écrit « cherchez les anomalies », et dans un pays où la norme est un couple salarié sans handicap, l’anomalie porte des noms précis.

L’algorithme ne cherche pas les fraudeurs. Il cherche les écarts à la moyenne. Et les écarts à la moyenne, ce sont les vies difficiles.

Le fisc, les piscines et Google

Le même geste existe côté impôts, et il est plus ancien qu’on ne croit.

L’arrêté du 21 février 2014 crée, à la Direction générale des finances publiques, le traitement dit « ciblage de la fraude et valorisation des requêtes », le CFVR · un outil de datamining fiscal. La DGFiP en publie elle-même le document de présentation. Le dispositif, d’abord tourné vers les entreprises, a ensuite été étendu au ciblage des particuliers. Le ministère de l’Économie documente ouvertement l’entrée de l’intelligence artificielle dans la détection des fraudes à Bercy.

Puis vient l’image. En août 2022, le programme « Foncier innovant » de la DGFiP, mené avec Capgemini et Google, détecte plus de 20 000 piscines non déclarées par analyse en intelligence artificielle de photographies aériennes de l’IGN, dans neuf départements tests. Le dispositif a été étendu à l’ensemble du territoire après la phase test. Son bilan est contesté, notamment sur le rapport entre son coût et ses résultats.

Une administration fiscale souveraine a confié à une entreprise américaine la lecture automatisée du territoire national vu du ciel. On peut trouver la fraude à la piscine légitime · c’est même le cas le plus défendable de tout ce dossier. Retenez seulement ce qui a changé de nature · l’État n’attend plus une déclaration, il regarde. Le contrôle n’est plus déclenché par un soupçon, il est permanent et il vient d’en haut.

Palantir, ou le stade suivant

Fondée en 2003, Palantir Technologies édite Gotham, plateforme d’analyse et de fusion de données pour le renseignement et la police, et Foundry pour les données d’entreprise et de gouvernement. Son métier n’est pas de collecter. Son métier est de réunir ce qui était séparé.

En avril 2025, l’entreprise obtient un contrat d’environ 30 millions de dollars avec ICE pour construire ImmigrationOS, système d’exploitation destiné à accélérer l’identification, la localisation et l’expulsion. Le prototype est suivi d’une maintenance de 29,9 millions. En septembre 2025, un nouveau contrat de 30 millions de dollars porte sur un programme dit de « retour volontaire ».

Un système d’exploitation. Le mot est exact et il est terrible · non pas un logiciel qui fait une tâche, mais la couche sur laquelle tournent toutes les autres.

Et la même société tient les données de santé d’un service public européen. En novembre 2023, NHS England attribue à Palantir un contrat de 330 millions de livres pour la Federated Data Platform du service de santé public anglais. En 2026, la plateforme fait l’objet d’un débat à la Chambre des communes.

Expulser des étrangers et soigner des malades sont deux activités opposées. Elles tournent sur la même infrastructure, vendue par la même entreprise. C’est la démonstration la plus nette qu’il existe · la technologie n’a pas de sens en elle-même. Seul le sens du flux en a un.

Un algorithme antifraude ne trouve jamais les riches, parce que les riches ne remplissent pas de formulaires de RSA. Il trouve les handicapés, les pauvres et les mères seules, il les trouve avec une efficacité redoutable, et son efficacité est précisément ce qu’on lui reproche.

Le Spectacle regardait. L’Algorithme surveille. Une machine qui ne rend rien à ceux qu’elle mesure n’est pas un service public · c’est un tri.