La loi · ce que l’AI Act interdit vraiment

L’Europe a produit deux textes que le monde entier commente : le RGPD et l’AI Act. On les présente tantôt comme une muraille, tantôt comme une coquille vide. Les deux lectures sont fausses, et la vérité se trouve exactement là où personne ne regarde : dans les exceptions.

Ce que le RGPD a effectivement coûté

Commençons par le seul indicateur qui ne ment pas : l’argent encaissé.

Le règlement 2016/679 est applicable depuis le 25 mai 2018. Il prévoit des amendes pouvant atteindre 4 % du chiffre d’affaires mondial d’une entreprise. Ce plafond a longtemps été présenté comme théorique.

Il ne l’est plus. Le cumul des amendes prononcées depuis 2018 atteint environ 7,1 milliards d’euros selon le décompte publié par Kiteworks en 2026. Et selon les travaux de Surfshark Research, plus d’un milliard d’euros a été prononcé sur la seule année 2025. Le rythme s’accélère, il ne ralentit pas.

Des sanctions concrètes sont tombées sur des cibles dures. La CNIL a sanctionné Clearview AI de 20 millions d’euros le 17 octobre 2022. En septembre 2024, l’autorité néerlandaise de protection des données a infligé 30,5 millions d’euros à la même société pour une base annoncée à trente milliards d’images de visages collectées sans consentement.

Voilà le socle. Un texte qui coûte plusieurs milliards, appliqué, y compris contre des entreprises qui n’ont aucun actif en Europe.

L’AI Act, article par article

Le règlement 2024/1689 est entré en vigueur le 1er août 2024. Il organise l’encadrement de l’intelligence artificielle par une échelle de risques, et son article 5, applicable depuis le 2 février 2025, dresse la liste des pratiques dites à risque inacceptable, c’est-à-dire interdites.

Deux interdictions méritent d’être citées précisément, parce que ce sont celles que tout le monde invoque de travers.

La première : la notation sociale par les autorités publiques. Le crédit social administratif est hors la loi en Europe. Ce n’est pas rien.

La seconde : l’identification biométrique à distance en temps réel dans les espaces publics à des fins répressives. C’est-à-dire la reconnaissance faciale en direct dans la rue, par la police.

Lis bien la formulation de cette seconde interdiction. Elle est interdite en principe. En principe.

Les exceptions sont le texte

C’est ici que tout se joue, et c’est ici qu’on arrête de commenter les communiqués.

La liste des usages interdits comporte des dérogations pour certaines finalités répressives, ce qui en limite directement la portée : le point est établi par les analyses juridiques du règlement, dont celle publiée par Adequacy. Autrement dit, l’interdiction de la reconnaissance faciale en direct dans la rue est une interdiction assortie de portes. Qui décide qu’une situation ouvre la porte ? L’autorité qui veut passer.

S’ajoute un second problème, celui du calendrier. Les systèmes à risque inacceptable sont interdits depuis février 2025, mais la Commission accuse des retards dans l’édiction des règles d’application, comme le documentait Developpez en 2025. Une interdiction sans règles d’application est une interdiction qui attend son mode d’emploi.

Un texte se juge sur trois choses, dans cet ordre : ce qu’il interdit, ce qu’il excepte, et qui contrôle l’exception. L’AI Act est solide sur le premier point, généreux sur le deuxième, et incomplet sur le troisième.

Ce qui marche, quand on attaque

Le reste du dossier dit une chose réconfortante : ce n’est pas la loi seule qui arrête les machines, c’est la loi plus quelqu’un qui va au contentieux.

Le 5 février 2020, le tribunal de La Haye a jugé le système néerlandais SyRI contraire à l’article 8 de la Convention européenne des droits de l’homme. Selon Privacy International, c’est le premier jugement au monde annulant un système algorithmique de détection de la fraude sociale. Un tribunal a débranché un dispositif d’État.

Le 14 mai 2019, San Francisco est devenue la première ville américaine à interdire l’usage de la reconnaissance faciale par ses services municipaux, police comprise, comme l’a rapporté NPR. Boston, Portland et Berkeley ont adopté des interdictions comparables entre 2019 et 2023.

En Illinois, le Biometric Information Privacy Act, voté en 2008, impose un consentement écrit préalable à toute collecte de données biométriques et ouvre un droit d’action aux personnes concernées. Ce droit d’action individuel est la pièce décisive : c’est lui qui a produit, en 2021, un règlement de 650 millions de dollars avec Facebook au titre de la reconnaissance faciale appliquée aux photos des habitants de l’État, comme l’a documenté l’American Bar Association. C’est encore lui qui a permis à l’ACLU d’obtenir, en mai 2022, l’interdiction permanente faite à Clearview AI de vendre sa base biométrique à la plupart des entreprises privées américaines.

En France, La Quadrature du Net porte l’essentiel du contentieux. En octobre 2019, la CNIL a jugé illégale l’installation de portiques de reconnaissance faciale à l’entrée de deux lycées, à Nice et à Marseille : première victoire juridique française contre cet usage. Le même mois, franceinfo rapportait que Christian Estrosi déclarait le projet « pas enterré » malgré le refus de la CNIL.

Cette phrase résume l’état du droit mieux que n’importe quel considérant.

Ce qui va dans l’autre sens

Honnêteté complète, maintenant, y compris sur les défaites.

En mai 2022, le Conseil d’État a validé l’usage de la reconnaissance faciale sur le fichier des antécédents judiciaires, que La Quadrature du Net attaquait. La juridiction suprême administrative a tranché en faveur du dispositif.

La loi du 19 mai 2023 relative aux Jeux olympiques a autorisé, à titre expérimental et par son article 10, la vidéosurveillance algorithmique pour détecter des événements prédéterminés dans l’espace public : première base légale de ce type en Europe. Amnesty International France y a vu une porte d’entrée vers la surveillance biométrique généralisée. Dès décembre 2024, les analyses juridiques portaient sur la pérennisation possible du dispositif au-delà de l’expérimentation. Une expérimentation qui survit à son objet n’était pas une expérimentation.

Le précédent est documenté. La loi relative au renseignement du 24 juillet 2015 a institué les boîtes noires, ces traitements algorithmiques posés sur les réseaux des opérateurs pour détecter des menaces. Dispositif expérimental. La loi du 30 juillet 2021 l’a pérennisé et étendu aux adresses consultées, comme l’a documenté La Quadrature du Net, la délégation parlementaire au renseignement ayant demandé l’extension aux URL complètes.

Retiens le mécanisme, il est plus instructif que n’importe quelle interdiction : expérimentation, prorogation, pérennisation, extension. Quatre temps, jamais un de moins.

À l’échelle européenne, la proposition de règlement CSAR, dite Chat Control, présentée en mai 2022, prévoit la détection de contenus pédocriminels dans les messageries, y compris chiffrées. Elle est débattue depuis quatre ans selon franceinfo. En 2026, le Parlement européen a prolongé le scan volontaire jusqu’en 2028 sans rendre la détection obligatoire. Ce n’est pas une victoire : c’est un report.

Savoir lire les exceptions

La loi n’est pas un bouclier. Elle est l’enregistrement écrit d’un rapport de force à un instant donné, avec des alinéas qui disent « sauf si », et ces alinéas-là sont les seuls qui comptent vraiment.

Sept milliards d’euros d’amendes prouvent que le texte mord. L’article 10 de la loi olympique et les boîtes noires pérennisées prouvent qu’il recule ailleurs au même moment. Les deux sont vrais, simultanément, et croire le contraire est la seule erreur impardonnable.

Aucun règlement ne renversera jamais le sens du flux. Interdire une machine pointée vers le bas ne fabrique pas une machine pointée vers le haut : il faut la construire, et la construire autrement.

Le Spectacle regardait. L’Algorithme surveille. L’Oracle rend le regard.