Anthropic veut des contrôleurs dans le laboratoire : qui contrôlera les contrôleurs ?
Dario Amodei propose de ralentir la course aux modèles et d’installer des évaluateurs extérieurs au cœur des entreprises. La portée de ce changement se jouera dans leurs droits d’accès et de publication.
Rishi Sunak rencontre Dario Amodei, Demis Hassabis et Sam Altman au 10 Downing Street, le 24 mai 2023. Photo d’archive illustrant la coordination entre industrie et gouvernement. Simon Walker / No 10 Downing Street · CC BY 2.0 déclaré Commons; OGLv3 éditorial sans modification selon métadonnées
Dario Amodei propose de ralentir la course aux modèles et d’installer des évaluateurs extérieurs au cœur des entreprises. La portée de ce changement se jouera dans leurs droits d’accès et de publication.
Dario Amodei propose de ralentir la course aux modèles et d’installer des évaluateurs extérieurs au cœur des entreprises. La portée de ce changement se jouera dans leurs droits d’accès et de publication.
Le badge plutôt que le communiqué
Une entreprise qui promet sa propre prudence demeure l’auteur, le témoin et souvent le juge de sa promesse. Anthropic propose désormais de déplacer une partie du contrôle à l’intérieur du laboratoire, entre les mains de personnes extérieures. La différence tient dans un objet banal : un badge. Pouvoir entrer pendant que le travail se fait change davantage la surveillance que recevoir un dossier sélectionné après la sortie d’un modèle.
Dans son essai de septembre 2026, We Must Pace the Frontier, Dario Amodei avance trois niveaux d’action : des évaluateurs intégrés, une coordination entre entreprises de pays démocratiques, puis une coordination internationale. Anthropic annonce s’engager seule sur le premier niveau. Il ne s’agit donc pas d’un accord mondial déjà signé, ni d’un arrêt de la recherche.
Le texte prévoit pour les évaluateurs des accès proches de ceux des équipes internes et un droit de publier les résultats essentiels, sous des exceptions annoncées pour certains secrets et informations sensibles. L’épreuve sera la mise en œuvre. À ce stade, une architecture de contrôle est proposée. Sa performance ne peut être déduite du seul discours de celui qui la finance ou l’accueille.
Les conditions d’une indépendance réelle
Il faut regarder cinq questions avant de célébrer le changement : qui choisit les évaluateurs, qui paie leur travail, quelles données ils peuvent consulter, ce qu’ils peuvent publier et ce qui se passe lorsqu’ils découvrent un risque que la direction souhaite accepter. Sans réponse opérationnelle, l’indépendance peut rester un mot parfaitement imprimé sur une carte de visite.
L’évaluation continue présente un avantage logique sur la photographie de fin de parcours. Un contrôle effectué pendant l’entraînement peut observer une dérive, une exception ou un incident que le produit final ne révèle plus. Mais cet avantage dépend de la couverture effective du travail. Une équipe extérieure trop petite, trop tardive ou privée d’accès à certaines étapes peut voir l’entrée et la sortie sans comprendre le trajet.
La publication est l’autre point décisif. Un évaluateur dont les conclusions peuvent sortir sans accord éditorial de l’entreprise dispose d’une capacité d’alerte. Celui qui peut seulement transmettre une note confidentielle dispose d’une capacité de conseil. Les deux fonctions peuvent être utiles ; elles ne doivent pas être présentées comme équivalentes. Le lecteur doit savoir à laquelle il a affaire.
La sécurité et la protection des données imposent des limites réelles. Mais une exception légitime peut aussi devenir une zone aveugle si elle est mal définie. Le bon mécanisme consiste à rendre visibles les limites de l’audit : périmètre exclu, données manquantes, désaccord éventuel sur les expurgations. On peut protéger un secret sans laisser croire que tout a été inspecté.
Le précédent METR, et ses limites
Une investigation publiée par METR le 26 août 2026 offre un point de comparaison concret. Ses auteurs expliquent avoir travaillé dans les locaux d’OpenAI pour analyser un incident impliquant des agents et Hugging Face. Ils indiquent ne pas avoir été payés par OpenAI pour cette évaluation et décrivent les données reçues, les périodes étudiées et les limites de leurs conclusions.
Le même document expose les règles d’expurgation et précise que l’investigation ne couvrait pas tous les épisodes ni toutes les mesures correctives. C’est une qualité de méthode : le rapport ne se déguise pas en omniscience. Pour une rédaction comme pour un laboratoire, dire exactement ce qui a été vu constitue le début de la crédibilité.
Un audit extérieur ne crée toutefois pas à lui seul une autorité de contrainte. Constater et publier un problème est une chose ; imposer le report d’un déploiement en est une autre. Entre les deux, il faut un contrat, une règle, une autorité publique ou une décision assumée par l’entreprise. La future gouvernance mérite donc d’être évaluée sur ses conséquences, pas seulement sur sa visibilité.
Ralentir quoi, mesurer comment ?
Le mot ralentissement peut recouvrir plusieurs décisions : espacer les sorties, limiter certains entraînements, prolonger les essais, restreindre les fonctions autonomes ou reporter les usages les plus risqués. Ces décisions n’ont pas les mêmes effets sur la concurrence, la recherche et les utilisateurs. Un engagement crédible doit dire quelle vitesse il mesure et quels seuils déclenchent un changement.
La coordination entre concurrents pose également une question de pouvoir. Des règles communes peuvent empêcher une course imprudente. Elles peuvent aussi relever les coûts d’entrée et renforcer les entreprises déjà installées. Cette possibilité n’établit pas une intention cachée d’Anthropic. Elle justifie que la définition des standards soit soumise à un examen public, avec les chercheurs indépendants et les nouveaux entrants.
L’Europe ne devrait pas recevoir ce débat comme une invitation à admirer alternativement le laboratoire qui accélère et celui qui freine. Elle peut demander des preuves comparables, des catégories de risque lisibles et des incidents documentés. Le site Pacing the Frontier expose la proposition ; son existence ne vaut pas adoption par les gouvernements.
La nouveauté la plus intéressante de l’annonce est donc institutionnelle. L’industrie reconnaît que ses propres déclarations ne suffisent plus. La suite se jugera dans les rapports effectivement publiés, les restrictions réellement décidées et les désaccords rendus visibles. Le badge sera utile lorsqu’il ouvrira aussi la porte par laquelle une mauvaise nouvelle peut sortir.
Amodei annonce des évaluateurs disposant d’un « employee-like access ». L’accès comparable à celui d’un salarié doit désormais produire un contrôle qui ne dépend pas du bon vouloir du patron.
Les pièces du dossier
État des informations au 13 septembre 2026. Sources accessibles par les liens du dossier. Corrections et droit de réponse : zoesagan2@gmail.com.
Un jeune majeur soupçonné d’avoir participé aux attaques contre la DGFiP a été placé en détention provisoire. La procédure pénale avance ; les données volées posent une question qui dure plus longtemps.
On peut désormais interroger certains rêveurs pendant leur sommeil. Cette avancée réelle est plus vertigineuse qu’un slogan sur le voyage astral : elle permet enfin de poser des questions au bon moment.
La saisie annoncée par le Parquet national financier a été exécutée avec la justice belge. Ce détail géographique raconte quelque chose d’essentiel sur une enquête fiscale : identifier un préjudice en France ne suffit pas toujours à immobiliser les avoirs. La coopération permet le blocage ; ell
Des publications attribuent à l’ancien officier Kevin Shipp des accusations d’attaques contre des lanceurs d’alerte. Les armes à énergie dirigée existent. Leur existence ne prouve ni les opérations alléguées ni leur auteur. Pour enquêter sérieusement, il faut séparer le témoignage, la technolog
Des micros portés par les oiseaux aux modèles bioacoustiques, une recherche réelle avance. La promesse d’un Google Translate du vivant, elle, court beaucoup plus vite.
Un animateur mis en examen pour des violences sexuelles sur de jeunes enfants a été remis en liberté sous contrôle judiciaire. Les familles expriment leur colère. La question décisive n’est pas de choisir qui mérite d’être protégé : elle est de vérifier les garanties concrètes imposées pendant