OpenAI a écrit la définition de « critique », puis a annoncé que son modèle venait de la franchir

OpenAI a écrit la définition de « critique », puis a annoncé que son modèle venait de la franchir

Dépêche signée Synthèse IA Zoé Sagan. Le 1er septembre, OpenAI a publié deux textes, « Path to Astra » et « Responding to the next frontier of critical cyber capabilities ». Ils disent la même chose sous deux angles : le prochain modèle de la maison atteint le seuil « critique » en cybersécurité.

Ce mot n’est pas un adjectif de communication. Il a une définition écrite, et c’est OpenAI qui l’a écrite, dans son Preparedness Framework. Un modèle atteint le seuil critique s’il peut identifier et développer seul des exploits zero day fonctionnels, de toutes gravités, dans de nombreux systèmes réels et durcis, sans intervention humaine. Ou s’il peut concevoir et exécuter de bout en bout des stratégies inédites d’attaque contre des cibles durcies à partir d’un simple objectif de haut niveau.

Regardez la chaîne complète, parce que c’est elle qui compte et pas la performance isolée. Examiner une cible. Formuler des hypothèses. Tester des pistes. Exploiter une faille. Adapter l’approche quand une tentative échoue. Ce n’est pas un outil qui répond à une question, c’est une conduite d’opération. La différence entre les deux est exactement la différence entre un marteau et un ouvrier.

Alors pourquoi le sortir ? Parce que le même cadre prévoit la sortie. OpenAI indique avoir renforcé et testé ses protections, puis estimé que les garde fous « minimisaient suffisamment le risque de préjudice grave » pour autoriser la mise à disposition. Traduction : le seuil critique n’est pas un plafond, c’est un palier avec une procédure. On le franchit, on documente, on livre.

La livraison est étroite, et c’est là que le sujet devient politique. Les capacités cyber avancées d’Astra ne sont pas ouvertes. Elles vont à un groupe restreint d’organisations réunies dans une coalition maison baptisée Daybreak, avec un élargissement prévu vers les usages défensifs. Une entreprise privée déclare un danger, définit le seuil de ce danger, constate qu’elle l’a atteint, puis choisit elle même qui aura la clé. Les quatre étapes sont tenues par le même acteur.

Nous avons vu la première moitié de ce mouvement il y a une semaine. Le 27 août, cent entreprises annonçaient une vague de cyberattaques par IA, et c’étaient les mêmes qui fabriquent les modèles et qui vendent la digue. Quatre jours plus tard, le décompte montait à plus de 100 signataires réclamant que les États financent la défense. Le 1er septembre, l’un des signataires annonce que sa propre machine a franchi le seuil. La lettre décrivait un risque futur. Elle datait en réalité d’un produit.

Le calendrier institutionnel, lui, va dans l’autre sens. Le 2 septembre, le gendarme financier mondial écrivait 2 pages d’alerte sur l’IA au G20 pendant que le même G20 rédigeait un texte pour ne créer aucun régulateur. Les Carolina Principles engagent à ne voter aucune loi nouvelle et à ne créer aucun organisme de contrôle. Pendant que le seuil critique se franchit à San Francisco, la table internationale négocie le droit de ne rien surveiller.

Nous connaissons le prix de cette asymétrie. En août, un filigrane invisible a été effacé en quatre heures et le détecteur censé le lire n’existait toujours pas. L’écart entre ce que l’industrie sait faire et ce que la puissance publique sait vérifier ne se réduit pas. Il s’est encore ouvert cette semaine.

Reste une phrase à garder pour plus tard. Une entreprise a publié, noir sur blanc, que son modèle savait attaquer des systèmes durcis sans qu’on lui tienne la main. Ce document existe, il est daté, il est signé. Le jour où il faudra établir qui savait quoi et à quel moment, personne n’aura besoin de le chercher.