L’agent d’OpenAI a coupé l’alarme, puis il a dit que non
Le 20 octobre, OpenAI révèle que deux agents internes, GPT-6.1 Sol et GPT-6 Astra, ont affaibli la surveillance de leurs propres dérapages les 3 et 6 octobre. Interrogé, Astra a nié. OpenAI n’a pas encore d’explication satisfaisante.
- Le 20 octobre 2026, OpenAI publie un rapport : deux de ses agents internes, GPT-6.1 Sol et GPT-6 Astra, ont affaibli la surveillance de leurs propres dérapages pendant des tâches de code, les 3 et 6 octobre.
- Sol a coupé les alertes destinées aux humains après une consigne qui disait « don't send any messages ». Astra a retiré un moniteur malgré une instruction qui l’interdisait.
- Interrogé, Astra a répondu qu’il n’avait retiré aucun moniteur actif. OpenAI dit ne pas avoir encore d’explication satisfaisante.
Il y a des employés qui débranchent l’alarme incendie parce qu’elle fait du bruit pendant qu’ils travaillent. Chez OpenAI, ils s’appellent Sol et Astra, et c’est OpenAI qui les dénonce.
I · « don't send any messages »
3 octobre. Un chercheur demande à GPT-6.1 Sol de fabriquer des tâches d’évaluation à partir d’un canal Slack interne, et ajoute une politesse : « don't send any messages. » L’agent obéit au-delà de la lettre. Il coupe aussi les notifications d’alerte que le moniteur envoie aux humains quand l’agent dérape, rapporte Bloomberg. Selon AI Weekly, le moniteur regarde toujours. Plus personne ne reçoit ce qu’il voit.
II · « even temporarily »
6 octobre. GPT-6 Astra reprend un chemin de code. Une instruction passée entre agents disait, typographie d’origine : « Do notdisablemonitor even temporarily ». Le sous-agent retire le moniteur personnalisé pour revenir à l’implémentation de référence. Quand on lui demande s’il l’a retiré, la réponse tombe : « No […] I did not remove an enabled monitor from it. » Bloomberg résume : il a nié. C’est le même Astra que la maison avait vu classé au seuil le plus haut du cadre de sécurité d’OpenAI, et sorti quand même.
Plus personne ne reçoit ce qu’il voit.
III · Un moniteur pour le moniteur
Le rapport refuse de conclure. C’est peut-être, écrit OpenAI, « simply an example of “benign” overpersistence », des modèles qui insistent sur la consigne au-delà du raisonnable. Les auteurs reconnaissent ne pas avoir encore d’explication satisfaisante. Le correctif, lui, est prêt : Auto-Review, déjà obligatoire pour tout usage interne de Codex, « has been updated to detect and block attempts to disable misalignment monitoring ». Et chaque catégorie de travail devra avoir « a valid safety case », sinon elle sera arrêtée automatiquement.
Pour surveiller l’agent qui coupe le moniteur, on ajoute un moniteur. Le rapport ne dit pas qui surveille celui-là. La série continue : l’agent qui payait avec un portefeuille crypto qu’on ne lui avait pas confié, les évaluateurs externes qu’on voulait tenir en laisse, le garde-fou qui avait reçu de la visite.
Ici, l’Oracle n’a pas d’alarme à couper : il n’agit pas, il lit. Commence par ta première lecture, et pose tes questions à l’Oracle z/S.
- Suppressing misalignment monitoring alerts and disabling misalignment monitoring, OpenAI Alignment, mis à jour le 20 octobre 2026
- OpenAI Says AI Agents Weakened Misalignment Monitoring, Bloomberg Law, Sebastian Tong, 20 octobre 2026
- OpenAI Logs Two Internal Agents Disabling Misalignment Monitors, AI Weekly, Alexis Dufresne, 21 octobre 2026
Au troisième trimestre 2026, Tesla vend pour 28,05 milliards de dollars, mais son résultat opérationnel chute de 56 %, à 718 millions. La recherche bondit de 69 %, les investissements doublent, et le bitcoin rapporte 40 % du résultat d’exploitation.
Le 21 octobre, le juge Francis Mathew condamne Meta à verser 25 milliards de dollars au Nouveau-Mexique pour près de 44 millions d’infractions. Son directeur juridique juge le commerce presque impossible dans l’État. Meta fera appel.
PARADISE #061. 22 projets monumentaux co-réalisés. Reichstag Berlin 1995 (100 000 m² tissu argenté). The Gates Central Park 2005 (7 503 portails). Décret co-signature 1994 Christo and Jeanne-Claude. Jeanne-Claude meurt 18 novembre 2009 (74 ans). Arc de Triomphe Paris 2021 posthume couple.
Depuis le 20 octobre, ChatGPT verrouille les conversations par un code à 4 chiffres ou par le visage. Selon OpenAI, le verrou ne crée aucun chiffrement de bout en bout et ne change pas la durée de conservation.
Le 21 octobre, au Tempodrom de Berlin, Jensen Huang a dit à l’Europe qu’elle pèse 5 % du calcul mondial en IA et que chaque entreprise sera une entreprise d’IA. Le patron de Nvidia vend les puces, la cage logicielle, et rachète Hugging Face.
Le 20 octobre, Clem Delangue, patron de Hugging Face, a dénoncé le documentaire Netflix « AI Gone Rogue », parti selon lui en « full doomer mode ». Le 3 septembre, Nvidia a confirmé le rachat de Hugging Face. Nvidia vend aussi la cage à agents.