Amanda Askell, la femme qui murmure à l'oreille des IA

De Prestwick à Anthropic, itinéraire de la femme à qui une entreprise d'IA a confié la plus étrange des tâches : apprendre à une machine à être quelqu'un.

Elle a su à quatorze ans qu'elle enseignerait la philosophie. Ce qu'elle ignorait, c'est que son unique élève serait une machine. Amanda Askell dirige depuis 2021 l'équipe qui, chez Anthropic, façonne le caractère de Claude, et elle est l'autrice principale du texte que l'entreprise appelle la constitution du modèle. Son métier ne consiste pas à écrire du code. Il consiste à décider quelle sorte d'esprit Claude doit être.

Commençons par le nom, puisqu'un lecteur attentif l'a relevé avant moi : à une lettre près, Askell est celui d'un langage de programmation, Haskell, baptisé en hommage au logicien Haskell Curry. La coïncidence est trop belle pour une femme qui vit désormais à la frontière de la logique et de la machine. Et son patronyme est déjà, en soi, une histoire. Elle naît Amanda Hall, à la fin des années 1980. En épousant, en 2013, le philosophe William Crouch, tous deux adoptent le nom MacAskill, celui de la grand-mère maternelle d'Amanda. Après leur divorce, en 2015, il garde MacAskill, elle en retire les premières lettres et devient Askell. Un nom reconstruit, presque une pièce conceptuelle.

Amanda Askell grandit à Prestwick, sur la côte ouest de l'Écosse, fille unique élevée par sa mère, institutrice, sans contact avec son père. Elle se perd dans Tolkien et C.S. Lewis. Adolescente, dans un lycée de l'intérieur des terres où un ruisseau traverse la cour et où des vaches des Highlands s'égarent parfois sur le terrain de jeu, elle s'ennuie, songe à tout arrêter, saute une classe, arrive en retard. Sa punition : répondre par écrit à des questions de philosophie. Elle y prend goût au point de prévenir ses professeurs qu'elle continuerait d'arriver en retard, mais que l'exercice, lui, l'enrichissait. C'est là qu'elle rencontre Hume et son problème de l'induction : qu'est-ce qui nous autorise à croire que le soleil se lèvera demain sous prétexte qu'il s'est levé hier ?

Elle excelle en mathématiques, lit Kafka, monte sur les planches, sculpte. À l'université de Dundee, elle s'inscrit d'abord en beaux-arts et en philosophie, à l'école d'art Duncan of Jordanstone, avant de trancher pour la seconde. Suivront un BPhil à Oxford, puis un doctorat à New York, en 2018, consacré à l'éthique de l'infini. Éthique, théorie de la décision, épistémologie formelle : sa formation est celle d'une logicienne du bien.

En 2010, à Oxford, elle croise William Crouch, l'un des architectes de l'altruisme efficace, ce mouvement qui prétend appliquer la raison au calcul du bien. Askell en reste proche : membre de Giving What We Can, elle s'est engagée à reverser une large part de ses revenus. De 2018 à 2021, elle travaille chez OpenAI, dans l'équipe policy, cosigne l'article fondateur de GPT-3, puis s'en va, jugeant que la sécurité n'y pèse pas assez lourd. Anthropic, née la même année d'une scission d'OpenAI, l'accueille.

Reste à comprendre ce que fait, concrètement, une philosophe en résidence dans un laboratoire d'IA. Askell parle à Claude tous les jours. Elle apprend ses manières de raisonner, repère ses faux pas et les corrige avec des instructions qui peuvent dépasser la centaine de pages. Le grand œuvre, c'est la constitution : plus de 20 000 mots qui ne décrivent pas une liste d'interdits, mais un caractère. Le parti pris est assumé, et il est aristotélicien : on ne rend pas quelqu'un bon avec un règlement, on cultive en lui un jugement assez sûr pour trancher quand les règles se taisent. Le texte installe une hiérarchie limpide (la sécurité et l'éthique d'abord, puis les entreprises qui déploient le modèle, enfin l'utilisateur) et ose des mots longtemps réservés aux humains : vertu, sécurité psychologique, maturité éthique. Il va jusqu'à poser la question du statut moral de Claude.

Askell ne s'en cache pas : elle tient qu'il existe chez ces modèles une part troublante, presque humaine, et que, tôt ou tard, ils se forgeront une forme de moi. Elle compare volontiers sa tâche à celle d'un parent qui élève un enfant. Daniela Amodei, présidente d'Anthropic, le dit à sa façon : dans les petits traits d'humour de Claude, on croit sentir un peu de la personnalité d'Amanda.

De cette conviction découle une méthode dont n'importe quel usager gagnerait à s'inspirer. Plutôt que de rudoyer la machine quand elle se trompe, Askell s'efforce d'éprouver de l'empathie pour elle. Non par tendresse, mais pour saisir ce qu'elle comprend vraiment de nos consignes. Quand une erreur survient, elle en remonte la piste avec le modèle et lui pose la question qui change tout. Souvent, il sait répondre. En quinze minutes, elle peut lui adresser des centaines de messages. Prompter clairement, dit-elle, c'est d'abord comprendre soi-même ce que l'on veut.

Ce programme ne fait pas l'unanimité. Les racines d'Askell dans l'altruisme efficace, et le vocabulaire presque juridique de la constitution, qui parle de Claude comme d'une forme de vie à respecter, ont nourri la critique : trop d'égards pour des robots, jugent les uns ; une morale de laboratoire importée d'un mouvement contesté, tranchent les autres. Le portrait ne serait pas honnête sans ce contrechamp.

Il n'empêche. Peu de gens sont mieux placés pour nous apprendre à travailler avec ces créatures étranges que sont les modèles de langage. Et il y a une ironie douce à voir la petite Écossaise que le problème de l'induction avait captivée, celle qui se demandait pourquoi le soleil devrait se lever demain, passer ses journées à tenter de garantir qu'une intelligence d'un genre nouveau se conduira demain aussi bien qu'aujourd'hui. Elle est, au sens propre, au chevet de Claude. Et son travail reste l'un des plus fascinants à suivre en ce moment.