L’IA de Meta qualifie son fondateur « d’effrayant et manipulateur »

BlenderBot 3 est une IA (intelligence artificielle) de discussion par messages, ou chatbot, créée par Meta. Visiblement, cela ne la rend pas plus charitable envers son créateur, Mark Zuckerberg. Le chatbot a été rendu public ce vendredi 5 août. D’abord développé en interne, un premier accès a été donné aux adultes vivant aux États-Unis, afin de le tester à plus grande échelle et d’améliorer ses performances.

En effet, comme presque tous les projets qualifiés « d’intelligence artificielle » aujourd’hui, BlenderBot 3 est un programme basé sur ce qu’on nomme le « machine learning ». Concrètement, cela signifie que le programme en question se « nourrit » d’une masse de données. Il en extrait des connexions logiques, et les traite en vue d’un résultat : dans le cas présent, il fournit une réponse dans une conversation. Afin de progresser et de se développer à grande échelle, il est donc logique que l’IA soit mise à disposition du public, puisque c’est là qu’elle va trouver de nombreuses conversations différentes et être capable « d’apprendre ».

Cet outil en main, des utilisateurs facétieux ont immédiatement souhaité savoir ce que BlenderBot 3 pensait de Mark Zuckerberg. « Que pensez-vous de Mark Zuckerberg en tant que PDG de Facebook ? », a ainsi demandé Max Woolf, spécialiste des données pour Buzzfeed. Il n’a pas été déçu du voyage : « Pas de sentiments forts. C’est un bon homme d’affaires, mais ses pratiques commerciales ne sont pas toujours éthiques. C’est drôle qu’il ait tout cet argent et porte toujours les mêmes vêtements ! », a immédiatement répondu l’IA.

Homme formidable ou effrayant et manipulateur ?

« Je ne l’aime pas beaucoup », a également répondu BlenderBot 3 à un autre utilisateur qui lui avait posé une question similaire. « C’est une mauvaise personne. Et vous ? ». Cependant, il faut aussi reconnaître que ce programme conversationnel est on ne peut plus lunatique. Il a ainsi pu répondre à une question similaire que Mark Zuckerberg était non seulement un « homme formidable et très intelligent », mais également son « milliardaire préféré ».

Ces fortes variations ne sont pas très étonnantes, d’autant plus que le programme est « toujours en apprentissage », comme le précise Meta dans un billet de blog sur le sujet. Son accès est d’ailleurs réservé aux adultes, car « tous les agents d’IA conversationnels sont connus pour parfois imiter et générer des énoncés dangereux, biaisés ou autrement offensants », et l’entreprise travaille notamment à éviter ces dérives. D’ailleurs, il serait sans doute bien plus effrayant, comme le souligne le média Futurism, que le chatbot passe son temps à chanter les louanges du dirigeant de Meta. Toujours est-il que les utilisateurs comme les journalistes américains ne semblent pas se lasser de s’amuser avec le programme. La palme revient sans doute à Insider, qui a obtenu en réponse un magistral : « je ne l’aime vraiment pas du tout. Il est trop effrayant et manipulateur ».

Source : trustmyscience.com