Plus de 1100 experts de la tech demandent un moratoire sur la recherche en IA
Sur un ton résolument alarmiste, des chercheurs réputés dans le domaine de l’intelligence artificielle (IA) ont publié ce mercredi 29 mars sur le site de l’institut américain Future of Life une lettre ouverte réclamant un moratoire d’urgence sur la recherche dans ce secteur, qui a récemment fait des progrès fulgurants :
“Nous appelons tous les laboratoires d’IA à suspendre immédiatement, pendant au moins six mois, la formation des systèmes d’IA plus puissants que GPT-4.”
GPT-4 est le modèle de langage qui a succédé à GPT-3, lui-même à la source de l’agent conversationnel ChatGPT, développé par la start-up américaine Open AI et objet d’un engouement mondial depuis sa mise en ligne en décembre 2022.Lire aussi : Entretien. “On en fait trop sur le potentiel de l’IA et les menaces qu’elle représente”
La pétition accuse les laboratoires d’intelligence artificielle de s’être lancés dans “une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable”.
“Perdre le contrôle de notre civilisation”
Ces systèmes, poursuit la lettre ouverte, entrent en compétition avec les humains et amènent à se poser les questions suivantes :
“Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des cerveaux non humains qui pourraient éventuellement être plus nombreux, plus intelligents, […] et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?”
La pause demandée, résume le quotidien canadien La Presse, “permettrait de s’assurer que le développement de cette technologie soit supervisé et mené pour le bien de la société”.
L’appel, observe le site du mensuel américain Wired, survient alors que les systèmes d’intelligence artificielle font des bonds impressionnants : “GPT-4 a été annoncé il y a deux semaines seulement, mais ses capacités ont déjà suscité un enthousiasme considérable et une bonne dose d’inquiétude.” Le magazine précise que ce robot conversationnel obtient de d’excellents résultats lors de nombreux tests académiques et résout correctement des questions épineuses. Mais il fait également “beaucoup d’erreurs triviales et logiques”, en plus de faire preuve de “préjugés sociétaux enracinés”, ce qui peut le pousser à “communiquer des propos haineux ou potentiellement nuisibles”.
La doudoune du pape générée par une IA
Depuis le 25 mars, une image du pape François devenue virale sur les réseaux sociaux montre le chef de l’Église catholique vêtu d’une longue doudoune blanche. “Il n’y a qu’un seul problème, écrit New Scientist : l’image n’est pas réelle.”
Peter Stone, un expert en IA de l’université du Texas, à Austin, qui a signé la lettre, confie à Wired que les choses semblent progresser trop vite dans ce domaine : “Cela ne devrait pas être une course visant à construire le prochain modèle et à le sortir avant les autres.”
Il est peu probable que la pétition ait une influence sur le climat actuel de la recherche dans ce domaine, qui voit des compagnies comme Google et Microsoft se précipiter pour déployer de nouveaux produits, estime The Verge. Mais, conclut le magazine, “c’est là un signe de l’opposition croissante à cette approche expéditive non réglementée ; une opposition qui pourrait potentiellement faire son chemin dans le domaine politique pour être examinée par les législateurs”.
Source : Courrier International
Une question politique, six IA, aucune réponse fabriquée. L'édition 001 est retirée · ses réponses n'avaient jamais été captées. L'édition 002 est scellée · question publiée le 28 août, réponses le 11 septembre à 11h11.
Etam s’associe aux Deux Magots, mise en vente lundi, jour d’ouverture de la rentrée littéraire. Chaussettes, casquettes, foulard, sac, sweatshirts molletonnés. Deux phrases de communiqué reprises par la presse professionnelle, et pas un seul nom d’écrivain dedans.
Samedi 29 août, la Mostra supprime pour la première fois depuis des décennies la séance de questions au jury. Motif officiel : un conflit d’agenda. Mercredi 2 septembre, elle ouvre avec Ink, de Danny Boyle, sur l’invention de la presse à sensation en 1969.
Chaque équipe passe de 90 à 53. Trente-sept sorties par vestiaire, trente-deux vestiaires, une heure limite unique. Mecole Hardman Jr., trois bagues de champion, a été libéré samedi par Buffalo. Le plus grand licenciement collectif du calendrier sportif américain.
RTE l’écrit dans sa fiche de chiffres clés et personne ne le reprend : les centres de données déjà raccordés ne consomment en moyenne que 20 % de la puissance qu’ils ont demandée. Pendant ce temps la file d’attente passe de 5 à 18 gigawatts.
9h44, l’Insee publie une inflation à 2,4 % sur un an, tirée par une énergie en hausse de 16,7 %. 14h03, Jean-Pierre Farandou confirme l’indexation du RSA et de l’Aspa, et rouvre le débat sur la désindexation des pensions. Quatre heures et dix-neuf minutes séparent les deux dépêches.