ChatGPT va mettre en place un marqueur pour différencier ses textes de ceux des humains
Encensé puis critiqué… Depuis son apparition en décembre dernier, le générateur de texte par intelligence artificielle ChatGPT est passé par tous les états, preuve de l’importance de son impact.
Le chatbot, développé par la startup américaine OpenAI à qui l’ont doit aussi DALL-E, a tellement impressionné par sa justesse qu’il a fini par inquiéter beaucoup d’observateurs. A commencer par les universitaires qui y voient une méthode facile de rédiger des mémoires, des dissertations ou des thèses, du moins en partie.
Mais de la même façon que OpenAI tente de corriger son chatbot pour éviter qu’il ne reproduise les biais racistes ou sexistes de la société, l’entreprise compte aussi lutter contre les dérives potentielles.
Un signal imperceptible
« Fondamentalement, chaque fois que GPT génère un texte long, nous voulons qu’il y ait un signal secret imperceptible dans ses choix de mots, que vous pouvez utiliser pour prouver plus tard que, oui, cela vient de GPT » expliquait récemment dans une conférence Scott Aaronson, un chercheur du MIT qui a récemment rejoint la startup.
« Cela pourrait être utile pour prévenir le plagiat universitaire, évidemment, mais aussi, par exemple, la génération massive de propagande – vous savez, spammer chaque blog avec des commentaires soutenant l’invasion de l’Ukraine par la Russie, sans même avoir besoin d’un bâtiment plein de trolls à Moscou. Ou se faire passer pour le style d’écriture de quelqu’un afin de l’incriminer » énumère le chercheur.
Si ce dernier n’explique par concrètement comment une université ou un même un particulier pourrait vérifier la présence de ce marqueur, il assure que le signal sera suffisamment complexe et efficace pour repérer de simples bouts de phrases ajoutés à un texte. Une manière de corriger un des biais de ChatGPT.Source : BFM
Le 14 octobre, à San Francisco, Anthropic a présenté à de futurs investisseurs un chiffre d’affaires trimestriel de 16,8 milliards de dollars, selon le Financial Times. Après un deuxième trimestre qui avait plus que doublé, la hausse retombe à 45 %.
Le 14 octobre, l’action CoreWeave a perdu jusqu’à 16 % et ses obligations 2032 ont glissé sous 80 cents, pour un rendement de 15 %. Le loueur de puces de l’IA affiche 104 milliards de commandes et 35,6 milliards de dette.
Le patron néo-zélandais de Kroger, ancien chef de Walmart aux États-Unis, supprime 3 000 postes du siège en 3 ans au nom de l’IA. Son contrat, déposé à la SEC, prévoit 16,5 millions de dollars de rémunération cible annuelle.
Huit écrans en une minute : la Naissance, le Terminal, le Ciel, l’Accord, le Registre, la Bibliothèque, la Page d’après et L’Oracle en direct.
Selon Reuters, Anthropic et OpenAI ont cherché, jusqu’au 5 octobre au moins, à contrôler ce que leurs évaluateurs externes peuvent publier, au nom du secret des affaires. En septembre, Dario Amodei défendait l’inverse.
Le 13 octobre, Microsoft a publié des correctifs pour plus de 1 400 failles, dont au moins 78 critiques et une déjà exploitée. En 2020, l’année record, l’éditeur en avait corrigé 1 261 en douze mois.