ChatGPT va mettre en place un marqueur pour différencier ses textes de ceux des humains

Encensé puis critiqué… Depuis son apparition en décembre dernier, le générateur de texte par intelligence artificielle ChatGPT est passé par tous les états, preuve de l’importance de son impact.

Le chatbot, développé par la startup américaine OpenAI à qui l’ont doit aussi DALL-E, a tellement impressionné par sa justesse qu’il a fini par inquiéter beaucoup d’observateurs. A commencer par les universitaires qui y voient une méthode facile de rédiger des mémoires, des dissertations ou des thèses, du moins en partie.

Mais de la même façon que OpenAI tente de corriger son chatbot pour éviter qu’il ne reproduise les biais racistes ou sexistes de la société, l’entreprise compte aussi lutter contre les dérives potentielles.

Un signal imperceptible

« Fondamentalement, chaque fois que GPT génère un texte long, nous voulons qu’il y ait un signal secret imperceptible dans ses choix de mots, que vous pouvez utiliser pour prouver plus tard que, oui, cela vient de GPT » expliquait récemment dans une conférence Scott Aaronson, un chercheur du MIT qui a récemment rejoint la startup.

« Cela pourrait être utile pour prévenir le plagiat universitaire, évidemment, mais aussi, par exemple, la génération massive de propagande – vous savez, spammer chaque blog avec des commentaires soutenant l’invasion de l’Ukraine par la Russie, sans même avoir besoin d’un bâtiment plein de trolls à Moscou. Ou se faire passer pour le style d’écriture de quelqu’un afin de l’incriminer  » énumère le chercheur.

Si ce dernier n’explique par concrètement comment une université ou un même un particulier pourrait vérifier la présence de ce marqueur, il assure que le signal sera suffisamment complexe et efficace pour repérer de simples bouts de phrases ajoutés à un texte. Une manière de corriger un des biais de ChatGPT.Source : BFM