Ce bot a publié des centaines de commentaires sur Reddit avant d’être repéré


Il y a un mois, le quotidien britannique The Guardian a surpris en publiant un éditorial entièrement rédigé par une IA. L’initiative a été plutôt critiquée pour son manque de transparence mais elle n’en demeure pas moins intéressante. Pour réaliser cette prouesse, les équipes du journal ont fait appel à GPT-3, un outil développé par OpenAI. Ce générateur de langage est capable de rédiger des textes relativement clairs et d’échanger avec des humains dans le cadre de discussions écrites.

Ce bot a justement été utilisé sur Reddit pendant près d’une semaine avant d’être démasqué. Il opérait sous le nom de u / thegentlemetre et interagissait avec des personnes sur le très populaire subreddit / r / AskReddit. Ce qui surprend ici, c’est que la plupart des utilisateurs n’y ont vu que du feu, tant les expressions employées dans les centaines de commentaires postés semblaient humaines.

Une affaire qui incite à la prudence

Si la plupart des commentaires ne portaient pas à conséquences, certains abordaient des sujets sensibles tels que les théories du complot ou encore le suicide. On ne sait donc pas vraiment comment GPT-3 se serait comporté sur le long terme.

L’IA a fini par attirer l’attention de certains utilisateurs qui l’ont démasqué. Ainsi, Philip Winston a remarqué l’écriture de u / thegentlemetre était très proche d’un outil développé précédemment du nom de Philosopher AI. Ce dernier répond aux questions des internautes sur des sujets philosophiques. Son créateur n’a aucune intention de voir son service utilisé de manière automatisée et le bot a donc été bloqué sur Reddit.

Cette affaire pose en tout cas question. Comme le rappelle la MIT Technology Review, OpenAI a par le passé indiqué que son précédent GPT-2 était trop dangereux pour être divulgué au public. En ce qui concerne GPT-3, sa politique est aussi assez stricte et l’entreprise ne donne accès à sa technologie qu’à des personnes triées sur le volet.



Source link

Please follow and like us:

Soyez le premier à commenter

Poster un Commentaire

Votre adresse de messagerie ne sera pas publiée.


*


Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.