ChatGPT : une grande majorité d’utilisateurs suivent les conseils du chatbot d’OpenAI même s’ils sont faux, selon cette étude

Une nouvelle étude montre que quatre utilisateurs de ChatGPT sur cinq suivent aveuglément ses conseils. Et ce, même si ces derniers sont parfaitement faux.

Les chatbots d’IA, tels que Gemini de Google, Claude d’Anthropic ou encore ChatGPT d’OpenAI, font désormais partie intégrante de nos vies. Et pourtant, ces derniers ne sont pas infaillibles, loin de là. On a par exemple pu voir deux touristes frôler la noyade après avoir obtenu des informations erronées de la part de ChatGPT. On a également pu voir un homme terminer à l’hôpital après avoir discuté avec le chatbot d’OpenAI.

Mais il ne faut pas oublier que l’intelligence artificielle est susceptible de commettre des erreurs. D’ailleurs, OpenAI le rappelle constamment, avec un bandeau en bas de page indiquant « ChatGPT peut commettre des erreurs. Vérifiez les informations importantes ».

ChatGPT : serait-on trop dépendant de l’IA ?

Et pourtant, cette nouvelle étude montre que de nombreux utilisateurs affichent une confiance presque aveugle pour le chatbot d’OpenAI. L’étude a porté sur pas moins de 359 participants, qui ont dû répondre à plusieurs questions de raisonnement et de connaissances en utilisant ChatGPT.

Dans 92,7 % des cas, ces derniers ont, à raison, suivi les conseils corrects de l’intelligence artificielle. Mais ce qui est inquiétant, c’est que 79,8 % ont suivi des suggestions parfaitement fausses proposées par le chatbot d’OpenAI.

« Bien que les taux de rejet soient nettement plus élevés lorsque l’IA se trompe que lorsqu’elle est correcte, les participants ont suivi des recommandations erronées dans environ quatre cas sur cinq lorsqu’ils utilisaient le chatbot », expliquent les chercheurs.

À lire > ChatGPT : un utilisateur porte plainte contre OpenAI pour « psychose induite par l’IA »

« La capacité à penser de manière critique, la capacité à vérifier ce que l’IA fournit deviennent de plus en plus importantes avec le temps », ajoute le professeur de marketing Gideon Nave. « C’est une sorte de muscle que nous possédons, et qu’il faut espérer ne pas perdre avec le temps. »

Les chercheurs se posent ici la question de l’autonomie des humains, qui deviendraient inévitablement dépendants de l’intelligence artificielle. « Tout le monde pense que ce moment viendra parce que l’IA devient de plus en plus performante », ajoute le chercheur. « Mais il existe une autre possibilité : que les humains deviennent de plus en plus dépendants de l’IA. Comme aujourd’hui avec la climatisation qui règle la température pour nous, ou les moyens de transport qui nous déplacent sans effort physique. »

Source : futurism