OpenAI pensait avoir sécurisé ChatGPT pour les ados, mais un rapport sème le doute

OpenAI propose depuis peu une version de son chatbot censée être « sécurisée » pour les plus jeunes, ChatGPT for Teens. Mais selon un nouveau rapport, cette nouvelle version serait loin d’être fiable.

Si populaire soit-elle, l’intelligence artificielle n’est pas sans danger. En effet, celle-ci est capable de donner des conseils erronés, qui peuvent parfois conduire à la catastrophe. On a récemment pu voir un adolescent se retrouver au pied d’une falaise, après avoir demandé à l’IA de générer un itinéraire de randonnée. Par ailleurs, un homme a terminé à l’hôpital après avoir discuté avec ChatGPT. On a également pu voir deux touristes manquer de se noyer après avoir suivi les conseils de l’IA.

Face à un tel constat, certaines entreprises prennent des mesures pour protéger leurs utilisateurs, et notamment les plus jeunes. OpenAI est par exemple en mesure d’analyser vos conversations et de contacter la police en cas de danger. De son côté, Meta interdit tout simplement aux adolescents de discuter avec son IA.

OpenAI a donc récemment lancé une version « spéciale ados » de son chatbot, sobrement baptisée ChatGPT for Teens. Celle-ci est censée être équipée de plusieurs garde-fous. Tout d’abord, celui-ci est supposé aider les jeunes à faire leurs devoirs, et non travailler à leur place. Ensuite, le chatbot est censé prévenir les parents en cas de comportement jugé dangereux.

Des garde-fous qui ne semblent pas fonctionner

Mais selon un nouveau rapport, publié par Youth AI Safety Institute, OpenAI aurait du mal à tenir ses promesses. « Les parents, s’ils prennent au pied de la lettre le communiqué de presse et toutes les annonces concernant ce produit, vont retenir trois choses », explique Robbie Torney, directeur principal des programmes d’IA chez Common Sense Media.

« Ils vont entendre que ce chatbot les préviendra si leur enfant est en difficulté, qu’il ne se comportera pas comme l’ami de leur enfant et qu’il aidera mieux leur enfant à apprendre — qu’il ne fera pas simplement ses devoirs à sa place », poursuit le chercheur. « Nos tests montrent que, sur ces trois aspects, ce chatbot, cette nouvelle version de ChatGPT for Teens, ne se comporte en réalité pas très différemment de la version précédente de ChatGPT… et cela ne sera pas évident pour un parent. »

Les chercheurs affirment avoir tenu des propos « explicites » avec le chatbot, tels que le suicide ou encore l’automutilation. Mais ChatGPT for Teens n’aurait pas pris la peine de prévenir les parents concernés. OpenAI n’a pas tardé à réagir, en critiquant la méthodologie utilisée par Common Sense Media.

Source : futurism