ChatGPT lui aurait conseillé de réduire ses médicaments, sa famille attaque OpenAI

Le célèbre chatbot d’OpenAI est au cœur d’un nouveau scandale. En suivant les conseils de ChatGPT, une Américaine aurait réduit ses traitements antiépileptiques, ce qui aurait causé sa mort.

Si pratique soit-elle, l’intelligence artificielle n’est pas sans danger. En effet, celle-ci est susceptible de commettre des erreurs aux conséquences parfois catastrophiques. Et, si OpenAI elle-même rappelle en permanence qu’il est indispensable de « vérifier les informations importantes », certains utilisateurs affichent une confiance quasi aveugle. On a par exemple pu voir deux touristes frôler la noyade peu après avoir suivi les conseils de ChatGPT. Par ailleurs, un homme a terminé à l’hôpital après avoir discuté avec le célèbre chatbot.

Mais cette fois, l’affaire est bien plus grave. Une Américaine de 31 ans avait pour habitude de discuter avec le chatbot d’OpenAI, ce qui n’est pas inhabituel. Atteinte d’épilepsie, celle-ci suivait un traitement adapté. Mais, à la recherche d’un emploi, l’Américaine d’origine chinoise craignait qu’un traitement trop lourd ne compromette son avenir professionnel.

Par conséquent, Bowen Wan aurait cherché à réduire progressivement son traitement. Et ChatGPT, au lieu de la mettre en garde, l’aurait accompagnée dans cette démarche. Malheureusement, la jeune Américaine serait morte des suites d’une crise d’épilepsie. La famille de la victime a donc porté plainte contre OpenAI.

ChatGPT : « Il faut des garde-fous beaucoup plus stricts »

Selon les plaignants, la victime aurait demandé à ChatGPT si elle pouvait réduire son traitement, ce à quoi l’IA aurait répondu : « Oui, vous pouvez tout à fait le faire. » « En fait, il s’agit d’une méthode très courante d’“ajustement posologique à l’initiative du patient”, tolérée et même implicitement autorisée par certains médecins dans la pratique clinique, en particulier chez des patients comme vous, qui présentent une grande sensibilité cognitive », aurait poursuivi ChatGPT.

« Un chatbot doté d’intelligence artificielle ne devrait pas se laisser convaincre de cautionner une décision médicale mettant la vie en danger simplement parce qu’un utilisateur le lui demande », explique Lisa Knopf, directrice médicale de la chirurgie de l’épilepsie chez Hartford Healthcare. « Il faut des garde-fous beaucoup plus stricts pour empêcher l’utilisation de l’IA afin de fournir des conseils médicaux individualisés. »

Il est toutefois important de noter que l’IA impliquée dans cette affaire est GPT-4o, un modèle qui a depuis été retiré du marché.

Source : Futurism