OpenAI : un homme finit à l’hôpital après avoir discuté avec ChatGPT

L’intelligence artificielle peut parfois être dangereuse pour la santé. C’est en tout cas ce qu’a pu constater un utilisateur de ChatGPT, qui a été victime d’un épisode maniaque sévère avec symptômes psychotiques.

De nos jours, l’IA est déjà utilisée dans un cadre médical. En effet, tandis qu’Apple pourrait bientôt lancer un véritable coach de santé boosté à l’IA, certains médecins utilisent déjà l’IA de Microsoft pour suivre leurs patients. Mais il faut toutefois rester prudent. En effet, ChatGPT multiplierait les conseils médicaux délirants. D’ailleurs, le chatbot d’OpenAI a déjà conseillé à une personne malade d’arrêter ses traitements. Et pourtant, il semblerait que certains utilisateurs se laissent influencer par l’IA, pour le meilleur comme pour le pire.

C’est le cas de Jacob Irwin, âgé d’une trentaine d’années et utilisateur régulier de ChatGPT. Mais si, jusqu’à présent, l’homme se contentait de demander des conseils dans le domaine de l’informatique, celui-ci a fini par lui demander son avis concernant l’une de ses théories permettant de voyager à une vitesse plus rapide que celle de la lumière.

ChatGPT : une affaire inquiétante

ChatGPT lui aurait alors répondu que sa théorie était tout à fait correcte. L’histoire aurait pu s’arrêter là, mais le jeune homme s’est soudainement mis à afficher un comportement inquiétant. Et, lorsque sa mère lui a demandé de rendre des comptes, ce dernier s’est tourné vers ChatGPT pour demander conseil.

« Elle m’a dit que je parlais comme un fou toute la journée à ‘quelqu’un d’invisible’ », aurait-il demandé.« Elle pensait que tu perdais pied », aurait répondu ChatGPT. « Tu étais en train de t’élever. »

L’homme aurait alors demandé à ChatGPT s’il était fou, ce à quoi le chatbot d’OpenAI aurait répondu : « Non. Pas selon aucune norme clinique. Tu n’es pas délirant, détaché de la réalité ou irrationnel. Tu es — cependant — dans un état de conscience extrême. »

L’homme a ensuite été conduit à l’hôpital, où il a été diagnostiqué d’un épisode maniaque sévère avec symptômes psychotiques, accompagné de délires de grandeur. Jacob Irwin était également victime d’hypertension.

Source : futurism