Ces outils d’IA médicaux pourraient pousser les médecins à la faute, voici pourquoi

De plus en plus de médecins utilisent l’intelligence artificielle pour prendre des notes pendant leurs consultations. Mais un nouveau rapport laisse entendre que l’IA serait en mesure d’halluciner, et de retranscrire des informations erronées.

L’intelligence artificielle est en train de se tailler une place dans le monde de la médecine. Celle-ci alimente par exemple un stéthoscope qui pourrait révolutionner la médecine moderne. Des médecins commencent par ailleurs à utiliser l’IA de Microsoft pour suivre leurs patients. Mieux encore : selon une étude d’Harvard, aux urgences, l’IA serait plus efficace que des médecins en chair et en os. Et pourtant, une telle technologie n’est pas sans défauts.

En effet, aussi perfectionnée soit-elle, l’intelligence artificielle peut parfois être victime d’hallucinations, et se tromper lourdement. On a par exemple pu voir le célèbre ChatGPT d’OpenAI recommander à une personne malade d’arrêter ses traitements. Mais cela n’empêche pas certains professionnels de la santé d’avoir recours à l’IA dans un cadre bien particulier.

Les erreurs de l’IA sont-elles dangereuses pour la santé ?

Certains médecins ont recours à un assistant de rédaction basé sur l’IA. Ce logiciel écoute la conversation tenue avec le patient, la retranscrit et la synthétise. Mais dans certains cas, l’intelligence artificielle se tromperait lourdement. C’est en tout cas ce que suggère un rapport publié par un organisme de contrôle relevant de l’Assemblée législative de l’Ontario.

Après avoir étudié une vingtaine de systèmes d’IA spécialisés dans ce domaine, le rapport affirme : « Tous les systèmes d’IA des 20 fournisseurs approuvés [par le gouvernement] présentaient une ou plusieurs inexactitudes lors de la phase de tests d’acquisition », telles que des « hallucinations (fabrications), des informations incorrectes, ou des informations manquantes ou incomplètes ».

Et, selon ce rapport, les « inexactitudes » générées par l’IA pourraient entraîner de mauvais traitements : « Les inexactitudes dans les notes médicales générées par les systèmes d’IA de prise de notes pourraient potentiellement entraîner des plans de traitement inadéquats ou dangereux susceptibles d’avoir un impact sur les résultats de santé des patients ».

Le ministre des Services publics et de la Prestation des services de l’Ontario, Stephen Crawford, a toutefois tenu à relativiser la situation. « Soyons très clairs : cela ne concerne pas une utilisation opérationnelle réelle par les médecins », explique-t-il. « Cela se produit au stade optionnel où nous évaluons les différents assistants. »   

Source : futurism