Intelligence artificielle et santé : une revue médicale réputée vous met en garde

L’explosion du nombre d’utilisateurs d’IA « médicales » inquiète les chercheurs. Ces derniers ont publié un long éditorial dans la prestigieuse revue Nature Medicine.

Aujourd’hui, l’intelligence artificielle est partout, y compris dans le monde de la santé. On a par exemple pu voir un stéthoscope alimenté par l’IA, ainsi que d’autres assistants de santé alimentés par l’intelligence artificielle. On pense notamment à OpenAI, qui a récemment lancé ChatGPT Health. Le créateur du célèbre chatbot a été suivi de près par Microsoft, qui a depuis dévoilé Copilot Health, ainsi que Perplexity, avec Perplexity Health.

De plus en plus d’utilisateurs se tournent vers l’IA pour demander des conseils de santé. Et pourtant, celle-ci n’est pas infaillible, loin de là. En effet, un système d’intelligence artificielle ne remplacera – probablement – jamais votre médecin. Des scientifiques ont donc décidé de se pencher sur la question.

L’intelligence artificielle médicale doit-elle être encadrée ?

Et, le moins que l’on puisse dire, c’est que l’éditorial publié dans la revue Nature Medicine est plutôt sévère. Celui-ci laisse en effet entendre que le recours à l’IA peut créer des « incertitudes ». La revue demande également que l’utilisation de l’IA dans un contexte médical soit encadrée. D’une manière générale, les scientifiques expliquent que l’IA ne créerait quasiment pas de valeur pour les patients.

« Dans les publications et les documents produits par les entreprises, les affirmations concernant l’impact clinique deviennent de plus en plus fréquentes, alors même qu’il n’existe pas de consensus clair sur le niveau de preuve requis pour juger ces affirmations crédibles », peut-on lire dans l’éditorial de Nature Medicine. « Le résultat est non seulement une incertitude scientifique, mais aussi, bien souvent, une mise en œuvre et une adoption prématurées. »

« Les preuves que les outils d’IA créent de la valeur pour les patients, les prestataires ou les systèmes de santé restent rares », poursuit la revue, tout en appelant à la création d’un « cadre définissant comment les technologies médicales basées sur l’IA doivent être évaluées, selon quels indicateurs et par rapport à quels critères de référence ».

Pas de valeur ajoutée pour les patients, c’est possible. En revanche, ce pourrait être le cas pour les médecins eux-mêmes. On a par exemple pu voir des médecins commencer à utiliser l’IA de Microsoft pour suivre leurs patients. Il est toutefois important de noter qu’un autre rapport laisse entendre que l’IA rendrait votre médecin moins performant.

Source : Nature