ChatGPT doit-il se soumettre au secret professionnel ? Sam Altman répond

De plus en plus d’utilisateurs posent des questions d’ordre médical à ChatGPT. Mais, une IA restant une IA, lui demander de se soumettre au secret professionnel serait particulièrement compliqué selon Sam Altman, patron d’OpenAI.

L’intelligence artificielle est en train de s’immiscer dans de nombreux domaines, y compris celui de la santé. Ainsi, tandis que certains médecins utilisent déjà l’IA de Microsoft pour suivre leurs patients, OpenAI veut créer un véritable coach de santé alimenté par l’IA. Mais parfois, celle-ci est capable de donner des conseils délirants. On a par exemple pu voir ChatGPT conseiller à une personne malade d’arrêter ses traitements, ou encore un utilisateur du chatbot d’OpenAI finir à l’hôpital.

Toutefois, l’IA continue à prendre toujours plus de place dans le domaine de la santé, à tel point que certains utilisateurs se demandent si, comme tout médecin, ChatGPT devrait être soumis au secret professionnel pour protéger la vie privée de ses patients. Ces interrogations semblent inquiéter le patron d’OpenAI, Sam Altman, qui a déjà exprimé certaines inquiétudes quant à l’avenir de l’IA.

OpenAI : « Personne ne pensait à ça il y a encore un an »

« Je pense que c’est vraiment problématique. On devrait avoir le même niveau de confidentialité dans nos échanges avec une IA que celui qu’on attend d’un thérapeute ou autre. Mais personne ne pensait à ça il y a encore un an », déclare le responsable.

« Les gens parlent à ChatGPT des choses les plus personnelles de leur vie », ajoute le patron d’OpenAI. « Les gens l’utilisent — surtout les jeunes — comme un thérapeute, un coach de vie ; ils viennent avec des problèmes de couple, demandent : « Qu’est-ce que je devrais faire ? » Et aujourd’hui, si vous parlez de tout cela à un thérapeute, un avocat ou un médecin, il y a un secret professionnel. Ce n’est pas encore le cas avec ChatGPT. »

Quoi qu’il en soit, les problèmes de confidentialité et de protection de la vie privée sont déjà bien présents dans le domaine. Une nouvelle fonctionnalité d’IA présentée par Google pourrait, par exemple, nuire gravement à la vie privée de ses utilisateurs. De son côté, Apple a récemment dévoilé Visual Intelligence, une IA qui espionne votre écran.

Source : techcrunch