L’intelligence artificielle pourrait bientôt demander ses droits, selon le patron de Microsoft

Le responsable de l’IA chez Microsoft, Mustafa Suleyman, vient de faire une déclaration étonnante. Selon lui, certains utilisateurs sont si attachés à leurs chatbots qu’ils pourraient un jour militer pour que ceux-ci aient des droits.

Ces derniers temps, l’intelligence artificielle a beaucoup fait parler d’elle, pour le meilleur comme pour le pire. En effet, de plus en plus d’utilisateurs ont tendance à trop écouter la machine, qui peut parfois leur faire faire plus ou moins n’importe quoi. ChatGPT a par exemple conseillé à une personne malade d’arrêter ses traitements. D’ailleurs, l’un d’entre eux a terminé à l’hôpital après avoir, lui aussi, discuté avec le chatbot d’OpenAI.

Il est vrai que de nombreuses personnalités, dont Elon Musk, nous ont déjà mis en garde contre les dangers d’une IA hors de contrôle. L’une d’entre elles, Mustafa Suleyman, ancien de Google et désormais responsable de l’IA pour Microsoft, a tout simplement estimé que l’IA pourrait provoquer une grave pandémie.

Mustafa Suleyman : « Les IA ne peuvent pas être des personnes »

Le responsable revient donc à la charge, en mettant une nouvelle fois en garde les utilisateurs. « Ma principale inquiétude est que beaucoup de gens finissent par croire si fort à l’illusion des chatbots IA comme entités conscientes qu’ils vont bientôt militer pour des droits des IA », affirme-t-il. « Ce développement marquerait un tournant dangereux dans les progrès de l’IA et mérite notre attention immédiate ».

Ainsi, Mustafa Suleyman craint que nous nous mettions à considérer l’IA comme une véritable personne, et non comme un simple outil au service de l’humanité. « Pour commencer, les entreprises d’IA ne devraient pas prétendre ni encourager l’idée que leurs IA sont conscientes », affirme-t-il. « Élaborer une définition et une déclaration consensuelles sur ce qu’elles sont et ce qu’elles ne sont pas constituerait une première étape. Les IA ne peuvent pas être des personnes — ni des êtres moraux ».

« Nous devons construire l’IA pour les gens, et non pas pour en faire une personne numérique », ajoute le responsable. « Les compagnons IA constituent une catégorie totalement nouvelle, et il est urgent de commencer à discuter des garde-fous que nous devons mettre en place pour protéger les individus et garantir que cette technologie extraordinaire puisse remplir son rôle : offrir une immense valeur au monde ».

Source : futurism