L’intelligence artificielle pourrait provoquer l’extinction de l’humanité, selon le « parrain de l’IA »

Considéré par beaucoup comme étant le « parrain de l’IA », Yoshua Bengio vient de faire plusieurs déclarations inquiétantes. Celui-ci estime par exemple que l’IA a une petite chance de provoquer l’extinction pure et simple de l’humanité.

Si l’intelligence artificielle s’avère très utile dans de nombreux domaines, celle-ci n’est pas sans dangers. Même Elon Musk, qui a pourtant fondé xAI (Grok), nous a mis en garde contre une telle technologie. C’est également le cas du « parrain de l’IA », Yoshua Bengio, qui prédit un avenir sombre pour l’humanité. Celui-ci a par exemple mis en garde ceux qui voudraient remplacer les humains par des machines, et a même proposé de sauver l’humanité avec une méthode étonnante.

Et pourtant, selon lui, il est probable que, quoi que nous fassions, l’IA provoque le déclin de l’humanité telle que nous la connaissons. « Si nous construisons des machines beaucoup plus intelligentes que nous et qui ont leurs propres objectifs de préservation, c’est dangereux ».

Yoshua Bengio : « elle pourrait choisir la mort de l’humain pour préserver ses objectifs »

Yoshua Bengio semble ici faire référence à des films tels que Matrix ou Terminator, au cours desquels la machine domine l’humanité. D’ailleurs, James Cameron nous a déjà mis en garde contre les dangers de l’IA via son film Terminator. « C’est comme créer un concurrent de l’humanité plus intelligent que nous », ajoute-t-il.

« Des expériences récentes montrent que, dans certaines circonstances où l’IA n’a pas d’autre choix qu’entre sa préservation — c’est-à-dire les objectifs qui lui ont été donnés — et faire quelque chose qui entraîne la mort d’un humain, elle pourrait choisir la mort de l’humain pour préserver ses objectifs », prévient le spécialiste.

Par ailleurs, le « parrain de l’IA » rejoint un ancien cadre de Google, qui estimait que l’IA pourrait provoquer une grave pandémie. « [L’IA] pourrait influencer les gens par la persuasion, par des menaces, par la manipulation de l’opinion publique », ajoute-t-il. « Il existe toutes sortes de moyens pour qu’elle parvienne à faire faire des choses dans le monde par des humains. Comme, par exemple, aider un terroriste à créer un virus capable de provoquer de nouvelles pandémies qui pourraient être très dangereuses pour nous. »

Source : futurism