Le “parrain de l’IA” s’inquiète toujours plus de son évolution

Yoshua Bengio, considéré par beaucoup comme le “parrain de l’IA”, s’inquiète. En effet, ce dernier déplore l’évolution de cette technologie, qui serait capable de mentir et de tromper les utilisateurs.

De nos jours, des IA tels que ChatGPT sont partout dans notre quotidien. Et pourtant, de nombreuses personnalités nous ont mis en garde contre ses dangers. On pense par exemple à James Cameron via son film Terminator, ou encore à Elon Musk, qui a pourtant lancé sa propre entreprise d’IA, xAI. Même l’un des créateurs de l’IA, Yoshua Bengio, a récemment exprimé ses regrets. En effet, celui-ci craint que cette technologie ne finisse par remplacer la majorité des travailleurs humains.

Mais cette fois, le spécialiste pointe du doigt l’IA pour de toutes autres raisons. En effet, Yoshua Bengio estime que l’intelligence artificielle est désormais susceptible de mentir, de tromper, et d’effectuer des actions malveillantes pour les utilisateurs. « Je suis profondément préoccupé par les comportements que les systèmes d’IA autonomes commencent déjà à manifester », affirme-t-il.

L’IA peut-elle être dangereuse pour l’humanité ?

Yoshua Bengio cite notamment une étude menée par Anthropic sur son chatbot Claude. Lors de ce test, les chercheurs ont annoncé à l’IA qu’elle allait bientôt être supprimée. Le chatbot aurait alors menacé l’employé concerné de dévoiler des détails compromettants sur sa vie privée.

Dans ce cadre, le spécialiste vient de lancer LawZero, une nouvelle entreprise à but non lucratif qui aurait été « créée en réponse aux preuves que les modèles d’IA de pointe actuels ont des capacités et des comportements de plus en plus dangereux […] notamment la tromperie, la tricherie, le mensonge, le piratage, l’instinct de conservation et, plus généralement, le désalignement des objectifs ».

« Ces incidents sont les premiers signes avant-coureurs des types de stratégies involontaires et potentiellement dangereuses que l’IA pourrait adopter si elle n’était pas contrôlée », prévient Yoshua Bengio.

Le spécialiste estime que l’IA devrait être correctement formée pour répondre aux besoins des utilisateurs. « Au lieu d’un acteur formé pour imiter ou plaire aux gens (y compris les sociopathes), imaginez une IA formée comme un psychologue — ou plus généralement un scientifique — qui essaie de nous comprendre, y compris ce qui peut nous nuire », explique-t-il. « Le psychologue peut étudier un sociopathe sans agir comme lui. »

Source : futurism