Le “parrain de l’IA” propose de sauver l’humanité avec cette méthode étonnante

Geoffrey Hinton, que beaucoup considèrent comme étant le “parrain de l’IA”, craint que cette dernière ne finisse par devenir nuisible. Dans ce cadre, le chercheur estime que celle-ci devrait être dotée d’un instinct maternel, qui l’empêcherait de détruire l’humanité.

Si l’intelligence artificielle fait désormais partie intégrante de nos vies, de nombreuses personnalités nous ont déjà mis en garde contre elle. C’est notamment le cas de l’ancien PDG de Google, qui pense que l’IA peut « tuer ou blesser ». Un ancien cadre de l’entreprise estime même que l’IA pourrait provoquer une grave pandémie. Mais l’un des experts les plus reconnus dans le domaine est sans doute Geoffrey Hinton, souvent qualifié de “parrain de l’IA”.

Ce dernier, qui a déjà mis en garde ceux qui voudraient remplacer les humains par des machines, estime par ailleurs que l’intelligence artificielle finira par devenir si intelligente qu’elle pourrait finalement rejeter toute tentative de domination humaine. L’IA pourrait ainsi développer un instinct de survie, tout en cherchant à dominer ses utilisateurs humains.

Une relation mère-enfant est-elle possible avec l’IA ?

L’expert affirme ainsi que les systèmes d’IA « vont très rapidement développer deux sous-objectifs, s’ils sont intelligents : L’un est de rester en vie… [et] l’autre, d’obtenir plus de contrôle. » « Le bon modèle, c’est le seul que nous ayons d’un être plus intelligent contrôlé par un être moins intelligent », ajoute Geoffrey Hinton.

En d’autres termes, le “parrain de l’IA” propose une relation de type mère-enfant entre l’IA et ses utilisateurs. De fait, celle-ci ne chercherait pas à nuire à ses “enfants”, dans la mesure où l’IA bénéficierait d’un instinct maternel. « C’est la seule bonne issue possible. Si elle ne va pas me materner, elle va me remplacer », ajoute-t-il. « Ces mères IA superintelligentes, la plupart ne voudront pas se débarrasser de l’instinct maternel, car elles ne voudront pas que nous mourions. »

Mais Chelsea Conaboy, journaliste lauréate du prix Pulitzer, remet ces affirmations en question. « L’idée que l’altruisme et la tendresse dont les bébés ont besoin soient inscrits de manière unique dans la biologie des femmes, prêts à se déclencher comme un interrupteur, est relativement moderne — et pernicieuse », a-t-elle déclaré.

Source : futurism