Intelligence artificielle : l’un des créateurs de l’IA exprime ses regrets

L’évolution actuelle de l’IA passionne autant qu’elle inquiète. Yoshua Bengio, célèbre informaticien considéré comme l’un des trois « parrains » de l’intelligence artificielle, exprime aujourd’hui certains regrets…

L’intelligence artificielle, bien que très utile dans certains domaines, peut paraître inquiétante. L’ancien PDG de Google affirme d’ailleurs qu’elle pourrait tuer ou blesser des êtres humains. De nombreux gouvernements commencent ainsi à prendre des mesures de régulation. C’est notamment le cas de la France avec la CNIL, mais également aux États-Unis, où la Maison Blanche est en train d’agir. Et l’un des co-créateurs de l’IA moderne n’a visiblement pas la conscience tranquille.

L’homme a ainsi déclaré que s’il avait su à quelle vitesse l’IA se développerait, il aurait privilégié la sécurité à l’utilité. En effet, l’informaticien craint que cette technologie ne tombe un jour entre de mauvaises mains. Celui-ci déclare : « Il peut s’agir d’un militaire, d’un terroriste, d’une personne très en colère ou psychotique […] S’il est facile de programmer ces systèmes d’IA pour leur demander de faire quelque chose de très mal, cela pourrait être très dangereux.« 

Intelligence artificielle : deux des trois « parrains de l’IA » s’inquiètent de son développement

Le spécialiste affiche ainsi son désarroi, ajoutant : « On pourrait dire que je me sens perdu. Mais il faut continuer à avancer et à s’engager, à discuter, à encourager les autres à penser avec vous. » L’homme insiste sur le fait que l’IA doit être contrôlée par les gouvernements, au même titre que « la construction d’avions, de voitures ou de produits pharmaceutiques« .

En outre, Yoshua Bengio a suggéré l’idée, plutôt radicale, que les personnes travaillant sur ces systèmes d’IA aient besoin d’une certification sous la forme d’une « formation éthique ». Mais celui-ci ajoute : « D’ailleurs, les informaticiens n’obtiennent généralement pas cette certification. »

Mais le troisième « parrain » restant, Yann LeCun, n’est apparemment pas convaincu que l’IA représente une menace existentielle pour l’humanité. Il est d’ailleurs le seul des trois parrains à ne pas avoir signé la récente déclaration de risque. De plus, l’expert s’est vivement opposé à une proposition de moratoire sur le développement de l’IA.

Source : futurism