Intelligence artificielle : le patron d’Anthropic s’inquiète du « pouvoir presque inimaginable » de l’IA

L’emblématique PDG d’Anthropic, Dario Amodei, vient de publier un texte pour le moins inquiétant. Le responsable semble laisser entendre que l’humanité n’est tout simplement pas prête pour les pouvoirs conférés par l’intelligence artificielle.

Si l’intelligence artificielle est sans aucun doute une révolution technologique, certains responsables s’inquiètent de son évolution. Un ancien cadre de Google affirme, par exemple, que l’IA pourrait provoquer une grave pandémie. Un économiste pense par ailleurs que l’IA pourrait nous conduire à la ruine. De son côté, le « parrain de l’IA » estime que l’IA pourrait tout simplement provoquer la fin de l’humanité telle que nous la connaissons.

C’est donc cette fois au tour du patron d’Anthropic, une entreprise notamment connue pour son IA Claude, capable de prendre le contrôle de votre ordinateur. Celui-ci publie régulièrement des textes à propos de l’IA, et a d’ailleurs déjà laissé entendre que cette dernière pourra bientôt « se reproduire et survivre dans la nature ».

Anthropic : « nous entrons dans un rite de passage »

« L’humanité est sur le point de se voir confier un pouvoir presque inimaginable, et il n’est absolument pas certain que nos systèmes sociaux, politiques et technologiques aient la maturité nécessaire pour l’exercer », écrit le responsable, qui semble par ailleurs douter de notre capacité à encaisser le choc. « Je crois que nous entrons dans un rite de passage, à la fois turbulent et inévitable, qui mettra à l’épreuve ce que nous sommes en tant qu’espèce », prévient-il.

Ensuite, le patron d’Anthropic analyse l’évolution de l’IA qui, selon lui, pourrait bientôt être plus performante que l’ensemble des humains, et ce, dans la majorité des domaines. « Si la croissance exponentielle se poursuit — ce qui n’est pas certain, mais bénéficie désormais d’un historique d’environ dix ans — alors il est impossible que cela prenne plus que quelques années avant que l’IA ne soit meilleure que les humains dans pratiquement tous les domaines », ajoute Dario Amodei.

Et pourtant, cette rapide évolution pourrait, selon lui, causer des problèmes de sécurité majeurs. Le responsable évoque ainsi « la menace pour la sécurité nationale la plus grave que nous ayons connue depuis un siècle, voire de toute notre histoire ».

Source : gizmodo