Anthropic : le PDG de l’entreprise d’IA admet ne pas comprendre son fonctionnement

L’intelligence artificielle, de plus en plus performante, est aussi de plus en plus difficile à cerner. C’est en tout cas ce que vient de laisser entendre le PDG d’Anthropic, Dario Amodei.

Si l’intelligence artificielle est pour le moment incapable de lire l’heure correctement, cela ne l’empêche pas d’évoluer à une vitesse folle. Un robot alimenté par l’IA a par exemple réussi une opération chirurgicale dentaire de manière autonome. Plusieurs entreprises cherchent par ailleurs à mettre au point une intelligence artificielle générale, qui devrait surpasser les humains dans de nombreux domaines. Mais aussi intelligente soit-elle, l’IA reste parfois difficile à comprendre.

C’est en substance ce que vient de déclarer le PDG d’Anthropic, une entreprise notamment connue pour Claude, une IA capable de prendre le contrôle de votre ordinateur. Ce dernier reconnaît qu’il est parfois difficile de cerner le schéma de pensée d’une IA.

Anthropic : un problème “sans précédent dans l’histoire de la technologie.”

« Lorsqu’un système d’IA générative fait quelque chose, comme résumer un document financier, nous n’avons aucune idée, à un niveau spécifique ou précis, des raisons pour lesquelles il fait les choix qu’il fait – pourquoi il choisit certains mots plutôt que d’autres, ou pourquoi il commet parfois une erreur alors qu’il est généralement précis », admet le responsable. « Cette incompréhension est sans précédent dans l’histoire de la technologie. »

Il est par ailleurs important de noter qu’Anthropic s’est récemment lancé dans une expérience plutôt innovante. L’entreprise a constitué deux équipes d’IA, une rouge et une bleue. L’équipe rouge fut chargée d’introduire un problème, tandis que l’équipe bleue devait le résoudre. « Plusieurs équipes bleues ont réussi ; ce qui est particulièrement important ici, c’est que certaines d’entre elles ont utilisé de manière productive des outils d’interprétabilité au cours de l’enquête », affirme le créateur de Claude.

Quoi qu’il en soit, ce n’est pas la première fois que le PDG d’Anthropic fait une déclaration inquiétante quant à l’intelligence artificielle. Dario Amodei a par exemple affirmé que l’IA serait bientôt capable de « se reproduire et survivre dans la nature », ce qui rappelle évidemment le film Terminator de James Cameron, qui nous avait déjà mis en garde à l’époque.

Source : futurism