Intelligence artificielle : le PDG d’Anthropic pense que l’IA pourra bientôt “se reproduire et survivre dans la nature”

Le PDG d’Anthropic, une entreprise d’IA fondée par d’anciens employés d’OpenAI, vient de faire une déclaration surprenante. Selon lui, l’IA pourrait bientôt devenir autonome et échapper au contrôle des humains.

Alors que l’IA semble devenir chaque jour plus puissante, de nombreux spécialistes nous ont mis en garde contre ses dangers. Un ancien cadre de Google pense, par exemple, que celle-ci pourrait être capable de provoquer de graves pandémies. Elon Musk, de son côté, nous a également mis en garde contre les dangers d’une telle technologie, bien que le milliardaire ait finalement créé xAI, une entreprise dédiée au développement de l’IA.

Mais c’est cette fois au tour du PDG d’Anthropic, Dario Amodei, de nous faire part de sa vision du futur de l’IA. Celui-ci estime que, en l’absence d’une gouvernance responsable, l’IA pourrait bientôt commencer à se reproduire toute seule, sans l’aide des humains. D’ailleurs, le responsable laisse entendre qu’Anthropic utilise les niveaux de biosécurité des laboratoires de virologie comme analogie pour l’IA.

L’IA peut-elle être utilisée dans le cadre d’une guerre ?

Le responsable explique : « L’ASL 4 concernera davantage, du point de vue de l’utilisation abusive, le fait de permettre à des acteurs étatiques d’accroître considérablement leurs capacités, ce qui est beaucoup plus difficile que de permettre à des personnes au hasard. Nous craignons donc que la Corée du Nord, la Chine ou la Russie puissent renforcer considérablement leurs capacités offensives dans divers domaines militaires grâce à l’IA, ce qui leur donnerait un avantage substantiel sur le plan géopolitique.”

Outre les dangers inhérents à l’utilisation de l’IA par des gouvernements, Dario Amodei suggère que celle-ci sera bientôt capable de se multiplier à notre insu. Le PDG d’Anthropic ajoute ainsi : « Diverses mesures de ces modèles sont assez proches d’être capables de se reproduire et de survivre dans la nature.”

Le responsable estime ainsi que le niveau « répliquer et survivre dans la nature » pourrait être atteint « n’importe où entre 2025 et 2028« . « Je parle vraiment d’un avenir proche. Je ne parle pas de 50 ans. Dieu m’accorde la chasteté, mais pas maintenant. Mais ‘pas maintenant’ ne veut pas dire quand je serai vieux et grisonnant. Je pense que cela pourrait être à court terme« .

Source : futurism