Anthropic : un homme entame une grève de la faim pour protester contre l’intelligence artificielle générale (AGI)

L’intelligence artificielle générale (AGI) est un graal convoité par de nombreuses entreprises d’IA, telles qu’OpenAI ou encore Anthropic. Mais selon l’activiste Guido Reichstadter, l’AGI représenterait une véritable menace existentielle…

De nos jours, l’intelligence artificielle atteint des niveaux de performances inédits. On pense par exemple au GPT-5 d’OpenAI, qui serait aussi intelligent qu’un doctorant. Mais certaines entreprises d’IA veulent aller encore plus loin. C’est le cas de Meta, dont le patron, Mark Zuckerberg, a récemment annoncé l’arrivée d’une « superintelligence artificielle ». Dans ce domaine, on retrouve notamment l’intelligence artificielle générale, une IA surpuissante capable de raisonner comme un véritable être humain.

Mais de telles innovations ne font pas que des heureux. Geoffrey Hinton, que beaucoup qualifient de « parrain de l’IA », prédit en effet un avenir sombre, dominé par l’intelligence artificielle. Guido Reichstadter, lui, ne se contente pas de critiquer cette technologie à venir.

Intelligence artificielle générale : « une IA vraiment dangereuse à laquelle nous participons tous » ?

L’activiste en est à son neuvième jour de grève de la faim, devant les locaux d’Anthropic à San Francisco. Anthropic, bien connue pour son chatbot Claude, aurait elle aussi pour objectif de développer une AGI.

« Aucune de ces entreprises n’a le droit de faire ce qu’elles font, c’est-à-dire mettre consciemment ma vie, la vie de ma famille, toutes nos vies en danger », a-t-il déclaré. « La chose correcte à faire serait d’arrêter la course mondiale vers une IA vraiment dangereuse à laquelle nous participons tous. »

« Lorsqu’on s’attaque aux systèmes que ces entreprises tentent de construire, des systèmes qui dépassent l’humain sur tous les plans importants, il s’agit d’une toute nouvelle catégorie de danger », ajoute Guido Reichstadter. « Quelles que soient les promesses spéculatives que ces systèmes pourraient apporter, le fait est qu’aucune de ces entreprises n’a de feuille de route pratique pour contrôler ce pouvoir une fois qu’elles l’auront créé. »

L’intelligence artificielle générale n’a pas encore été atteinte. Toutefois, le cofondateur d’Anthropic, Benjamin Mann, estime que l’on pourrait « atteindre » l’AGI dès 2027 ou 2028.

Source : futurism