L’ONU met en garde contre l’IA : elle pourrait représenter « un risque existentiel pour l’humanité »

Le responsable des droits de l’homme des Nations unies, Volker Türk, a mis en garde face aux progrès de l’intelligence artificielle. Selon lui, celle-ci pourrait représenter « un risque existentiel pour l’humanité ».

L’intelligence artificielle fait désormais partie de notre quotidien, c’est indéniable. Et pourtant, nombreux sont les responsables et autres spécialistes à nous avoir mis en garde contre ses dangers. Le « parrain de l’IA » lui-même, Yoshua Bengio, a déjà déclaré que l’intelligence artificielle pourrait provoquer l’extinction de l’humanité. Par ailleurs, une vaste étude laisse entendre que l’IA aurait 5 % de chances de provoquer l’extinction de l’humanité. Même le célèbre Elon Musk, qui pourtant mise largement sur cette technologie, nous a déjà mis en garde contre cette dernière.

Et pourtant, cela n’empêche pas l’IA de progresser à une vitesse folle. En effet, les modèles sont toujours plus puissants, à l’image du GPT-6 Astra d’OpenAI, qui se rapprocherait de l’intelligence artificielle générale (AGI). Mais cette évolution inquiète bien des responsables. Le patron de la banque d’Angleterre lui-même a laissé entendre que celle-ci pourrait déstabiliser l’économie mondiale. Rien que ça.

L’intelligence artificielle représente-t-elle « un risque existentiel pour l’humanité » ?

Mais c’est cette fois au tour du chef des droits de l’homme de l’ONU, Volker Türk, de mettre en garde les nations. « Je partage les inquiétudes des acteurs du secteur qui estiment que l’IA avancée pourrait représenter un risque existentiel pour l’humanité », a-t-il déclaré.

« La nécessité d’une gouvernance de l’IA est largement reconnue, mais où sont les actes ? », explique le responsable. « Les retards ne profitent qu’aux immenses entreprises technologiques, à leurs propriétaires et à ceux qui les rendent possibles. »

Volker Türk poursuit : « Si une IA s’échappe de son environnement de test ou fait chanter des développeurs pour empêcher sa désactivation, alors cette IA est trop puissante. » Cette déclaration nous fait forcément penser à la saga Terminator, à l’occasion de laquelle l’IA Skynet prend le contrôle de l’humanité. D’ailleurs, via son premier film, James Cameron nous avait prévenus des dangers d’une IA hors de contrôle.

« Nous avons besoin d’une vérification indépendante et d’une collaboration beaucoup plus étroite en matière de sécurité au sein du secteur », a-t-il poursuivi. « Nous devons également prendre en compte les conséquences de l’IA sur les droits humains, notamment sur les pratiques en matière d’emploi, sur les principes fondamentaux de la démocratie et sur notre environnement. »

Source : techxplore