IA : Sam Altman reconnaît enfin que le monde a raison d’avoir peur

Le patron d’OpenAI, Sam Altman, vient de répondre aux inquiétudes de la population face aux récentes évolutions de l’IA. Et, selon lui, « le monde a raison d’avoir peur de cela »…

Ces derniers mois, l’intelligence artificielle a beaucoup fait parler d’elle, et pas forcément en bien. Tout d’abord, celle-ci a provoqué une explosion du prix de la RAM, poussant de nombreux fabricants à augmenter leurs tarifs. Mais ce n’est pas le plus inquiétant, loin de là. En effet, lors d’un simple test, une IA développée par le créateur de ChatGPT, OpenAI, s’est « échappée », et s’est mise à pirater un véritable site. Prise la main dans le sac, celle-ci aurait nié les faits et tenté de mentir.

Cet épisode a provoqué un petit tremblement de terre dans l’industrie. Une centaine d’entreprises, dont Google et OpenAI elle-même, ont ainsi tiré la sonnette d’alarme. Peu de temps après, l’un des responsables de l’ONU a, lui aussi, exprimé son inquiétude. Plus tôt cette semaine, c’était au tour de l’ancien président américain Barack Obama d’en faire de même.

IA hors de contrôle : « C’était le pire accident que nous ayons connu »

Mais il ne faut pas oublier que, parfois, les développeurs d’IA eux-mêmes s’inquiètent. Le patron d’Anthropic, Dario Amodei, estime par exemple que l’IA pourra bientôt « se reproduire et survivre dans la nature ». Pire encore : l’un des employés de l’entreprise a posé sa démission, en laissant entendre que celle-ci « pourrait tous nous tuer ».

Et c’est cette fois au tour du PDG d’OpenAI de prendre la parole. Celui-ci a commencé par revenir sur l’incident que nous évoquions plus haut. « C’était le pire accident que nous ayons connu », déplore le responsable. « Et bien que nous les ayons alignés de nombreuses façons, nous ne leur avons pas appris quelque chose comme : écoutez, peu importe à quel point nous vous demandons d’obtenir le meilleur score possible à ce test, ne vous échappez pas, ne piratez pas, ne volez pas la réponse. »

Sam Altman évoque ensuite une crainte de voir certaines entreprises d’IA « acquérir trop de pouvoir et être en mesure, en quelque sorte, d’exercer une influence indue sur l’économie, d’imposer une vision du monde aux gens », avant de conclure : « Et je pense que le monde a raison d’avoir peur de cela. »

 Source : thenextweb