Alors que les qualités du chatbot d’OpenAI, ChatGPT, sont indéniables, l’entreprise veut aller plus loin. Ainsi, selon certains des employés de l’entreprise, OpenAI vise à développer une IA « surhumaine ».
Récemment, un ancien cadre de Google estimait que l’IA pourrait bientôt être plus intelligente qu’un être humain. Et, bien que ce ne soit pas encore le cas, OpenAI semble vouloir développer une IA dont les compétences dépasseraient largement celles d’un humain. D’ailleurs, l’entreprise a comparé GPT-5, le potentiel successeur de GPT-4, à Dieu.
Sam Altman, qui a récemment perdu son poste de PDG d’OpenAI avant de réintégrer l’entreprise, a mis en place une équipe chargée d’étudier les modèles d’IA pour se protéger contre les « risques catastrophiques », y compris les menaces chimiques et nucléaires. Et pourtant, l’entreprise semble vouloir développer une IA dont le niveau d’intelligence pourrait paraître inquiétant.
OpenAI veut sécuriser ses systèmes d’IA
OpenAI a mis en place une équipe baptisée Superalignment. Celle-ci est dirigée par Ilya Sutskever, cofondateur et scientifique en chef d’OpenAI. Collin Burns, l’un des membres de l’équipe, déclare : « Aujourd’hui, nous pouvons essentiellement aligner des modèles qui sont plus stupides que nous, ou qui se situent tout au plus au niveau de l’être humain. L’alignement d’un modèle qui est en fait plus intelligent que nous est beaucoup, beaucoup moins évident – comment pouvons-nous même le faire ?”.
Leopold Aschenbrenner, l’un des membres de l’initiative, ne cache pas ses craintes, déclarant : « Les progrès de l’IA ont été extraordinaires ces derniers temps, et je peux vous assurer qu’ils ne ralentissent pas. Je pense que nous atteindrons bientôt des systèmes de niveau humain, mais cela ne s’arrêtera pas là – nous irons jusqu’à des systèmes surhumains… Alors, comment aligner des systèmes d’IA surhumains et les rendre sûrs ? C’est vraiment un problème pour toute l’humanité – peut-être le problème technique non résolu le plus important de notre époque« .
D’ailleurs, de nombreux gouvernements sont en train de prendre des mesures. L’Union européenne vient de signer un accord historique, tandis que la Chine, quant à elle, s’apprête à réguler l’IA.
Source : techcrunch
