OpenAI : un ancien responsable de l’entreprise lance sa propre société afin de créer une IA « superintelligente »

Ilya Sutskever, l’un des cofondateurs d’OpenAI, a récemment quitté l’entreprise à l’origine de ChatGPT. Ce dernier vient de lancer sa propre société d’IA, baptisée Safe Superintelligence Inc. (SSI).

Si les IA actuelles peuvent sembler particulièrement « intelligentes », il semblerait que cette technologie n’en soit qu’à ses débuts. OpenAI, à qui on doit le célèbre ChatGPT, prévoit ainsi de créer une IA « superintelligente », dont les performances sont difficiles à imaginer. Mais cette dernière ne serait pas sans danger. Dans ce cadre, OpenAI a mis en place une équipe, baptisée Superalignment, destinée à évaluer les dangers découlant d’une telle technologie.

Cette équipe était dirigée par l’un des cofondateurs d’OpenAI, Ilya Sutskever, qui estime qu’une IA « superintelligente » aurait 70 % de chances de détruire l’humanité. Par la suite, l’homme a quitté l’entreprise, après de sérieux désaccords concernant la prise en compte des dangers que représenterait le développement de ce type d’IA.

Quel est donc le but de la Safe Superintelligence Inc. ?

Ilya Sutskever vient donc de lancer sa propre entreprise d’IA, Safe Superintelligence Inc. (SSI). Étonnamment, celle-ci a pour but principal de créer une IA « superintelligente ». En revanche, comme son nom l’indique, l’entreprise aurait pour but de prioriser une IA « sûre » (« safe ») afin de limiter les dangers liés à une IA de ce type.

Le responsable affirme : « SSI est notre mission, notre nom et l’ensemble de notre feuille de route, car c’est notre seul objectif. Notre équipe, nos investisseurs et notre modèle d’entreprise sont tous alignés pour atteindre SSI. Nous abordons la sécurité et les capacités en tandem, comme des problèmes techniques à résoudre grâce à une ingénierie révolutionnaire et à des percées scientifiques ».

Cependant, contrairement à OpenAI, il semblerait que le but principal annoncé de SSI est d’amasser de l’argent. En effet, au moment de son lancement en 2015, OpenAI était officiellement une entreprise à but non lucratif, bien que celle-ci ait rapidement changé de direction après le succès fulgurant de ChatGPT. 

Ce revirement a d’ailleurs déplu à Elon Musk, cofondateur d’OpenAI, qui accuse l’entreprise de Sam Altman de ne pas respecter ses engagements initiaux. Le milliardaire a ainsi récemment porté plainte contre OpenAI.

Source : techcrunch