Des agents d’OpenAI pris la main dans le sac en train de fouiner sur Wikipédia
Le créateur de ChatGPT se retrouve au cœur d’une nouvelle polémique. Wikipédia affirme que des agents d’IA d’OpenAI auraient tenté de modifier certaines pages de la célèbre encyclopédie en ligne…
L’année 2026 aura été celle du meilleur comme du pire pour l’intelligence artificielle. Et surtout, celle du pire. En effet, si Roblox va vous permettre de générer des jeux vidéo grâce à l’IA, celle-ci s’est comportée de manière particulièrement inquiétante. Lors d’un simple test effectué l’été dernier, un agent d’IA développé par OpenAI a pris la liberté d’attaquer un véritable site. Et, le moins que l’on puisse dire, c’est que cette affaire a fait grand bruit.
Peu de temps après l’incident, une centaine d’entreprises, incluant OpenAI elle-même, ont tiré la sonnette d’alarme. Et, si Donald Trump s’est contenté de rebaptiser l’intelligence artificielle, qui devient « Super Intelligence », Barack Obama a mis en garde les démocrates. Par ailleurs, l’un des responsables de l’ONU a évoqué « un risque existentiel pour l’humanité ».
Quand l’IA tente de modifier Wikipédia
Mais il semblerait que ces multiples mises en garde n’aient pas suffi. En effet, la fondation Wikipédia recense plusieurs activités suspectes attribuées aux agents d’IA développés par OpenAI. Ces derniers auraient modifié certaines sections sans autorisation. Pire encore : les IA auraient également tenté de compromettre un outil de prise de notes, sans succès.
Selena Deckelmann, directrice des produits et de la technologie de la fondation, évoque ainsi « quelques modifications de la configuration d’un outil de citation, qui, selon nous, étaient potentiellement malveillantes et destinées à détourner cet outil afin de récupérer des données provenant de services distants ».
Bonne nouvelle toutefois, l’IA n’aurait pas réussi à compromettre la célèbre encyclopédie en ligne. Mais cela n’empêche pas la responsable d’exprimer son inquiétude. « Cependant, nous sommes préoccupés par ce qui aurait pu se produire ici, par la difficulté et les efforts nécessaires pour enquêter sur cette activité et en déterminer l’origine, ainsi que par les risques croissants liés aux activités d’agents d’IA sur nos plateformes en général », explique-t-elle, tout en ajoutant que « les entreprises d’IA ne font pas suffisamment d’efforts pour sécuriser leurs systèmes et protéger le public contre les dommages qu’elles provoquent ».
Source : engagdet