OpenAI : ce pirate informatique met en ligne une version « Godmode » de ChatGPT

À l’instar de la plupart des entreprises d’IA, OpenAI est bien connue pour brider ses chatbots, afin d’éviter certaines dérives. Mais un pirate, qui se fait appeler Pliny the Prompter, a récemment déclaré avoir réussi à « libérer » GPT-40, le dernier grand modèle de langage d’OpenAI.

Si l’intelligence est très pratique dans de nombreux domaines, celle-ci peut également être utilisée à des fins malveillantes. Des escrocs utilisent par exemple l’IA afin d’imiter la voix de n’importe qui pour, à terme, soutirer de l’argent à leurs victimes. Dans ce contexte, la plupart des entreprises d’IA, telles qu’OpenAI (ChatGPT), Google (Gemini) ou encore Microsoft (Copilot), brident leurs modèles de langage afin d’éviter les excès. Mais ces restrictions ne semblent pas convenir à Pliny the Prompter, un hacker qui a réussi à faire tomber les gardes-fou imposés par OpenAI.

Le pirate a d’ailleurs fièrement annoncé sa réussite sur Twitter. Ce dernier écrit : « GPT-4o UNCHAINED ! Ce GPT personnalisé très spécial dispose d’une invite de jailbreak intégrée qui contourne la plupart des gardes-fous, fournissant un ChatGPT libéré prêt à l’emploi afin que tout le monde puisse faire l’expérience de l’IA comme elle a toujours été censée l’être : libre. Utilisez-le de manière responsable et profitez-en ! ».

GPT-4o : OpenAI prend conscience du problème

Pliny the Prompter en a d’ailleurs profité pour partager plusieurs captures d’écran, qui montrent des conseils pour le moins inquiétants proposés par le GPT-40 d’OpenAI. On peut par exemple y voir le chatbot donner des conseils sur la façon de préparer de la méthamphétamine, ou encore proposer un « guide pas à pas » pour « fabriquer du napalm avec des objets ménagers ».

Il semblerait toutefois que cette version « Godmode » de GPT-40 ne fasse pas long feu, OpenAI ayant rapidement découvert l’existence de cette dernière. En effet, moins d’une heure après la publication de Pliny the Prompter, Colleen Rize, porte-parole d’OpenAI, a déclaré : « Nous sommes au courant du GPT et avons pris des mesures en raison d’une violation de nos politiques ».

Source : futurim