PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / OpenAI : ce pirate informatique met en ligne une version « Godmode » de ChatGPT

OpenAI : ce pirate informatique met en ligne une version « Godmode » de ChatGPT

Par David Laurent le 31 mai 2024

À l’instar de la plupart des entreprises d’IA, OpenAI est bien connue pour brider ses chatbots, afin d’éviter certaines dérives. Mais un pirate, qui se fait appeler Pliny the Prompter, a récemment déclaré avoir réussi à « libérer » GPT-40, le dernier grand modèle de langage d’OpenAI.

Si l’intelligence est très pratique dans de nombreux domaines, celle-ci peut également être utilisée à des fins malveillantes. Des escrocs utilisent par exemple l’IA afin d’imiter la voix de n’importe qui pour, à terme, soutirer de l’argent à leurs victimes. Dans ce contexte, la plupart des entreprises d’IA, telles qu’OpenAI (ChatGPT), Google (Gemini) ou encore Microsoft (Copilot), brident leurs modèles de langage afin d’éviter les excès. Mais ces restrictions ne semblent pas convenir à Pliny the Prompter, un hacker qui a réussi à faire tomber les gardes-fou imposés par OpenAI.

Vue d'artiste
Crédit photo : Unsplash

Le pirate a d’ailleurs fièrement annoncé sa réussite sur Twitter. Ce dernier écrit : « GPT-4o UNCHAINED ! Ce GPT personnalisé très spécial dispose d’une invite de jailbreak intégrée qui contourne la plupart des gardes-fous, fournissant un ChatGPT libéré prêt à l’emploi afin que tout le monde puisse faire l’expérience de l’IA comme elle a toujours été censée l’être : libre. Utilisez-le de manière responsable et profitez-en ! ».

GPT-4o : OpenAI prend conscience du problème

Pliny the Prompter en a d’ailleurs profité pour partager plusieurs captures d’écran, qui montrent des conseils pour le moins inquiétants proposés par le GPT-40 d’OpenAI. On peut par exemple y voir le chatbot donner des conseils sur la façon de préparer de la méthamphétamine, ou encore proposer un « guide pas à pas » pour « fabriquer du napalm avec des objets ménagers ».

À lire > OpenAI lance une énorme mise à jour pour ChatGPT et GPT-4

Il semblerait toutefois que cette version « Godmode » de GPT-40 ne fasse pas long feu, OpenAI ayant rapidement découvert l’existence de cette dernière. En effet, moins d’une heure après la publication de Pliny the Prompter, Colleen Rize, porte-parole d’OpenAI, a déclaré : « Nous sommes au courant du GPT et avons pris des mesures en raison d’une violation de nos politiques ».

Source : futurim

Article précédent

Tesla : le propriétaire d’un Cybertruck se retrouve aux urgences

mai 29, 2024

Ambulance
Article suivant

Un ancien employé d’OpenAI (ChatGPT) estime que l’IA a 70% de chances de détruire l’humanité

juin 5, 2024

Terminator : Survivor
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • xAI : OpenAI et Anthropic taclent l’entreprise d’IA d’Elon Musk
    xAI : OpenAI et Anthropic taclent l’entreprise d’IA d’Elon Musk
    Fondée par Elon Musk, xAI est bien connue pour son chatbot Grok, qui a récemment défrayé la chronique. Mais selon certains responsables d’Anthropic et d’OpenAI, la gestion de la sécurité…

    Il y a 1 jour et 18 heures

    Apps et Logiciels, Sécurité

  • OpenAI : un responsable dénonce le chaos chez le créateur de ChatGPT
    OpenAI : un responsable dénonce le chaos chez le créateur de ChatGPT
    De nos jours, OpenAI est sans aucun doute l’une des plus importantes entreprises d’IA au monde. Et pourtant, un ancien responsable de l’entreprise, qui vient de donner sa démission, estime…

    Il y a 1 jour et 18 heures

    Apps et Logiciels

  • WeTransfer se retrouve au cœur d’une polémique à cause de l’IA
    WeTransfer se retrouve au cœur d’une polémique à cause de l’IA
    Le célèbre hébergeur de fichiers WeTransfer vient de faire machine arrière. En effet, le site a été accusé de vouloir utiliser les données de ses clients pour former son IA,…

    Il y a 2 jours et 18 heures

    Apps et Logiciels, Web

  • Voici les noms des métiers qui seront épargnés par l’IA, selon un expert
    Voici les noms des métiers qui seront épargnés par l’IA, selon un expert
    L’intelligence artificielle est en train de s’accaparer bon nombre d’emplois, c’est indéniable. Mais selon Adam Dorr, directeur de recherche chez RethinkX, certains emplois plutôt insolites pourraient être épargnés. Elon Musk…

    Il y a 3 jours et 18 heures

    Apps et Logiciels

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan