PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / OpenAI : l’entreprise hésite à sortir un détecteur de ChatGPT, voici pourquoi

OpenAI : l’entreprise hésite à sortir un détecteur de ChatGPT, voici pourquoi

Par David Laurent le 5 août 2024

OpenAI serait en train de développer un nouvel outil permettant de détecter les textes générés par ChatGPT. Pourtant, le porte-parole de l’entreprise vient d’émettre des doutes, et se demande si OpenAI doit réellement publier cette technologie.

Si l’intelligence artificielle peut se révéler particulièrement pratique, celle-ci peut également être utilisée de manière abusive. On pense notamment à BuzzFeed, qui a eu recours à l’IA afin de générer des guides de voyage d’une qualité pour le moins discutable. De son côté, le site Gizmodo a mis à la porte une partie de son personnel au profit de l’IA, pour un résultat catastrophique. Certains étudiants utilisent parfois l’IA pour gagner du temps, ce qui peut poser des problèmes d’égalité.

ChatGPT
Crédit photo : Unsplash

Ainsi, afin de détecter l’IA, plusieurs outils ont vu le jour. On pense notamment à DetectGPT, qui était censé permettre de reconnaître les textes générés par ChatGPT. Toutefois, ce type d’outil n’a pas eu le succès escompté, la plupart d’entre eux ayant du mal à faire la distinction entre un texte rédigé par un humain et un texte généré par l’IA. D’ailleurs, OpenAI elle-même a mis fin à son propre logiciel de détection d’IA en raison de son « faible taux de précision ».

ChatGPT : l’IA peine à distinguer le vrai du faux

OpenAI n’a pas baissé les bras, et aurait continué à développer un nouvel outil de détection d’IA. Et pourtant, l’entreprise hésiterait à mettre sa création sur le marché. Le porte-parole d’OpenAI déclare ainsi : « La méthode de filigrane que nous développons est techniquement prometteuse, mais elle comporte des risques importants que nous évaluons pendant que nous recherchons des alternatives, notamment la susceptibilité d’être contournée par de mauvais acteurs et la possibilité d’avoir un impact disproportionné sur des groupes tels que les non-anglophones ».

OpenAI précise toutefois que son logiciel s’est avéré « très précis et même efficace contre les altérations localisées, telles que la paraphrase », mais qu’il s’est révélé « moins robuste contre les altérations globales, telles que l’utilisation de systèmes de traduction, la reformulation avec un autre modèle génératif, ou le fait de demander au modèle d’insérer un caractère spécial entre chaque mot, puis de supprimer ce caractère ».

Source : techcrunch

La rédaction vous conseille :

  1. OpenAI commence à déployer sa voix hyperréaliste pour ChatGPT
Article précédent

Synchron : le concurrent de Neuralink sort une puce cérébrale capable de se connecter au Vision Pro d’Apple

août 5, 2024

Apple Vision Pro
Article suivant

Nvidia aurait téléchargé des milliers d’heures de vidéos Netflix et YouTube pour entraîner son IA

août 6, 2024

Netflix
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • Voici les noms des métiers qui seront épargnés par l’IA, selon un expert
    Voici les noms des métiers qui seront épargnés par l’IA, selon un expert
    L’intelligence artificielle est en train de s’accaparer bon nombre d’emplois, c’est indéniable. Mais selon Adam Dorr, directeur de recherche chez RethinkX, certains emplois plutôt insolites pourraient être épargnés. Elon Musk…

    Il y a 23 minutes et 46 secondes

    Apps et Logiciels

  • Intelligence artificielle : de plus en plus de jeunes considèrent l’IA comme une amie, selon cette étude
    Intelligence artificielle : de plus en plus de jeunes considèrent l’IA comme une amie, selon cette étude
    Des chatbots tels que ChatGPT d’OpenAI ou Gemini de Google peuvent parfois donner l’impression d’être de véritables humains. Dans ce cadre, une nouvelle étude a constaté que de nombreux jeunes…

    Il y a 23 heures et 36 minutes

    Apps et Logiciels, Santé

  • xAI : l’entreprise d’Elon Musk présente ses excuses après les dérapages de Grok
    xAI : l’entreprise d’Elon Musk présente ses excuses après les dérapages de Grok
    Le chatbot Grok de xAI a récemment créé la polémique, celui-ci ayant tenu des propos jugés choquants. L’entreprise d’Elon Musk vient ainsi de présenter ses excuses, tout en tentant de…

    Il y a 23 heures et 37 minutes

    Apps et Logiciels, Réseaux sociaux, Web

  • ChatGPT : Meta recrute des spécialistes chez OpenAI à prix d’or
    ChatGPT : Meta recrute des spécialistes chez OpenAI à prix d’or
    La concurrence est rude entre Meta et OpenAI. Ainsi, le propriétaire de Facebook, Instagram et WhatsApp offrirait des primes à l’embauche de plusieurs centaines de millions de dollars pour recruter…

    Il y a 5 jours et 42 minutes

    Apps et Logiciels, Réseaux sociaux

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan