PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / OpenAI : le créateur de ChatGPT veut mettre un terme aux « hallucinations » du chatbot

OpenAI : le créateur de ChatGPT veut mettre un terme aux « hallucinations » du chatbot

Par David Laurent le 1 juin 2023

Bien que ChatGPT connaisse un succès mondial, celui-ci n’est pas dénué de défauts. En effet, quand le chatbot ne peut pas répondre à une question, il a tendance à inventer des faits.

ChatGPT est très performant dans de nombreux domaines. Les étudiants le préfèrent d’ailleurs à leurs professeurs pour apprendre. Le chatbot d’OpenAI est même capable de rédiger des scénarios, ce qui inquiète de nombreux scénaristes. Toutefois, ChatGPT a encore des progrès à faire. En effet, les systèmes d’IA ont notamment tendance à inventer des choses et à les présenter comme des faits lorsqu’ils ne connaissent pas la réponse à une question, un phénomène connu sous le nom d' »hallucination ».

ChatGPT
Crédit photo : Unsplash

Ces problèmes ont été mis en évidence lors d’un incident récent. En effet, un avocat s’est servi de ChatGPT afin d’appuyer son dossier. Mais le chatbot a fait n’importe quoi et a inventé des preuves inexistantes. L’avocat, qui a rapidement présenté ses excuses, pourrait se voir infliger des sanctions à la suite de son action.

ChatGPT : OpenAI travaille à la résolution du problème

Un autre incident a attiré l’attention en avril lorsque ChatGPT a apparemment réécrit l’histoire en affirmant qu’un maire australien avait été emprisonné pour corruption. En réalité, l’intéressé n’était ni plus ni moins que le dénonciateur dans cette affaire.

Les ingénieurs d’OpenAI ont depuis révélé qu’ils concentraient actuellement leurs efforts sur l’amélioration de son logiciel afin de réduire et d’éliminer ces occurrences problématiques. OpenAI déclare ainsi : « Les chatbots ont tendance à inventer des faits dans les moments d’incertitude. Ces hallucinations sont particulièrement problématiques dans les domaines qui nécessitent un raisonnement en plusieurs étapes, car une seule erreur logique suffit à faire dérailler une solution beaucoup plus large.« 

Pour remédier à ce problème, les ingénieurs de l’OpenAI travaillent sur des moyens permettant à ses modèles d’IA de se récompenser eux-mêmes en cas de bonne réponse. Selon les ingénieurs, le système pourrait aboutir à de meilleurs résultats en intégrant une procédure de réflexion plus proche de celle des humains.

Toutefois, ces améliorations ne verront pas le jour de sitôt. En attendant, comme l’indique OpenAI elle-même, ChatGPT peut occasionnellement générer des informations incorrectes. Il est donc indispensable de vérifier les informations fournies par le chatbot avant de s’en servir.

Source : digitaltrends

Article précédent

Intelligence artificielle : Twitter va lutter contre les images générées par l’IA

mai 31, 2023

Twitter
Article suivant

Intelligence artificielle : l’un des créateurs de l’IA exprime ses regrets

juin 2, 2023

Regrets
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • Apple dévoile Visual Intelligence, une IA qui espionne votre écran
    Apple dévoile Visual Intelligence, une IA qui espionne votre écran
    Le WWDC 2025 aura permis à Apple de dévoiler un nouveau système d’IA, baptisé Visual Intelligence. Cette dernière vous permet d’interagir avec l’IA à propos de ce qui est directement…

    Il y a 23 heures et 53 minutes

    Apps et Logiciels, iOS, Mobilité

  • Le “parrain de l’IA” s’inquiète toujours plus de son évolution
    Le “parrain de l’IA” s’inquiète toujours plus de son évolution
    Yoshua Bengio, considéré par beaucoup comme le “parrain de l’IA”, s’inquiète. En effet, ce dernier déplore l’évolution de cette technologie, qui serait capable de mentir et de tromper les utilisateurs.…

    Il y a 2 jours et 34 minutes

    Apps et Logiciels, Sécurité

  • Google : Veo 3 est désormais capable de générer des vidéos VR
    Google : Veo 3 est désormais capable de générer des vidéos VR
    L’impressionnant générateur de vidéos d’IA de Google, Veo 3, fait encore parler de lui. Un utilisateur a en effet réussi à générer une vidéo à 360 degrés visionnable avec un…

    Il y a 3 jours et 5 minutes

    Apps et Logiciels

  • WhatsApp : cette fonctionnalité indispensable va ravir les utilisateurs
    WhatsApp : cette fonctionnalité indispensable va ravir les utilisateurs
    La célèbre application de messagerie s’améliore, en protégeant davantage la vie privée de ses utilisateurs. En effet, WhatsApp va vous permettre d’identifier votre profil à l’aide d’un nom, et non…

    Il y a 1 semaine et 1 jour

    Android, Apps et Logiciels, iOS, Réseaux sociaux

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan