PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / OpenAI : le créateur de ChatGPT veut mettre un terme aux « hallucinations » du chatbot

OpenAI : le créateur de ChatGPT veut mettre un terme aux « hallucinations » du chatbot

Par David Laurent le 1 juin 2023

Bien que ChatGPT connaisse un succès mondial, celui-ci n’est pas dénué de défauts. En effet, quand le chatbot ne peut pas répondre à une question, il a tendance à inventer des faits.

ChatGPT est très performant dans de nombreux domaines. Les étudiants le préfèrent d’ailleurs à leurs professeurs pour apprendre. Le chatbot d’OpenAI est même capable de rédiger des scénarios, ce qui inquiète de nombreux scénaristes. Toutefois, ChatGPT a encore des progrès à faire. En effet, les systèmes d’IA ont notamment tendance à inventer des choses et à les présenter comme des faits lorsqu’ils ne connaissent pas la réponse à une question, un phénomène connu sous le nom d' »hallucination ».

ChatGPT
Crédit photo : Unsplash

Ces problèmes ont été mis en évidence lors d’un incident récent. En effet, un avocat s’est servi de ChatGPT afin d’appuyer son dossier. Mais le chatbot a fait n’importe quoi et a inventé des preuves inexistantes. L’avocat, qui a rapidement présenté ses excuses, pourrait se voir infliger des sanctions à la suite de son action.

ChatGPT : OpenAI travaille à la résolution du problème

Un autre incident a attiré l’attention en avril lorsque ChatGPT a apparemment réécrit l’histoire en affirmant qu’un maire australien avait été emprisonné pour corruption. En réalité, l’intéressé n’était ni plus ni moins que le dénonciateur dans cette affaire.

Les ingénieurs d’OpenAI ont depuis révélé qu’ils concentraient actuellement leurs efforts sur l’amélioration de son logiciel afin de réduire et d’éliminer ces occurrences problématiques. OpenAI déclare ainsi : « Les chatbots ont tendance à inventer des faits dans les moments d’incertitude. Ces hallucinations sont particulièrement problématiques dans les domaines qui nécessitent un raisonnement en plusieurs étapes, car une seule erreur logique suffit à faire dérailler une solution beaucoup plus large.« 

Pour remédier à ce problème, les ingénieurs de l’OpenAI travaillent sur des moyens permettant à ses modèles d’IA de se récompenser eux-mêmes en cas de bonne réponse. Selon les ingénieurs, le système pourrait aboutir à de meilleurs résultats en intégrant une procédure de réflexion plus proche de celle des humains.

Toutefois, ces améliorations ne verront pas le jour de sitôt. En attendant, comme l’indique OpenAI elle-même, ChatGPT peut occasionnellement générer des informations incorrectes. Il est donc indispensable de vérifier les informations fournies par le chatbot avant de s’en servir.

Source : digitaltrends

Article précédent

Intelligence artificielle : Twitter va lutter contre les images générées par l’IA

mai 31, 2023

Twitter
Article suivant

Intelligence artificielle : l’un des créateurs de l’IA exprime ses regrets

juin 2, 2023

Regrets
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • Un procureur accuse l’IA de Meta d’être nocive pour les enfants
    Un procureur accuse l’IA de Meta d’être nocive pour les enfants
    Ken Paxton, procureur général du Texas, n’a pas mâché ses mots à l’égard de Meta AI Studio et Character.AI. Celui-ci accuse ces deux entreprises d’induire en erreur les plus jeunes,…

    Il y a 1 jour et 8 heures

    Apps et Logiciels, Santé, Web

  • GPT-5 : face à la grogne des utilisateurs, OpenAI va rendre son IA plus “amicale”
    GPT-5 : face à la grogne des utilisateurs, OpenAI va rendre son IA plus “amicale”
    Si performante soit-elle, la dernière IA du créateur de ChatGPT peut paraître nettement plus froide que le précédent GPT-4o. Dans ce cadre, OpenAI compte modifier son IA, en la rendant…

    Il y a 1 jour et 8 heures

    Apps et Logiciels, Web

  • ChatGPT : OpenAI ne comprend pas pourquoi certains utilisateurs boudent GPT-5
    ChatGPT : OpenAI ne comprend pas pourquoi certains utilisateurs boudent GPT-5
    Près d’une dizaine de jours après son lancement, GPT-5 remplace désormais la plupart des modèles d’IA d’OpenAI. Mais certains utilisateurs lui préfèrent toujours GPT-4o, ce qui semble étonner les responsables…

    Il y a 2 jours et 9 heures

    Apps et Logiciels, Web

  • xAI : le cofondateur de l’entreprise d’Elon Musk pose sa démission
    xAI : le cofondateur de l’entreprise d’Elon Musk pose sa démission
    xAI, l’entreprise d’Elon Musk bien connue pour son chatbot Grok, vient de perdre l’un de ses fondateurs. Igor Babuschkin a en effet quitté xAI afin, selon lui, de fonder sa…

    Il y a 5 jours et 9 heures

    Apps et Logiciels, Web

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan