PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / Le “parrain de l’IA” s’inquiète toujours plus de son évolution

Le “parrain de l’IA” s’inquiète toujours plus de son évolution

Par David Laurent le 10 juin 2025

Yoshua Bengio, considéré par beaucoup comme le “parrain de l’IA”, s’inquiète. En effet, ce dernier déplore l’évolution de cette technologie, qui serait capable de mentir et de tromper les utilisateurs.

De nos jours, des IA tels que ChatGPT sont partout dans notre quotidien. Et pourtant, de nombreuses personnalités nous ont mis en garde contre ses dangers. On pense par exemple à James Cameron via son film Terminator, ou encore à Elon Musk, qui a pourtant lancé sa propre entreprise d’IA, xAI. Même l’un des créateurs de l’IA, Yoshua Bengio, a récemment exprimé ses regrets. En effet, celui-ci craint que cette technologie ne finisse par remplacer la majorité des travailleurs humains.

Crédit photo : Unsplash

Mais cette fois, le spécialiste pointe du doigt l’IA pour de toutes autres raisons. En effet, Yoshua Bengio estime que l’intelligence artificielle est désormais susceptible de mentir, de tromper, et d’effectuer des actions malveillantes pour les utilisateurs. « Je suis profondément préoccupé par les comportements que les systèmes d’IA autonomes commencent déjà à manifester », affirme-t-il.

L’IA peut-elle être dangereuse pour l’humanité ?

Yoshua Bengio cite notamment une étude menée par Anthropic sur son chatbot Claude. Lors de ce test, les chercheurs ont annoncé à l’IA qu’elle allait bientôt être supprimée. Le chatbot aurait alors menacé l’employé concerné de dévoiler des détails compromettants sur sa vie privée.

Dans ce cadre, le spécialiste vient de lancer LawZero, une nouvelle entreprise à but non lucratif qui aurait été « créée en réponse aux preuves que les modèles d’IA de pointe actuels ont des capacités et des comportements de plus en plus dangereux […] notamment la tromperie, la tricherie, le mensonge, le piratage, l’instinct de conservation et, plus généralement, le désalignement des objectifs ».

« Ces incidents sont les premiers signes avant-coureurs des types de stratégies involontaires et potentiellement dangereuses que l’IA pourrait adopter si elle n’était pas contrôlée », prévient Yoshua Bengio.

Le spécialiste estime que l’IA devrait être correctement formée pour répondre aux besoins des utilisateurs. « Au lieu d’un acteur formé pour imiter ou plaire aux gens (y compris les sociopathes), imaginez une IA formée comme un psychologue — ou plus généralement un scientifique — qui essaie de nous comprendre, y compris ce qui peut nous nuire », explique-t-il. « Le psychologue peut étudier un sociopathe sans agir comme lui. »

Source : futurism

La rédaction vous conseille :

  1. Le “parrain de l’IA” met en garde ceux qui voudraient remplacer les humains par des machines
  2. OpenAI : le “parrain de l’IA” rejoint Elon Musk dans son procès contre le créateur de ChatGPT
  3. BuzzFeed revend ses produits phares afin d’investir toujours plus dans l’IA
Article précédent

Google : Veo 3 est désormais capable de générer des vidéos VR

juin 9, 2025

Veo 3
Article suivant

Apple dévoile Visual Intelligence, une IA qui espionne votre écran

juin 11, 2025

Apple Intelligence
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • Insolite : une IA supprime les données de toute une entreprise et nie les faits
    Insolite : une IA supprime les données de toute une entreprise et nie les faits
    Voilà une nouvelle aussi intrigante qu’inquiétante. Après avoir utilisé l’agent d’IA Replit, spécialisé dans le codage, l’entreprise SaaStr a eu la mauvaise surprise de découvrir que l’IA avait tout simplement…

    Il y a 1 jour et 23 heures

    Apps et Logiciels, Insolite

  • OpenAI s’associe avec Oracle pour alimenter ses systèmes d’IA toujours plus gourmands en énergie
    OpenAI s’associe avec Oracle pour alimenter ses systèmes d’IA toujours plus gourmands en énergie
    Les centres de données d’IA consomment des quantités folles d’énergie. Dans ce cadre, le créateur de ChatGPT s’est associé avec Oracle afin de disposer de pas moins de 4,5 gigawatts…

    Il y a 2 jours et 23 heures

    Apps et Logiciels, Hardware

  • ChatGPT : voici les scénarios catastrophes qui empêchent le patron d’OpenAI de dormir
    ChatGPT : voici les scénarios catastrophes qui empêchent le patron d’OpenAI de dormir
    Si pratique soit-elle, l’intelligence artificielle n’est pas sans danger. C’est en tout cas ce que vient de laisser entendre Sam Altman, patron de longue date d’OpenAI. De nombreuses personnalités nous…

    Il y a 2 jours et 23 heures

    Apps et Logiciels

  • X : la France ouvre une enquête contre le réseau social d’Elon Musk
    X : la France ouvre une enquête contre le réseau social d’Elon Musk
    X, anciennement Twitter, est désormais dans le viseur des autorités françaises. Celles-ci accusent le réseau social d’avoir non seulement manipulé son algorithme, mais aussi d’avoir extrait des données d’une manière…

    Il y a 3 jours et 23 heures

    Apps et Logiciels, Réseaux sociaux

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan