PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / Anthropic : le PDG de l’entreprise d’IA admet ne pas comprendre son fonctionnement

Anthropic : le PDG de l’entreprise d’IA admet ne pas comprendre son fonctionnement

Par David Laurent le 6 mai 2025

L’intelligence artificielle, de plus en plus performante, est aussi de plus en plus difficile à cerner. C’est en tout cas ce que vient de laisser entendre le PDG d’Anthropic, Dario Amodei.

Si l’intelligence artificielle est pour le moment incapable de lire l’heure correctement, cela ne l’empêche pas d’évoluer à une vitesse folle. Un robot alimenté par l’IA a par exemple réussi une opération chirurgicale dentaire de manière autonome. Plusieurs entreprises cherchent par ailleurs à mettre au point une intelligence artificielle générale, qui devrait surpasser les humains dans de nombreux domaines. Mais aussi intelligente soit-elle, l’IA reste parfois difficile à comprendre.

Dario Amodei
Crédit photo : Wikimedia

C’est en substance ce que vient de déclarer le PDG d’Anthropic, une entreprise notamment connue pour Claude, une IA capable de prendre le contrôle de votre ordinateur. Ce dernier reconnaît qu’il est parfois difficile de cerner le schéma de pensée d’une IA.

Anthropic : un problème “sans précédent dans l’histoire de la technologie.”

« Lorsqu’un système d’IA générative fait quelque chose, comme résumer un document financier, nous n’avons aucune idée, à un niveau spécifique ou précis, des raisons pour lesquelles il fait les choix qu’il fait – pourquoi il choisit certains mots plutôt que d’autres, ou pourquoi il commet parfois une erreur alors qu’il est généralement précis », admet le responsable. « Cette incompréhension est sans précédent dans l’histoire de la technologie. »

Il est par ailleurs important de noter qu’Anthropic s’est récemment lancé dans une expérience plutôt innovante. L’entreprise a constitué deux équipes d’IA, une rouge et une bleue. L’équipe rouge fut chargée d’introduire un problème, tandis que l’équipe bleue devait le résoudre. « Plusieurs équipes bleues ont réussi ; ce qui est particulièrement important ici, c’est que certaines d’entre elles ont utilisé de manière productive des outils d’interprétabilité au cours de l’enquête », affirme le créateur de Claude.

Quoi qu’il en soit, ce n’est pas la première fois que le PDG d’Anthropic fait une déclaration inquiétante quant à l’intelligence artificielle. Dario Amodei a par exemple affirmé que l’IA serait bientôt capable de « se reproduire et survivre dans la nature », ce qui rappelle évidemment le film Terminator de James Cameron, qui nous avait déjà mis en garde à l’époque.

Source : futurism

La rédaction vous conseille :

  1. Anthropic : le chatbot Claude est désormais capable de prendre le contrôle de votre ordinateur
  2. Gemini : Google se servirait de l’un de ses concurrents, Anthropic, pour améliorer son IA
  3. Google : l’année 2025 sera celle de l’IA Gemini, selon le PDG de l’entreprise
Article précédent

Gemini : Google vous permet de retoucher vos photos grâce à l’IA sur iOS et Android

mai 2, 2025

Gemini
Article suivant

Apple pourrait bientôt proposer un navigateur Safari boosté à l’IA

mai 8, 2025

Safari
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • xAI : le cofondateur de l’entreprise d’Elon Musk pose sa démission
    xAI : le cofondateur de l’entreprise d’Elon Musk pose sa démission
    xAI, l’entreprise d’Elon Musk bien connue pour son chatbot Grok, vient de perdre l’un de ses fondateurs. Igor Babuschkin a en effet quitté xAI afin, selon lui, de fonder sa…

    Il y a 1 jour et 3 heures

    Apps et Logiciels, Web

  • Le “parrain de l’IA” propose de sauver l’humanité avec cette méthode étonnante
    Le “parrain de l’IA” propose de sauver l’humanité avec cette méthode étonnante
    Geoffrey Hinton, que beaucoup considèrent comme étant le “parrain de l’IA”, craint que cette dernière ne finisse par devenir nuisible. Dans ce cadre, le chercheur estime que celle-ci devrait être…

    Il y a 1 jour et 3 heures

    Apps et Logiciels, Sécurité

  • Implants cérébraux : le patron d’OpenAI s’apprêterait à concurrencer Neuralink
    Implants cérébraux : le patron d’OpenAI s’apprêterait à concurrencer Neuralink
    L’entreprise d’interface cerveau-ordinateur d’Elon Musk, Neuralink, a du souci à se faire. En effet, un nouveau rapport laisse entendre que Sam Altman, patron d’OpenAI, serait en train de mettre en…

    Il y a 2 jours et 2 heures

    Apps et Logiciels, Objets connectés, Santé

  • L’intelligence artificielle rendrait votre médecin moins performant, selon cette étude
    L’intelligence artificielle rendrait votre médecin moins performant, selon cette étude
    L’IA va probablement révolutionner la médecine dans un futur proche. Mais, pour l’instant, des chercheurs ont remarqué que certains médecins utilisant l’IA auraient tendance à être de moins en moins…

    Il y a 2 jours et 2 heures

    Apps et Logiciels, Santé, Science

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan