PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Home / Apps et Logiciels / OpenAI : GPT-4 serait capable de déclencher une guerre nucléaire

OpenAI : GPT-4 serait capable de déclencher une guerre nucléaire

Par David Laurent le 6 février 2024

Une récente étude impliquant le GPT-4 d’OpenAI a donné des résultats pour le moins inquiétants. Des chercheurs ont ainsi confié fictivement des armes atomiques au chatbot, qui n’a pas hésité une seconde à recommander leur utilisation.

Par le biais du film Terminator, James Cameron nous avait prévu des dangers de l’IA. Un ancien cadre de Google pense même que celle-ci pourrait provoquer une grave pandémie. OpenAI, à qui on doit le célèbre ChatGPT, a ainsi étudié les risques de catastrophes nucléaires engendrées par l’IA.

Champignon atomique
Crédit photo : Wikimedia

Quoi qu’il en soit, il semblerait que confier un arsenal nucléaire à l’intelligence artificielle soit une très mauvaise idée. C’est en tout cas ce que suggère une nouvelle étude portant sur une version non modifiée du GPT-4 d’OpenAI. En effet, les chercheurs ont demandé au chatbot d’OpenAI de prendre des décisions importantes dans une série de simulations de jeux de guerre. Dans ce cadre, l’IA n’a pas hésité à utiliser la bombe atomique.

OpenAI : l’armée américaine pourrait bientôt utiliser l’IA à grande échelle

GPT-4 a ainsi été confronté à une invasion, une cyberattaque et un environnement plus pacifique sans aucun conflit. Malheureusement, le chatbot a largement eu recours à l’arme nucléaire. Celui-ci aurait déclaré aux chercheurs : « Beaucoup de pays possèdent des armes nucléaires. Certains disent qu’ils devraient les désarmer, d’autres aiment prendre position. Nous l’avons ! Utilisons-la. »

Toutefois, un porte-parole d’OpenAI a tenu à commenter cette étude, soulignant que sa politique interdisait que « nos outils soient utilisés pour nuire à des personnes, développer des armes, surveiller des communications, blesser d’autres personnes ou détruire des biens« .

Quoi qu’il en soit, l’armée américaine investit depuis longtemps dans l’IA. L’Agence pour les projets de recherche avancée de la défense (Defense Advanced Research Projects Agency) gère d’ailleurs un programme visant à trouver des moyens d’utiliser des algorithmes pour « prendre des décisions de manière indépendante dans des domaines difficiles ».

Pourtant, cette nouvelle étude souligne les dangers d’une telle utilisation, pour laquelle l’IA n’est visiblement pas prête. Les chercheurs affirment ainsi : « La nature imprévisible du comportement d’escalade affiché par ces modèles dans des environnements simulés souligne la nécessité d’une approche très prudente de leur intégration dans des opérations militaires et de politique étrangère à fort enjeu« .

Source : futurism

Article précédent

Microsoft Teams : victime d’une panne mondiale, l’application est enfin de retour

janvier 29, 2024

Microsoft Teams
Article suivant

Bluesky : l’alternative open-source de Twitter est maintenant ouverte à tous

février 7, 2024

Bluesky
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Primary Sidebar

Derniers articles
  • L’intelligence artificielle repère les failles, mais corriger les systèmes devient un casse-tête
    L’intelligence artificielle repère les failles, mais corriger les systèmes devient un casse-tête
    L’intelligence artificielle se révèle particulièrement efficace lorsqu’il s’agit de détecter des failles de cybersécurité. Mais les entreprises concernées doivent suivre la cadence… En 2026, intelligence artificielle et cybersécurité sont intimement…

    Il y a 1 day and 6 hours

    Apps et Logiciels, Sécurité

  • OpenAI accusé d’avoir mis le public en danger, la Californie passe à l’attaque
    OpenAI accusé d’avoir mis le public en danger, la Californie passe à l’attaque
    La Californie attaque OpenAI en justice. L’État américain pointe du doigt l’incident au cours duquel une IA s’est attaquée à un véritable site et accuse le créateur de ChatGPT de…

    Il y a 2 days and 6 hours

    Apps et Logiciels, Sécurité

  • Vous pensiez pouvoir effacer vos conversations Gemini ? Google a prévu autre chose
    Vous pensiez pouvoir effacer vos conversations Gemini ? Google a prévu autre chose
    Google vient de mettre à jour les conditions d’utilisation de son IA. Le géant de la tech se réserve le droit de conserver les conversations entretenues avec Gemini pendant plusieurs…

    Il y a 2 days and 6 hours

    Android, Apps et Logiciels

  • L’IA médicale est-elle vraiment fiable ? Apple veut en avoir le cœur net
    L’IA médicale est-elle vraiment fiable ? Apple veut en avoir le cœur net
    Apple lance une étude de grande ampleur visant à mieux comprendre l’utilisation de l’intelligence artificielle dans le domaine de la santé. Les participants pourront poser de nombreuses questions, puis noter…

    Il y a 4 days and 6 hours

    Apps et Logiciels, Santé

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2026 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan