PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / Un ancien employé d’OpenAI (ChatGPT) estime que l’IA a 70% de chances de détruire l’humanité

Un ancien employé d’OpenAI (ChatGPT) estime que l’IA a 70% de chances de détruire l’humanité

Par David Laurent le 5 juin 2024

Une récente lettre ouverte, publiée par d’anciens et d’actuels employés d’OpenAI, affirme que ces derniers sont réduits au silence lorsqu’ils soulèvent des questions de sécurité. Pire : l’un d’entre eux estime que l’IA pourrait gravement nuire à l’humanité.

De nombreuses personnalités nous ont déjà mis en garde contre les dangers de l’IA. On pense par exemple à James Cameron, qui prédit un avenir sombre dans son film Terminator, dans lequel une IA nommée Skynet tente de détruire l’humanité. OpenAI, à qui on doit le célèbre ChatGPT, étudie d’ailleurs les risques de catastrophes nucléaires engendrés par l’IA. Mais l’entreprise semble aussi ne pas tenir compte des craintes émises par certains de ses employés. D’ailleurs, le responsable de la sécurité d’OpenAI a récemment quitté l’entreprise.

Terminator : Survivor
Crédit photo : Nacon

Daniel Kokotajlo, ancien chercheur d’OpenAI, a ainsi accusé l’entreprise d’ignorer les risques “monumentaux” posés par l’intelligence artificielle générale (AGI), une forme d’IA superintelligente que l’entreprise serait en train de développer. Ce dernier affirme : « OpenAI est très enthousiaste à l’idée de construire l’AGI et elle se lance dans une course effrénée pour être la première à le faire ».

OpenAI : l’humanité court-elle à sa perte ?

Le chercheur, qui a rejoint OpenAI en 2022 afin d’anticiper les progrès de l’IA, a acquis la conviction non seulement que l’industrie atteindrait l’AGI d’ici à 2027, mais aussi qu’il y avait une forte probabilité qu’elle nuise à l’humanité. L’affirmation la plus inquiétante émise par le chercheur est sans doute le fait que la probabilité que l’IA détruise l’humanité est d’environ 70 %.

Daniel Kokotajlo était tellement convaincu par ses propres prédictions qu’il a fini par demander personnellement à Sam Altman, l’actuel PDG d’OpenAI, de « pivoter vers la sécurité » et de consacrer plus de temps à la mise en place de garde-fous pour contrôler l’IA, plutôt que de chercher à rendre cette dernière toujours plus intelligente.

Peu de temps après la publication de ces déclarations, OpenAI a tenu à rassurer le public. L’entreprise affirme ainsi : « Nous sommes fiers de nos antécédents en matière de fourniture des systèmes d’IA les plus performants et les plus sûrs, et nous croyons en notre approche scientifique de la gestion des risques ».

Source : futurism

Article précédent

OpenAI : ce pirate informatique met en ligne une version « Godmode » de ChatGPT

mai 31, 2024

Article suivant

Cette nouvelle IA permet de traduire les aboiements de votre chien

juin 7, 2024

Un homme et son chien
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • Disney et NBC Universal entrent en guerre contre le générateur d’images Midjourney
    Disney et NBC Universal entrent en guerre contre le générateur d’images Midjourney
    Les deux géants hollywoodiens intentent un procès au célèbre générateur Midjourney. Ces derniers accusent l’entreprise de s’approprier des œuvres protégées par le droit d’auteur afin d’en tirer des bénéfices. Si…

    Il y a 20 heures et 5 minutes

    Apps et Logiciels, Cinéma

  • Siri : Apple tente de justifier son retard en matière d’IA
    Siri : Apple tente de justifier son retard en matière d’IA
    Apple accumule un certain retard en matière d’IA, et tout spécialement concernant Siri. Craig Federighi, responsable des logiciels chez Apple, et Greg Joswiak, responsable du marketing, ont tous deux tenu…

    Il y a 20 heures et 6 minutes

    Apps et Logiciels, iOS, Mobilité

  • ChatGPT a réussi à perdre aux échecs face à une Atari 2600 de 1977
    ChatGPT a réussi à perdre aux échecs face à une Atari 2600 de 1977
    L’IA peut parfois surprendre en affichant une intelligence particulièrement poussée. Et pourtant, le célèbre ChatGPT a été battu aux échecs sans aucune difficulté par une antique console Atari 2600. L’intelligence…

    Il y a 1 jour et 20 heures

    Apps et Logiciels, Insolite

  • Apple dévoile Visual Intelligence, une IA qui espionne votre écran
    Apple dévoile Visual Intelligence, une IA qui espionne votre écran
    Le WWDC 2025 aura permis à Apple de dévoiler un nouveau système d’IA, baptisé Visual Intelligence. Cette dernière vous permet d’interagir avec l’IA à propos de ce qui est directement…

    Il y a 2 jours et 20 heures

    Apps et Logiciels, iOS, Mobilité

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan