PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / Un ancien employé d’OpenAI (ChatGPT) estime que l’IA a 70% de chances de détruire l’humanité

Un ancien employé d’OpenAI (ChatGPT) estime que l’IA a 70% de chances de détruire l’humanité

Par David Laurent le 5 juin 2024

Une récente lettre ouverte, publiée par d’anciens et d’actuels employés d’OpenAI, affirme que ces derniers sont réduits au silence lorsqu’ils soulèvent des questions de sécurité. Pire : l’un d’entre eux estime que l’IA pourrait gravement nuire à l’humanité.

De nombreuses personnalités nous ont déjà mis en garde contre les dangers de l’IA. On pense par exemple à James Cameron, qui prédit un avenir sombre dans son film Terminator, dans lequel une IA nommée Skynet tente de détruire l’humanité. OpenAI, à qui on doit le célèbre ChatGPT, étudie d’ailleurs les risques de catastrophes nucléaires engendrés par l’IA. Mais l’entreprise semble aussi ne pas tenir compte des craintes émises par certains de ses employés. D’ailleurs, le responsable de la sécurité d’OpenAI a récemment quitté l’entreprise.

Terminator : Survivor
Crédit photo : Nacon

Daniel Kokotajlo, ancien chercheur d’OpenAI, a ainsi accusé l’entreprise d’ignorer les risques “monumentaux” posés par l’intelligence artificielle générale (AGI), une forme d’IA superintelligente que l’entreprise serait en train de développer. Ce dernier affirme : « OpenAI est très enthousiaste à l’idée de construire l’AGI et elle se lance dans une course effrénée pour être la première à le faire ».

OpenAI : l’humanité court-elle à sa perte ?

Le chercheur, qui a rejoint OpenAI en 2022 afin d’anticiper les progrès de l’IA, a acquis la conviction non seulement que l’industrie atteindrait l’AGI d’ici à 2027, mais aussi qu’il y avait une forte probabilité qu’elle nuise à l’humanité. L’affirmation la plus inquiétante émise par le chercheur est sans doute le fait que la probabilité que l’IA détruise l’humanité est d’environ 70 %.

Daniel Kokotajlo était tellement convaincu par ses propres prédictions qu’il a fini par demander personnellement à Sam Altman, l’actuel PDG d’OpenAI, de « pivoter vers la sécurité » et de consacrer plus de temps à la mise en place de garde-fous pour contrôler l’IA, plutôt que de chercher à rendre cette dernière toujours plus intelligente.

Peu de temps après la publication de ces déclarations, OpenAI a tenu à rassurer le public. L’entreprise affirme ainsi : « Nous sommes fiers de nos antécédents en matière de fourniture des systèmes d’IA les plus performants et les plus sûrs, et nous croyons en notre approche scientifique de la gestion des risques ».

Source : futurism

Article précédent

OpenAI : ce pirate informatique met en ligne une version « Godmode » de ChatGPT

mai 31, 2024

Article suivant

Cette nouvelle IA permet de traduire les aboiements de votre chien

juin 7, 2024

Un homme et son chien
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • Ce groupe de rock indé serait entièrement géré par l’IA
    Ce groupe de rock indé serait entièrement géré par l’IA
    De nos jours, il est parfois difficile de faire la distinction entre les œuvres originales et celles générées par l’IA. C’est en tout cas ce qu’a pu constater le groupe…

    Il y a 17 heures et 53 minutes

    Apps et Logiciels, Streaming

  • OpenAI : le créateur de ChatGPT sera-t-il en mesure de résister à Meta ?
    OpenAI : le créateur de ChatGPT sera-t-il en mesure de résister à Meta ?
    La semaine dernière, Meta embauchait une dizaine de spécialistes d’OpenAI pour travailler sur ses projets d’IA. Mais ces départs à répétition semblent inquiéter la direction d’OpenAI. Si l’ancien patron de…

    Il y a 17 heures et 54 minutes

    Apps et Logiciels

  • Audos : cette start-up d’IA veut créer 100 000 entreprises par an
    Audos : cette start-up d’IA veut créer 100 000 entreprises par an
    Basée à New York, la start-up Audos a des ambitions bien particulières. Celle-ci veut aider les entrepreneurs à se lancer grâce à l’intelligence artificielle, Audos prévoyant d’aider à la création…

    Il y a 5 jours et 17 heures

    Apps et Logiciels, Web

  • L’intelligence artificielle nous rendrait moins intelligents, selon ces chercheurs
    L’intelligence artificielle nous rendrait moins intelligents, selon ces chercheurs
    De nos jours, nombre d’entre nous ont du mal à se passer d’une IA telle que ChatGPT dans le cadre de leurs recherches. Malheureusement, cette méthode aurait tendance à nous…

    Il y a 5 jours et 17 heures

    Apps et Logiciels, Web

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan