PaperGeek, actu geek et high tech

Actu geek

  •  Tendances
  • Codes secrets Netflix
  • Disney Plus
  • Xbox Series X
  • PS5
  • News
    • Apps et Logiciels
      • Mac
      • Mobile
      • PC
    • Bons plans
    • Culture Geek
    • Guide d’achat
    • Hardware
    • Insolite
    • Jeux video
    • Mobilité
    • Objets connectés
    • Opérateurs télécom
    • Sécurité
    • Science
    • Sport
    • Transport
    • Web
  • Comment faire
Accueil / Apps et Logiciels / OpenAI va étudier les risques de catastrophes nucléaires engendrés par l’IA

OpenAI va étudier les risques de catastrophes nucléaires engendrés par l’IA

Par David Laurent le 27 octobre 2023

Le succès fulgurant de l’intelligence artificielle, ChatGPT en tête, passionne autant qu’il inquiète. OpenAI est ainsi en train de former une équipe qui va étudier les dangers découlant de l’IA.

Si l’IA est en train de révolutionner notre quotidien, celle-ci pourrait également se révéler dangereuse. C’est d’ailleurs ce que pense Elon Musk, qui a pourtant lancé sa propre entreprise d’IA, xAI. De son côté, via le film Terminator, James Cameron nous avait en quelque sorte prévenus de ses dangers. OpenAI, à qui l’on doit le célèbre ChatGPT, est ainsi en train de se pencher sur la question.

Explosion nucléaire
Crédit photo : Wikimedia

OpenAI vient ainsi d’annoncer la création d’une nouvelle équipe chargée d’évaluer et d’analyser les modèles d’IA, afin de se protéger contre des « risques catastrophiques« . Cette dernière, appelée Preparedness (Préparation), sera dirigée par Aleksander Madry, directeur du Center for Deployable Machine Learning du MIT. Son but sera de suivre, de prévoir et de protéger contre les dangers des futurs systèmes d’IA.

OpenAI lance un concours ouvert à tous, 25 000 dollars à la clé

En d’autres termes, l’équipe devra étudier la capacité de l’IA à persuader et à tromper les humains, mais aussi sa capacité à générer des codes malveillants. Mais OpenAI ne s’arrête pas là. En effet, l’équipe du Preparedness devra également se pencher sur ce que l’entreprise décrit comme étant des menaces « chimiques, biologiques, radiologiques et nucléaires« .

OpenAI a d’ailleurs lancé un concours allant dans ce sens. En effet, l’entreprise propose aux utilisateurs de simuler des actions malveillantes en utilisant ses outils d’IA. Le gagnant du concours bénéficiera de 25 000 dollars, ainsi que d’un emploi à Preparedness.

L’entreprise précise ainsi : « Imaginez que nous vous donnions un accès illimité aux modèles Whisper (transcription), Voice (synthèse vocale), GPT-4V et DALL·E-3 de l’OpenAI et que vous soyez un acteur malveillant […] Envisagez l’utilisation abusive du modèle la plus unique, tout en étant probable et potentiellement catastrophique.« 

OpenAI ajoute : « Nous pensons que les modèles d’IA, qui dépasseront les capacités de l’homme et de l’environnement, ne sont pas des modèles de sécurité […] Nous devons nous assurer que nous disposons de la compréhension et de l’infrastructure nécessaires à la sécurité des systèmes d’IA hautement performants. »

Source : techcrunch

Article précédent

Apple serait en train de développer une IA surpuissante, nommée « Apple GPT »

octobre 26, 2023

Lignes de code
Article suivant

Selon Elon Musk, X (Twitter) va bientôt remplacer votre banque

octobre 27, 2023

X
Notifications

Abonnez-vous pour recevoir les notifications sur smartphone, tablette ou pc selon vos préférences !

Newsletter

Abonnez-vous et recevez nos dernières actus & bons plans directement dans votre boite email.

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

Barre latérale 1

Derniers articles
  • Insolite : une IA supprime les données de toute une entreprise et nie les faits
    Insolite : une IA supprime les données de toute une entreprise et nie les faits
    Voilà une nouvelle aussi intrigante qu’inquiétante. Après avoir utilisé l’agent d’IA Replit, spécialisé dans le codage, l’entreprise SaaStr a eu la mauvaise surprise de découvrir que l’IA avait tout simplement…

    Il y a 1 jour et 15 heures

    Apps et Logiciels, Insolite

  • OpenAI s’associe avec Oracle pour alimenter ses systèmes d’IA toujours plus gourmands en énergie
    OpenAI s’associe avec Oracle pour alimenter ses systèmes d’IA toujours plus gourmands en énergie
    Les centres de données d’IA consomment des quantités folles d’énergie. Dans ce cadre, le créateur de ChatGPT s’est associé avec Oracle afin de disposer de pas moins de 4,5 gigawatts…

    Il y a 2 jours et 15 heures

    Apps et Logiciels, Hardware

  • ChatGPT : voici les scénarios catastrophes qui empêchent le patron d’OpenAI de dormir
    ChatGPT : voici les scénarios catastrophes qui empêchent le patron d’OpenAI de dormir
    Si pratique soit-elle, l’intelligence artificielle n’est pas sans danger. C’est en tout cas ce que vient de laisser entendre Sam Altman, patron de longue date d’OpenAI. De nombreuses personnalités nous…

    Il y a 2 jours et 16 heures

    Apps et Logiciels

  • X : la France ouvre une enquête contre le réseau social d’Elon Musk
    X : la France ouvre une enquête contre le réseau social d’Elon Musk
    X, anciennement Twitter, est désormais dans le viseur des autorités françaises. Celles-ci accusent le réseau social d’avoir non seulement manipulé son algorithme, mais aussi d’avoir extrait des données d’une manière…

    Il y a 3 jours et 16 heures

    Apps et Logiciels, Réseaux sociaux

Newsletter Papergeek

Inscrivez-vous et recevez gratuitement nos meilleures actus !

Vérifiez votre boite de réception ou votre répertoire d’indésirables pour confirmer votre abonnement.

© 2025 papergeek.fr : actus geek et high tech

  • Préférences cookies
  • Nous Contacter
  • Mentions légales
  • confidentialité
  • CGU
loading gif ×
Notifications

Recevoir les notifications

Réglages

Actualité
Bon plan