ChatGPT : voici les scénarios catastrophes qui empêchent le patron d’OpenAI de dormir
Si pratique soit-elle, l’intelligence artificielle n’est pas sans danger. C’est en tout cas ce que vient de laisser entendre Sam Altman, patron de longue date d’OpenAI.
De nombreuses personnalités nous ont déjà mis en garde contre les dangers de l’IA. On pense par exemple à Elon Musk qui, après nous avoir mis en garde, a créé sa propre entreprise d’IA, xAI. On pense également à James Cameron, qui a montré au public les dangers que pouvait représenter une intelligence artificielle hors de contrôle. Mais c’est cette fois au tour de Sam Altman, pourtant PDG d’OpenAI (ChatGPT), de faire part de ses inquiétudes à ce sujet.
Tout d’abord, Sam Altman semble craindre qu’un « méchant » arrive à atteindre la superintelligence — ou AGI — qu’OpenAI espère arriver à développer un jour. « Un méchant obtient la superintelligence en premier et l’utilise avant que le reste du monde ne dispose d’une version assez puissante pour se défendre », déclare le responsable.
OpenAI : les craintes de Sam Altman sont-elles fondées ?
« Un adversaire des États-Unis pourrait dire : “Je vais utiliser cette superintelligence pour concevoir une arme biologique, faire tomber le réseau électrique américain, pirater le système financier et voler l’argent de tout le monde.” Pour rappel, l’ancien président américain Joe Biden a déjà évoqué ses craintes à ce sujet, celui-ci craignant que l’IA soit un jour capable de créer des « armes biologiques ».
Ensuite, Sam Altman craint que l’IA ne prenne un jour « le contrôle du monde », ce qui rappelle, une nouvelle fois, le film Terminator de James Cameron. Les systèmes d’IA seraient « si intégrés à la société que nous ne comprenons plus vraiment ce qu’ils font, mais que nous devons tout de même nous y fier. Et même sans la moindre malveillance de quiconque, la société pourrait simplement dévier dans une direction étrange », ajoute-t-il.
« Cela signifierait que la société a collectivement transféré une part importante de la prise de décision à ce système très puissant qui apprend de nous, progresse avec nous, évolue avec nous — mais d’une manière que nous ne comprenons pas totalement. »
Source : digitaltrends