ChatGPT Atlas : les navigateurs d’IA poseraient de graves problèmes de sécurité, selon des spécialistes

OpenAI vient tout juste de dévoiler Atlas, son nouveau navigateur web boosté à l’intelligence artificielle. Mais selon certains spécialistes, ce genre de navigateurs mettrait en danger la vie privée des utilisateurs…

Le moins que l’on puisse dire, c’est que l’Internet et l’intelligence artificielle sont désormais intimement liés. En effet, près de la moitié du contenu en ligne serait générée par l’IA. D’ailleurs, Google a récemment tiré la sonnette d’alarme, affirmant que le web serait en « déclin » à cause de l’IA. Et pourtant, cela n’empêche pas cette dernière de débarquer sur certains navigateurs, tels qu’Opera. Mais OpenAI, à qui l’on doit le célèbre ChatGPT, est allée encore plus loin en lançant un navigateur basé sur l’IA, sobrement baptisé ChatGPT Atlas.

Ces navigateurs, tels que Comet de Perplexity ou Atlas d’OpenAI, demandent des permissions d’accès élevées, car ils sont capables d’examiner certaines données personnelles des utilisateurs. Jusque-là, rien de particulièrement inhabituel.

Une faille de sécurité majeure

En revanche, les navigateurs d’IA ont également la possibilité d’effectuer de nombreuses tâches à la place des utilisateurs, ce qui peut poser problème. En effet, des acteurs malveillants pourraient exploiter une faille appelée attaque par injection de prompt.

Les hackers seraient ainsi en mesure de dissimuler des instructions nuisibles sur certaines pages web. Une IA explorant ladite page pourrait alors se laisser piéger et exécuter ces actions malveillantes sans que l’utilisateur ne s’en rende compte.

D’ailleurs, l’entreprise à l’origine du navigateur Brave, axé sur la sécurité et la confidentialité, a récemment mis en garde les utilisateurs des navigateurs web à intelligence artificielle. « Il y a là une énorme opportunité pour faciliter la vie des utilisateurs, mais le navigateur exécute désormais des actions en votre nom, » déclare Shivan Sahib, ingénieur principal en recherche et confidentialité chez Brave. « C’est fondamentalement dangereux, et cela représente une nouvelle frontière en matière de sécurité des navigateurs. »

Le responsable de la sécurité de l’information d’OpenAI lui-même, Dane Stuckey, reconnaît le problème. « L’injection de prompt reste un problème de sécurité de pointe non résolu, et nos adversaires consacreront beaucoup de temps et de ressources à trouver des moyens de piéger les agents ChatGPT, » a-t-il prévenu.

Source : techcrunch