L’intelligence artificielle pourrait signer la fin de l’anonymat sur internet, selon cette étude
Se cacher derrière un pseudonyme pourrait être de plus en plus difficile. Une nouvelle étude suggère en effet que l’IA permettrait d’identifier rapidement des profils sur internet…
Le moins que l’on puisse dire, c’est que la protection de la vie privée des utilisateurs sur internet est un sujet sensible. Discord projette par exemple de procéder à une vérification faciale pour ses utilisateurs. Mais, face aux contestations, la plateforme a finalement décidé de repousser son initiative. Et pourtant, l’émergence de l’intelligence artificielle pourrait radicalement changer la donne. En effet, une nouvelle étude laisse entendre qu’une telle technologie pourrait être utilisée pour identifier des personnes via leurs profils en ligne.
Une équipe de chercheurs de l’ETH Zurich, accompagnée par la célèbre entreprise d’IA Anthropic, a décidé de mener l’enquête. Selon eux, l’intelligence artificielle pourrait rapidement identifier une personne cachée derrière un pseudonyme. Ainsi, l’IA pourrait puiser dans les contenus disponibles sur des sites tels que Reddit, LinkedIn ou encore Hacker News, afin d’établir un profil précis.
« Les LLM démocratisent la désanonymisation »
« Ce que nous avons découvert, c’est que ces agents d’IA peuvent faire quelque chose qui était auparavant très difficile : à partir d’un texte libre (comme une transcription d’entretien anonymisée), ils peuvent remonter jusqu’à l’identité complète d’une personne », explique Simon Lermen, coauteur de l’étude et ingénieur en IA.
« C’est une capacité assez nouvelle ; les approches précédentes de réidentification nécessitaient généralement des données structurées et deux ensembles de données ayant un schéma similaire pouvant être reliés entre eux », affirme le chercheur.
À lire > Meta brevette une IA capable de prendre le contrôle de votre compte Facebook après votre mort
Mieux encore : l’IA serait capable d’identifier des individus en se basant sur de simples commentaires. Les chercheurs ont en effet pu constater que celle-ci pouvait faire mouche en lisant des commentaires de films sur Reddit, ou encore en prenant en compte les réponses des utilisateurs à des sondages ayant pour sujet… l’intelligence artificielle.
Mais ce genre de prouesses pourrait également être utilisé de manière intéressée, voire malveillante. « Les entreprises pourraient relier des messages publiés sur des forums apparemment anonymes à des profils clients afin de faire de la publicité hyper ciblée », ajoutent les chercheurs. « Des attaquants pourraient construire à grande échelle des profils sophistiqués de leurs cibles afin de lancer des arnaques d’ingénierie sociale hautement personnalisées. »
De plus, selon les chercheurs, l’IA permettrait aux gouvernements de « relier des comptes pseudonymes à des identités réelles afin de surveiller des dissidents, des journalistes ou des militants ». « Les LLM démocratisent la désanonymisation », conclut l’étude.
Source : futurism