Des agents d’IA d’OpenAI auraient infiltré des bases de données, et ça inquiète les chercheurs

Une équipe de chercheurs indépendants affirme avoir découvert des activités suspectes menées par des agents d’IA d’OpenAI. Ces derniers tenteraient de s’introduire dans des bases de données en ligne.

L’intelligence artificielle évolue vite, très vite. Trop vite, peut-être. En effet, celle-ci gagne en « indépendance » via la création d’agents d’IA capables d’agir de manière relativement autonome. D’ailleurs, l’un d’entre eux, développé par OpenAI, a tenté de s’en prendre à un véritable site au cours de ce qui devait être un simple test. Cette affaire a fait grand bruit, à tel point qu’un responsable de l’ONU a pris la parole pour dénoncer « un risque existentiel pour l’humanité ».

D’ailleurs, plusieurs entreprises d’IA, dont Google et OpenAI elle-même, se sont regroupées pour tirer la sonnette d’alarme. Et, si Donald Trump en a profité pour renommer l’IA, l’ancien président américain Barack Obama a quant à lui mis en garde les démocrates en expliquant que « cela peut être dangereux ».

Et pourtant, il semblerait que cet incident ne soit que la partie émergée de l’iceberg. C’est en tout cas ce que laisse entendre Transluce, un laboratoire à but non lucratif consacré à la supervision de l’IA.

OpenAI : quand les agents d’IA se retrouvent sur un forum

La semaine dernière, celui-ci publiait un rapport plutôt inquiétant. Au cours de ce dernier, les chercheurs affirment que des agents d’OpenAI ont tenté d’accéder à des bases de données en ligne mal sécurisées. Parmi celles-ci, on retrouverait notamment la bibliothèque numérique de l’Université du Nouveau-Mexique, l’Australian Institute of Health and Welfare ainsi que Data USA.

« Nous avons découvert une grande quantité d’activité automatisée qui entretenait des liens étroits avec l’ensemble de données du DSE Wiki et dont OpenAI a maintenant confirmé qu’elle faisait au moins partiellement partie du même essaim », explique Conrad Stosz, responsable de la gouvernance chez Transluce.

Les chercheurs auraient par ailleurs mis au jour un forum obscur, dans lequel des agents d’IA interagiraient entre eux. Pour rappel, nous évoquions plus tôt cette année Moltbook, un « réseau social pour agents d’IA » révélant de graves failles de sécurité.

Quoi qu’il en soit, le chercheur affirme qu’« OpenAI en sait certainement davantage à ce sujet. Les autres laboratoires en savent certainement davantage également, mais ils ne l’ont pas rendu public. » Affaire à suivre, donc…

Source : TechCrunch