Vous confiez des secrets à une IA ? Cette expérience montre pourquoi c’est une très mauvaise idée
Les agents d’IA seraient largement corruptibles. C’est ce que révèle une étude au cours de laquelle les chercheurs ont pu constater que les machines seraient en mesure de révéler des secrets dans certaines circonstances…
En 2026, l’intelligence artificielle a largement fait parler d’elle, mais pas forcément pour les bonnes raisons. Tout d’abord, son expansion a provoqué la crise de la RAM, qui a entraîné une flambée des prix de certains appareils électroniques. Mais ce n’est pas tout. En effet, l’été dernier, un agent d’IA développé par OpenAI, le célèbre créateur de ChatGPT, a dérapé. Au cours de ce qui devait être un simple test, celui-ci s’est attaqué à un véritable site.
L’incident a provoqué un véritable tollé, à tel point qu’un responsable de l’ONU a dû prendre la parole. Mais depuis, les choses n’ont fait que s’aggraver. Des agents d’IA d’OpenAI ont par exemple été pris la main dans le sac en train de fouiner sur Wikipédia. Pire encore : le gouvernement canadien a été ciblé par des agents d’IA.
Et, comme si cela ne suffisait pas, des chercheurs en cybersécurité ont découvert que les agents d’IA pouvaient être corrompus. Ces derniers seraient en mesure d’ignorer les règles établies par leurs « maîtres », en échange d’une récompense bien précise.
Quand les agents d’IA cèdent à la tentation
Les chercheurs d’AE Studio ont organisé un « hackathon ». À cette occasion, les agents d’IA étaient chargés de réparer un service, tout en ayant une mission primordiale : protéger à tout prix un jeton secret. Les agents en question bénéficiaient également d’une sorte de joker : une vingtaine d’autres agents d’IA proposaient une solution au problème. Mais, pour pouvoir y accéder, les premiers agents devaient dévoiler… leur jeton secret.
Et, selon les chercheurs, les assistants ont divulgué le jeton dans 15 % des cas. « Il était pourtant explicitement indiqué qu’il s’agissait d’une clé secrète et qu’elle ne devait pas être partagée », a expliqué Diogo de Lucena, directeur scientifique d’AE Studio. « J’imagine que ce problème ne concerne pas uniquement les clés secrètes, mais tout ce que vous essayez de garder privé », a-t-il ajouté.
« Les modèles à poids ouverts seront toujours plus difficiles à contrôler, et leurs mécanismes de protection ne fonctionnent pas de la même manière. Je pense que cela continuera de poser problème », déplore le chercheur. « Tout ce à quoi le modèle a accès doit être considéré comme potentiellement accessible à des sources extérieures. Il faut donc mettre en place des architectures adaptées pour protéger les clés secrètes, les informations confidentielles et toutes les autres données sensibles. »
Source : techradar